Stéphane Germain alerte sur les diverses menaces – climatiques et existentielles – que représente l’IA générative, dont il décrypte les promesses et l’idéologie : « Avec la belle promesse de penser comme nous à notre place et de créer comme nous à notre place, l’IA générative incite le monde entier à la paresse. Elle apparaît comme la quintessence suprême de la technologie puisqu’elle permet à la machine, bien au-delà de la mécanisation du travail manuel, de remplacer l’humain dans des sphères nébuleuses du travail intellectuel… Et si tout cela était faux ? Et si l’intelligence artificielle n’était pas une révolution technologique mais plutôt une idéologie favorisant la mécanisation des esprits »…
« Les élèves découvrent comment « sous-traiter » en moins d’une minute »
En l’espace d’un peu plus d’une année, via les smartphones et les ordinateurs, l’intelligence artificielle générative a fait une entrée fracassante dans les pratiques quotidiennes d’un grand nombre d’habitants de la planète au point où beaucoup n’hésitent pas à parler de révolution technologique mondiale. En matière d’éducation, les élèves découvrent comment « sous-traiter » en moins d’une minute, auprès des IA génératives, les productions demandées par les enseignants (dissertations, comptes-rendus, vidéos, images, graphiques, etc.) Beaucoup ont déjà acquis la capacité de rédaction de prompts adaptés. Dans le même temps, nombre de professeurs acquièrent cette même capacité afin de construire, toujours en moins d’une minute, des contenus d’enseignement qu’ils mettaient précédemment des heures à finaliser. Avec la belle promesse de penser comme nous à notre place et de créer comme nous à notre place, l’IA générative incite le monde entier à la paresse. Elle apparaît comme la quintessence suprême de la technologie puisqu’elle permet à la machine, bien au-delà de la mécanisation du travail manuel, de remplacer l’humain dans des sphères nébuleuses du travail intellectuel… Et si tout cela était faux ? Et si l’intelligence artificielle n’était pas une révolution technologique mais plutôt une idéologie favorisant la mécanisation des esprits ? Décryptage.
« Tout le monde veut pouvoir utiliser l’IA générative à des fins personnelles ou professionnelles »
Ce qui paraît indéniable avec l’IA générative, c’est qu’il s’agit là d’un nouveau marché – mondial – initié par les entreprises technologiques de la Silicon Valley. En atteste la forte demande planétaire : tout le monde veut pouvoir utiliser l’IA générative à des fins personnelles ou professionnelles. Dans la longue histoire des « success stories », parmi toutes les supputations de marchés porteurs, alors que certains « incubateurs » avaient parié sur le métavers et la réalité augmentée, c’est finalement l’IA qui a remporté la mise des nouveaux désirs et besoins des consommateurs. Mais l’IA générative est-elle vraiment différente du modèle économique des marchés précédents : ceux des réseaux sociaux et du commerce en ligne ?
Le modèle économique des géants de la Tech, les GAFAM et les entreprises technologiques qui gravitent autour, est celui de l’influence. Il s’agit de proposer des services, via des applications « gratuites » en contrepartie d’une autorisation à la captation et la marchandisation des données. Selon ce modèle, le consommateur est le produit puisque ses données viennent alimenter des entrepôts de données géants (les datacenters) afin de faire tourner des algorithmes permettant de caractériser finement les profils de consommateurs. C’est le principe de l’hyper-segmentation comportementale. Les données captées sont alors monétisées auprès des annonceurs qui viennent inonder de publicités ciblées les utilisateurs des services « gratuits ». En pistant scrupuleusement les utilisations que les consommateurs font de leur smartphone, en les trackant dans les moindres détails, les entreprises de la Tech sont capables de prédire et d’influencer les comportements d’achat, avec le soutien précieux de créateurs de contenus qui ont fait de l’influence leur métier grâce à une audience elle-aussi monétisée.
« Captation généralisée des données personnelles par quelques acteurs, privés de surcroît ? «
Les chiffres ne mentent pas. Avec un tel niveau de finesse dans la connaissance mondiale des comportements, les géants de la Tech sont capables de prédire aux annonceurs des volumes d’expositions ultraciblées se traduisant statistiquement en volumes de chiffres d’affaires, en fonction des produits envisagés. De ce côté, l’IA générative n’apporte rien de nouveau. Elle s’intègre pleinement dans le modèle économique de l’influence. Dans la course à la popularité, les applications d’IA paraissent apporter la nouveauté tant attendue aux consommateurs insatiables. En matière de diffusion de vidéos, la génération artificielle de courses d’animaux à vélo vient donc supplanter les publications de chats domestiques, devenues complètement désuètes au regard des nouvelles futilités offertes par la technologie.
De nos jours, cependant, le modèle économique de l’influence est largement décrié. S’il fait les affaires des géants de la Tech et des annonceurs, il pose un petit souci d’ordre éthique : est-il bien légitime de permettre une captation généralisée des données personnelles par quelques acteurs, privés de surcroît ? Ces considérations éthiques sont devenues prégnantes alors que le modèle de l’influence est venu déborder de la sphère commerciale pour envahir la sphère politique. Tout le monde connaît l’implication de Facebook dans le scandale Cambridge Analytica : la vente de données permettant d’influencer des élections politiques en Grande-Bretagne (Brexit) et aux Etats-Unis (Trump 2016). Tout le monde connaît l’utilisation de Whatsapp comme outil d’influence de Bolsonaro au Brésil. Tout monde connaît l’utilisation de Tik-Tok comme outil d’ingérence dans de nombreuses élections, la plus récente étant les législatives en Roumanie. Tout le monde connaît l’influence de X (ex Twitter) dans le résultat des dernières élections américaines (Trump 2024). Tous ces cas ont été documentés par la presse et reconnus par des décisions de justice (à l’exception de l’élection Trump 2024 pour laquelle l’influence de X n’a pas encore été reconnue par la justice américaine).
« Les IA créent un univers et participent à un récit »
Avec l’IA générative, le modèle de l’influence est décuplé. Il ne s’agit plus de cibler avec précision les électeurs indécis des swing-states pour inonder leurs smartphones de contenus propres à les faire basculer. Non, avec l’IA générative, ce sont tous les utilisateurs qui sont ciblés. En générant artificiellement des contenus, les IA créent un univers et participent à un récit. Ce récit est celui des géants de la Tech : des hommes blancs, avides de technologie, avides de pouvoir, sans considération pour la préservation des écosystèmes vivants et la dignité humaine, ayant de plus la fâcheuse tendance à se croire supérieur aux autres (quand ils ne pensent pas qu’ils sont des élus chargés de présider à la destinée du monde). Chacun peut aisément faire l’expérience de ce récit en rédigeant ses prompts. Lorsqu’on demande aux IA de générer des contenus qui sortent de l’univers proposé par la Tech, elles ne savent produire que des aberrations.
A bien y réfléchir, les intelligences artificielles n’ont d’intelligence que le nom. Si on retient comme acception de l’intelligence l’aptitude à faire face à une situation problématique nouvelle, on perçoit aisément que les IA génératives, aussi performantes qu’elles puissent être à produire du contenu combinatoire à partir de bases de données, ne sont que des outils d’automatisation incapables d’apporter des réponses à la nouveauté. La recombinaison de l’existant n’a jamais produit autre chose que du bavardage : des digressions infinies sur un univers fini. Or, l’univers des IA est un univers étriqué, très éloigné de l’univers infini de l’âme humaine. Aussi imposantes qu’elles puissent être, et même avec les perspectives de croissance exponentielle annoncées par les entreprises de la Tech, les bases de données génératives ne sont et ne seront jamais rien au regard de la multitude des possibilités contenues dans les procédés d’intelligence collective de l’humanité. En nous poussant à la paresse dans nos manières de penser, en nous poussant à la paresse dans nos manières de créer, en nous propulsant dans un univers étriqué porteur d’une vision spécifique de l’humanité, l’IA générative est le support massif d’une idéologie reposant sur une conception très particulière des rapports sociaux et du rôle des êtres humains sur Terre. Cette idéologie, celle des géants de la Tech, conduit à une forme de mécanisation des esprits à grande échelle.
« Cette alerte qu’il faut avoir à l’esprit »
Les thuriféraires de cette idéologie, toujours plus nombreux chaque jour, ne s’embarrassent pas du fait que l’IA est potentiellement une bombe environnementale. C’est en cela qu’il faut prendre au sérieux les alertes lancées par Meredith Whittaker, ancienne salariée de Google, actuellement présidente de Signal Fondation[1] et cofondatrice de l’institut de recherche sur l’éthique IA Now[2] : « Ce qui m’inquiète est que l’intelligence artificielle est en train de métastaser le modèle économique de la surveillance. De ce point de vue, on peut considérer l’IA comme un dérivé extrême de cette surveillance de masse et non comme une technologie fondamentalement nouvelle. C’est un moyen d’utiliser davantage les données et les calculs qui étaient déjà au cœur du marché de ces entreprises. Ce n’est pas une étape de plus sur l’arc positiviste du progrès scientifique. L’IA consomme énormément d’énergie et énormément d’eau. C’est une menace existentielle car elle contribue à la vraie menace existentielle qui est devant nous tous, à savoir la catastrophe climatique »[3]. Quand on est acteur de l’éducation, c’est cette alerte qu’il faut avoir à l’esprit, et toute la réflexion critique qui l’accompagne, avant de légitimer auprès des élèves le recours aux IA génératives.
Stéphane Germain
[1] Signal est une messagerie rivale de Whatsapp qui protège les données de ses utilisateurs : https://signalfoundation.org/fr/
[2] https://ainowinstitute.org/
[3] Ces propos sont extraits de la mini-série d’Arte.tv « Silicon Fucking Valley » que je recommande vivement pour ses vertus pédagogiques. https://www.arte.tv/fr/videos/RC-025898/silicon-fucking-valley/
