Celles et ceux qui me fréquentent m’entendent bien assez le dire : je suis contre l’IA générative. On me dit souvent que, connecté et geek comme je suis, je devrais être à fond dedans. Mais non, cette technologie a bien trop de mauvais aspects pour que je m’y colle. Attention, je ne parle pas de l’IA dans son ensemble, dont certains aspects fonctionnent bien (en médecine, en recherche de nouvelles particules, en astronomie, dans des sciences complexes, on a des applications de l’IA qui amènent des résultats intéressants) ; je parle de l’IA générative, les LLM de type ChatGPT, Grok, Claude, Midjourney, Gemini, DeepSeek, Sora, Dall-E et autres. En l’état, en plus de ces mauvais aspects qui me rebutent, je ne vois pas de raison de me tourner vers ces produits, même si on nous pousse à les utiliser au quotidien avec des injonctions parfois énormes. Mais pourquoi donc, à mon avis, ces IAG sont-elles à éviter?
Le coût en ressources
Commençons par un aspect très technique et simple… L’IAG a un coût énergétique absolument monstrueux. La moindre requête nécessite une consommation électrique et d’eau énorme, avec une production de CO2 importante. Effectuer une recherche internet en version IAG ou standard décuple la consommation énergétique. On en est quand même au stade de permis de construire pour des centrales électriques ayant pour seul but d’alimenter les fermes à serveurs des IAG. Les derniers chiffres montrent que la consommation de ressources de l’IAG dépasse celle de certains pays (et je ne parle pas du Vatican ou du Liechtenstein). Cette course à la puissance que se livrent les différents moteurs provoque une augmentation exponentielle de la consommation d’énergie et d’eau. Quand on voit des campagnes de comm faites en IAG pour des associations ou des collectivités publiques qui se veulent durables et qui prétendent défendre l’environnement (Greenpeace ou le WWF pour ne pas les nommer, par exemple), c’est quand même du gros foutage de gueule.
À noter que ce problème de ressources se fait sentir sur bien d’autres domaines de la tech. La demande est tellement grande que l’on va avoir un gros impact sur d’autres équipements. Les constructeurs de puces ont bien plus de rentabilité avec les commandes des géants de l’IA et privilégient donc ces clients. Le manque de disponibilité sur la RAM transforme cette dernière en élément de luxe, et se monter un PC performant (graphisme, jeu, etc.) va nécessiter encore plus d’argent ; pour peu que l’on trouve les composants, puisque la RAM comme les cartes graphiques ou les SSD se font rares sur les rayonnages. Les prochains smartphones vont reculer en performances avec moins de RAM. Les prochaines générations de consoles vont être retardées pour manque de disponibilité de matériel. Alors oui, on parle de trucs secondaires, de luxe, de first-world problems, mais on a quand même un phénomène à l’utilité toute relative (l’IAG) qui impacte négativement divers pans de notre société de consommation qui sont très appréciés par des millions de gens.
Le respect des créateurs
La base même du fonctionnement de l’IAG, c’est d’aller se nourrir de tout ce qui est disponible. Il s’agit là du truc de base des LLM, de ces modèles de langage qui fondent l’IAG, qu’elle soit textuelle, d’images ou de vidéos. C’est admis, les géants de l’IA le disent publiquement : leurs systèmes ne peuvent pas fonctionner s’ils ne vont pas pomper tout ce qu’ils peuvent trouver sur le web. Et bien évidemment, tout cela sans jamais consulter les créateurs de ces contenus. L’IAG fonctionne en sortant un bout de contenu, et en mettant à côté ce qui a le plus de chances de s’y trouver en fonction des milliards de mots et d’images qu’elle a pu avaler ; c’est juste une question de statistiques et de probabilités. Et pour cela, et bien on doit connaître les contenus. L’IAG ne maîtrise pas du tout la langue, n’en connaît pas directement les règles, mais elle a avalé tellement de textes qu’elle peut en recracher des bouts mis côte à côte.
Mais quid du respect des créateurs? Bien sûr, si demain j’écris un texte ou je dessine un truc, ce sera en m’inspirant de tout ce que je connais, ce que j’ai lu, vu, entendu, étudié, etc. Mais cela aura été digéré par mon esprit pour le transformer en inspiration. Pour devenir une base de création. Et j’aurai créé quelque chose de nouveau. J’entends dire que l’IAG fait pareil. Non, elle ne s’inspire pas (elle en est bien incapable) ; l’IAG reprend tels quels des trucs existants pour le recracher en bouillie mixant tout cela sans réflexion derrière.
Mais tout cela, c’est « plus facile » et « moins cher ». Des boîtes font faire des designs et des images par l’IA pour leurs diverses campagnes de pub afin d’éviter de payer des graphistes qui pourraient faire un vrai travail de création (je reviendrai plus bas sur la qualité des résultats). Les créatifs en question perdent clairement des contrats, ont moins de revenus. Et donc quoi? Le jour où ils ne pourront plus vivre de leur art, qui créera? Que restera-t-il? L’IAG n’aura plus que ses propres créations sur lesquelles se reposer pour sortir du contenu. La boucle sera bouclée et le résultat sera bien triste.
Et au passage, je vous rappelle que l’IAG ne crée rien, ce n’est pas de l’art. L’art est une création humaine nécessitant de l’émotion. Quand quelqu’un se prétend « IA artist » (terme que l’on voit fleurir sur internet), cela n’a rien à voir avec l’art ou la création. Ces personnes savent juste manipuler les prompts demandant à l’IAG de produire quelque chose. Ils sont dans la même position que moi quand je commissionne un artiste pour réaliser quelque chose, ils demandent juste un résultat. Sauf que moi, en allant vers un artiste, j’attends une création, je fais fonctionner l’humain, l’esprit, l’âme. Je ne cherche pas à aller allègrement piller le travail des autres sans aucune reconnaissance.
La qualité des résultats
Soyons honnêtes, la qualité des résultats de l’utilisation de l’IAG me laisse dubitatif. Diverses études ont montré des taux d’erreurs importants dans les résultats de recherche via l’IAG. Les modèles sont faits pour halluciner à un moment ou à un autre ; ils sont programmés pour donner une réponse car l’être humain n’aime pas rester sans réponse, et ils préfèreront donner une réponse fausse plutôt que pas de réponse. Sans parler du fait qu’ils sont très orientés par la manière dont ils ont été « éduqués », on le voit par exemple avec les résultats de Grok complètement détournés par les idées folles de Musk. On voit des codeurs expliquant qu’ils perdent plus de temps avec les codes générés par IA car ceux-ci ne fonctionnent pas et il est bien plus long de débugger un code que l’on n’a pas écrit.
Et il faut encore parler des créations d’images ou de vidéos. Certes, la qualité a énormément augmenté, et certains modèles permettent de faire du photoréalisme ; il devient parfois très difficile de faire la différence entre des trucs générés par l’IAG et de vraies images (voir plus bas pour les conséquences). Mais il n’en reste pas moins que la grande majorité des contenus générés par IAG a une certaine touche, un style. On voit de moins en moins de chevaux à cinq pattes et de mains à six doigts (surtout dans les trucs produits par de grosses boîtes qui ont mis les moyens, quoiqu’encore cet hiver, il y avait cette pub Migros et son renne à cinq pattes ou celle de Manor avec ses perspectives non euclidiennes). Mais par contre, il y a ces petits détails qui standardisent le résultat, qui le rendent fade, des tonalités, des styles, qui commencent à envahir le Net et qui me mettent mal à l’aise. En se baladant sur internet, quand je me dis « c’est de l’IA », et bien j’ai raison 99% du temps . Par contre, il m’arrive aussi assez souvent de ne pas la détecter rapidement, au vu de l’amélioration de certains modèles.
On voit donc déferler sur le net des gigatonnes d’images pourries, plates, fades, sans émotion, sans rien derrière. Je préfère mille fois un dessin mal réalisé, mais humain avec une vraie création derrière, plutôt qu’un truc sans âme généré par IA. Si on vient me présenter demain un document quelconque (rapport au boulot, affiche politique, roman, jeu, etc.) dont la couverture est en IA, je vais directement étiqueter l’auteur du truc comme se reposant sur cette technologie. Qu’est-ce qui me prouve que, derrière le travail sur le texte, sur le contenu, vient bien de l’auteur annoncé? Si ce dernier est prêt à se faire remplacer pour une partie de son travail, jusqu’où ira-t-il? Et cela me fait remettre en question la qualité du travail en question.
Parlons aussi de la traduction par IA générative. Si je veux bien utiliser mon téléphone pour traduire un mot ou deux, il y a là aussi un énorme pas. Actuellement, les postes de traducteurs disparaissent, on les remplace par l’IA générative. J’ai même vu un éditeur de romans annoncer se passer complètement de ce type de poste. Alors que la traduction, pour être bien faite, nécessite sensibilité et émotion, connaissance du contexte, de la culture, etc. Bref, des choses que l’IAG ne peut par définition pas connaître. La baisse de qualité est au rendez-vous là aussi.
Et nos films, nos séries, nos romans? Laissons l’IAG les écrire, comme le demandent certaines majors du divertissement. Pour arriver à quoi? Comme dit plus haut pour l’art visuel, on obtient une boucle qui s’auto-nourrit pour des créations plates et sans saveur, sans ce petit plus que seule l’émotion peut donner.
Qui veut qu’on utilise l’IAG?
Derrière les managers et chefs qui demandent aux gens de se mettre à l’IA, on a des incitations qui viennent d’ailleurs, pas dans leur entreprise. Quand on voit NVidia, principal constructeur de puces dédiées à cette technologie, et OpenAI, ceux de ChatGPT, qui investissent massivement l’un dans l’autre, on peut se demander qui a intérêt à ce que l’on utilise l’IA. Les injonctions viennent des grands pontes de la tech qui investissent là-dedans pour des entreprises qui tournent actuellement à perte dans une bulle dangereuse ne tenant que par des investissements entre eux et autres arrangements.
Et puis ces grandes boîtes sont au final bien contentes de récolter encore plus de données sur tout le monde. À partir du moment où on leur livre toutes nos pensées et où on discute avec une IA comme avec un pote/psy/amoureux, on lui dit tout, et paf encore plus de données personnelles monnayables et utilisables à volonté. Je sais bien que, possesseur de smartphone et assez connecté, je livre déjà beaucoup de choses aux GAFA ; mais avec l’IA c’est un pas supplémentaire.
Il y a pas si longtemps, je voyais les chiffres de je ne sais plus quelle plateforme de streaming musical dont la majorité des titres provenaient de l’IA… et étaient « écoutés » majoritairement par des IA. Donc un seul but de pompe à fric via les « écoutes » et les clics. C’est ça la culture que l’on veut? Est-ce là l’art du futur? Quelle est le but de la création musicale?
Les travailleurs invisibles du clic
Quand on dit IA, on envisage souvent des tâches dédiées aux machines, et donc moins de tâches et de travail pour les humains, donc licenciements. Mais l’IA c’est aussi un travail humain spécifique derrière. Afin de faire progresser ces modèles de langage, il y a tout un système de petites mains payées une misère dans des pays en voie de développement. Ces travailleurs invisibles du clic passent leurs journées à regarder des images et les valider, « éduquant » ainsi les systèmes. Et comme ces systèmes sont faits à partir de toutes les informations du web, nos travailleurs du clic se retrouvent exposés à longueur de journée à des images de pédopornographie, violence, massacres, tortures, viols, etc. Avec bien évidemment tous les problèmes psys pouvant découler d’une telle exposition. Et si on veut que l’IA avance et se développe, on ne peut pas se passer de ce travail ; c’est comme le vol de la propriété intellectuelle, cela fait partie intégrante du fonctionnement de ces IA génératives. Est-ce un mouvement que l’on souhaite soutenir?
Ouais mais faut vivre avec son temps…
« Non mais l’IA est là, va falloir faire avec. »
« C’est l’avenir, tu peux pas l’éviter. »
« Faut vivre avec ton temps, et l’IA c’est l’avenir. »
« Tu fais les mêmes réflexions qu’à l’arrivée de l’appareil photo. »
J’en passe et des meilleures. Combien de fois j’entends ce genre de remarques? Alors déjà, la pauvreté, l’exclusion, le fascisme, ça existe aussi, et c’est pas pour autant que c’est acceptable dans notre société. Argument invalide. Ce n’est pas parce qu’on veut te forcer à bouffer d’un truc à toutes les sauces que c’est forcément obligatoire. On peut très bien s’en passer.
Quant à la comparaison avec l’appareil photo, ou Photoshop, ou le correcteur orthographique, il y a quand même un monde de différence. Ces différents outils sont des aides à la création. L’appareil photo a développé un nouvel art et l’humain y joue toujours un rôle prépondérant en choisissant cadrage, éclairage, pose, etc. Photoshop ou les correcteurs orthographiques ne sont là qu’en appui d’une création humaine. Ils ne remplacent pas le processus de création. Tout cela, ce sont des outils à l’expression artistique. L’IA générative est un tout autre pas, en se posant en grande remplaçante de la création. Et c’est là le problème. On n’est pas dans le même genre de progression.
Les dangers des images ayant l’air vraies
Allons un peu plus loin avec des considérations politico-sociologiques. À partir du moment où n’importe qui (ou presque) peut générer une image fausse et la distribuer à très grande échelle via internet et les réseaux sociaux, on se retrouve face à de sérieux problèmes de fondement de l’opinion. On a toujours dit qu’il fallait avoir un regard critique sur les sources, qu’il fallait en lire plusieurs, et se faire une opinion en ce sens. Si on a des décideurs importants qui communiquent avec des images fausses, inventées de toutes pièces, comment peut-on encore avoir confiance dans le système démocratique qu’ils représentent?
Et pour faire quoi ?
Et donc, au final, quel est l’intérêt que j’aurais à utiliser ces IA génératives? Et bien je n’en vois pas. Et au vu de leurs aspects négatifs, je ne vais pas me forcer.
On me dit « ouais, super pratique pour répondre à des mails ». Bof. Soit tu dois juste faire un accusé de réception rapide et là, tu as plus vite fait de le taper à la main plutôt que de lancer ton prompt de réponse et vérifier le texte ainsi pondu, puis envoyer. Et si c’est une vraie réponse demandant réflexion, et bien je trouve qu’il y a un manque de respect flagrant à faire rédiger un message par la machine ; si mon correspondant prend le temps de m’écrire, la moindre des choses est de lui accorder du temps pour répondre. Ceci d’autant plus que du coup, j’évite les hallucinations et erreurs de l’IA.
Dans le cadre professionnel, j’entends souvent dire qu’on peut l’utiliser pour rédiger les PVs de séances et que c’est un gain de temps incroyable. Au vu des erreurs créées, je ne suis pas certain que cela soit tant une bonne chose. Je vois mal le gain. Surtout que si on veut un PV synthétique qui aille à l’essentiel, il faut maîtriser le sujet abordé, ce que l’IA ne fera jamais par définition, puisque tout ce qu’elle sait faire, c’est des statistiques pour savoir quel mot doit venir après tel autre mot.
Dans le monde du jeu, on me dit « ouais, mais pour illustrer telle scène ou tel personnage, c’est génial ». Non, aucun génie là-dedans. Je préfère rester sur mes outils de recherche d’images (libres de droits ou en creative commons). J’aurai au moins du vrai travail d’humain. Et puis les jeux édités doivent tellement aux illustrateurs qui subliment ces créations, que je trouve indécent de leur voler leur boulot pour générer un truc en IA.
On me dit que c’est génial parce que l’on n’a plus besoin d’apprendre. « Ouais là tu vois je devais monter un truc et programmer le fonctionnement de ceci/cela et l’IA me le fait super bien ». Ou bien « je devais écrire un texte et j’ai demandé à l’IA de me le reformuler pour que ça colle mieux au style voulu. » On va où là? On veut devenir les gens dans les fauteuils comme dans Wall-E? Il y a peu de temps, on était très fiers que l’accès à la culture et la connaissance devienne incroyablement facile avec les bibliothèques gratuites et internet. Et maintenant on veut me faire croire que l’on ne veut plus apprendre à faire quelque chose? Que l’on préfère se reposer sur une machine qui fait des choses sans les comprendre plutôt que sur un professionnel?
On va jusqu’à remplacer nos psys et on voit même des relations amoureuses se développer entre humains et IAG, un comble. L’IAG ne crée rien, n’a pas d’émotions et n’est que le résultat de calculs statistiques sur ce qu’il est préférable de faire apparaître à l’écran.
Si demain on me met à disposition une IA dédiée entraînée, par exemple, juste sur le corpus des lois cantonales vaudoises, avec un hébergement dédié chez nous et une utilisation correcte des données, etc. , j’en serai ravi. Oui, c’est le genre d’IA qui peut m’être utile. Comme celles développées en médecine ou chimie pour trouver de nouvelles molécules ou de nouveaux traitements. Il y a là de réelles avancées scientifiques possibles. Mais les IA génératives larges et très générales, c’est pour moi un nivellement vers le bas général des créations. En fait, on nous promettait des robots pour effectuer les tâches chiantes et qu’on ait plus de temps pour la créativité, et, au final, on veut remplacer la créativité par ce truc. L’être humain y perd ce qui fait de lui un humain, ce petit plus, cette étincelle. Que va devenir notre bon sens, notre esprit si on s’en remet à la machine pour tout, si ChatGPT devient la réponse à tout ?
En mot de la fin, parmi les nombreuses pages qui soutiennent cette défense de l’Humain, je vous mets le lien de celle de Pigeon Gratuit qui réunit pas mal d’infos.