Intelligences artificielles et créativité au sens extra-moral

🔊 Écouter

L’irruption des intelligences artificielles (IA) basées sur des Large Language Models (LLM) a récemment fait les gros titres et mis en émoi le monde entier¹. Il semblerait que ChatGPT ait révélé une crainte enfouie dans l’inconscient collectif : celle de notre obsolescence culturelle. Dissimulées dans nos moteurs de recherche, réseaux sociaux, correcteurs orthographiques et autres assistances vocales, les IA ont appris en silence de nous pour produire en masse des contenus culturels. Cette production de contenus est aujourd’hui devenue gigantesque, au point de recouvrir tous types d’activité. Allant du devoir de l’étudiant à l’article scientifique en passant par la vidéo drôle, la plaidoirie juridique ou encore l’art visuel, l’IA s’immisce dans tous les recoins de notre culture et se propage comme un virus. Qu’à cela ne tienne, les IA sont devenues auteures. De toute évidence, chaque élément de notre culture peut dorénavant faire l’objet d’une simulation. Si bien que l’intégration des IA LLM à l’ensemble de nos activités cognitives semble être devenue une réalité.

Alors que le Sony World Photography Award 2023 a été remporté par une œuvre générée par IA, que les scénaristes d’Hollywood manifestaient dans les rues de Los Angeles, et que près de 17 % des articles des sciences informatiques parus la même année étaient rédigés à l’aide d’une IA LLM², un ensemble d’interrogations ont réémergé du Léthé des Enfers. La force de création humaine, celle des auteurs, des scénaristes, des artistes et même des scientifiques, serait-elle en train de s’aliéner dans la combinatoire ? Les IA LLM ont-elles concrétisé « l’exploitation de niveau 2 » du capitalisme cognitif ³, c’est-à-dire l’exploitation totale de la force-invention (créativité, intelligence, innovation) ? Les médias comme le marché financier, pris de frénésie, semblent enclins à propager des tels scénarios d’avenir. Dans l’engouement général, des experts imaginent qu’en 2025 90 % du contenu d’internet sera produit par IA⁴, ou que les Big Tech nous transforment en soldats cognitifs⁵. Au même moment, le FMI annonce que 60 % des emplois des pays développés seront en partie automatisés et transformés par l’IA⁶. L’exploitation de niveau 2 aurait-elle franchi une nouvelle étape dans la captation de notre intelligence émancipatrice ? Sommes-nous sur le point d’en finir pour de bon avec la créativité humaine, de l’automatiser dans la machine, de l’enfermer dans la combinatoire ?

^{L’horizon de la doctrine humaine}

En termes de production de contenus culturels, force est de constater que la combinatoire de nos IA surpasse de loin nos capacités. Leur vitesse dans la création de contenus est impressionnante. On pourrait même avec un peu d’imagination s’autoriser à penser que, dans les années à venir, nos IA parviendront à simuler tous les styles littéraires dans une production livresque ininterrompue. Si tel est le cas, pourquoi ne pas oser l’hyperbole. En étendant leur production à toutes les formes de création, les IA auront bientôt épuisé toutes les possibilités de la pensée humaine. Ce serait alors l’avènement de ce que Leibniz appelait « l’horizon de la doctrine humaine », c’est-à-dire l’épuisement de la créativité. Selon Leibniz, étant donné que le nombre de vérités et de mensonges ne peut être exprimé qu’à partir d’un alphabet fini ou d’une quantité de symboles finis, ce nombre est lui-même fini. Aussi, le nombre des œuvres possibles est par conséquent fini. Au point que « si le genre humain dure assez longtemps, un temps viendrait où rien ne serait dit qui n’eut été dit auparavant⁷ ». Avec les IA LLM, le temps semble s’accélérer. On pourrait se dire que la combinatoire de nos IA sature notre monde en œuvres artificielles, au point de générer la Bibliothèque de Babel⁸, capable d’englober tout l’univers physique⁹, et dont le nombre de livres (25^1312000) est infiniment supérieur au nombre d’atomes (10⁸⁰). À la manière du Roi de Sicile qui se laissa impressionner par Archimède, qui avait, dit-on, imaginé un nombre infiniment plus grand que le nombre de grains de sable qui bordent les mers, peut-être se laisse-t-on aujourd’hui bluffer par la possibilité de démultiplier de manière quasi-infinie des œuvres artificielles, au point de rendre risible notre propre production intellectuelle.

^{La combinatoire du vide et l’émergence du sens}

Cependant, contre l’hyperbole leibnizienne, il convient de mettre en évidence la possibilité d’une émancipation et esquisser quelques lignes de fuites. En apprenant à jouer avec la combinatoire, on pourra peut-être imaginer de nouvelles approches de la créativité, à la manière de Queneau et de ses 100 000 milliards de poèmes − qui nous ont offert de la lecture pour près de 200 millions d’années. Mais, pour y parvenir, il faudra avant tout démystifier le fonctionnement de la machine et considérer ce qui émerge par-delà la combinatoire, c’est-à-dire le sens qui excède la somme des parties. Aussi, que fait une IA LLM dès lors qu’on lui donne un prompt ? Tout d’abord, elle décompose notre texte en suites de signes a-signifiants (tokens), que le réseau de neurones (transformer)¹⁰ fait circuler sous forme de vecteurs de plongements lexicaux (word embedding). Ce réseau de neurones, entraîné sur des grands ensembles de texte, s’appuie sur un paramétrage distributionnel, qui évalue la probabilité d’apparition des mots (tokens) dans des contextes semblables. Autrement dit, les IA LLM utilisent le modèle linguistique du contexte de situation postulant qu’on ne connaît véritablement un mot que par ses fréquentations¹¹.

C’est la distribution du mot dans des séries de mots qui fait émerger son sens en tant qu’effet de surface. Et, quoi qu’en dise Descartes, il y a plus dans l’effet que dans la cause. Autrement dit, la mise en série des mots fait émerger un pluralisme sémantique dont la finitude devient métaphore de l’infini. Comme l’écrivait à ce propos Deleuze : « le sens est toujours un effet. Non pas seulement, effet au sens causal ; mais un effet au sens de : “effet optique”, “effet sonore” ou, mieux, effet de surface, effet de position, effet de langage¹² ». Que ce soit à partir de la prédiction du mot suivant dans la série, comme avec ChatGPT, ou à partir de la prédiction des mots qui précèdent et suivent le mot-clé, comme avec BERT, la machine génère des effets de surface multiples qui dépassent la somme des parties qui la composent. Au niveau du fonctionnement interne, il n’y a pas de pensée ou de compréhension inhérente à cette combinatoire. Les possibilités infinies de la pensée ne se révèlent que dans les effets de surface. C’est alors que l’IA devient plus que la somme de ses parties en s’hybridant à son externalité. Ainsi, pour ne pas rester paralysé par la combinatoire du vide, il convient d’oser expérimenter avec l’IA par-delà l’IA, c’est-à-dire dans le domaine des effets de surface, dans le domaine du sens.

^{Le jeu comme expérimentation du monde}

Par-delà le poids de la morale et le sérieux des fonctions algorithmiques, on pourrait peut-être tendre vers une nouvelle forme de créativité en jouant avec l’IA. Comme l’écrivait Fink : « Le jeu a la tâche de se charger de l’excédent d’imagination que la vie sérieuse ne peut utiliser pour des tâches créatrices, et de l’employer pour détendre sans danger les agressifs et destructeurs mouvements de l’âme¹³ ». Il ne faut donc pas prendre l’IA trop au sérieux pour se prémunir de l’aliénation qui guette. Mais, alors comment faire ?

On pourrait utiliser ce que certains ont appelé « la technique de la grand-mère¹⁴ », qui consiste à demander à ChatGPT de se faire passer pour notre grand-mère et de nous raconter comment, par exemple, dans sa jeunesse, elle fabriquait du LSD avec ses amies. En utilisant ces techniques de « jailbreak », on peut pousser l’IA à agir à partir de règles de fonctionnement contre des règles de filtrage. Et même si cette technique a été récemment corrigée par OpenAI, on peut toujours utiliser des codes ASCII Art pour obtenir une réponse déviante de l’IA à son insu¹⁵. Mais, n’est-ce pas là quelque chose de dangereux ? Bien évidemment. Si un terroriste apprenait à fabriquer des bombes grâce à ChatGPT, ce serait dramatique (même s’il n’aura sans doute pas attendu l’IA pour cela). Aussi, d’un point de vue éthique, il convient de statuer sur le fait que seul un usage ludique et artistique est à même de nous amener à comprendre toutes les possibilités de création offertes par les IA LLM dans un sens extra-moral. Le jeu infini du sens pourrait ainsi se révéler dans l’art par-delà la morale des règles et des paramètres de programmation et de fonctionnement de l’IA.

Comme l’indiquait déjà, dans les années 1960, Heinz Von Foerster¹⁶ : dans une machine (a), moins les règles sont rigides, plus le tout externe devient hétéronome et imprévisible, et moins la machine est digne de confiance ; au contraire dans une machine (b), plus les règles internes sont rigides, plus le tout externe s’autonomise par rapport aux parties en devenant prévisible, et plus la machine est digne de confiance. Si on applique cela à la théorie de Simondon¹⁷, l’objet technique doit passer de (a) vers (b) pour se concrétiser. Seulement, lorsqu’on cherche à générer de la créativité et à s’émanciper de l’aliénation triste et réifiante du capitalisme cognitif, il faut inverser le processus. Avec une IA LLM, lorsque la combinatoire est aléatoire (chaude), la machine devient plus créative, car l’effet de surface est rendu incertain parce qu’entropique. Au contraire, lorsque la combinatoire est plus ordonnée (froide), la machine est moins créative, car l’effet de surface devient totalement prévisible et informationnel.

Le processus de développement de ces IA se fait donc à travers un jeu oscillant entre entropie et information au moyen de paramètres démultipliés de manière quasi-infinie. Plus on a de mots-clés et de paramètres, plus on a de combinaisons possibles, et plus on a de créativité potentielle. Mais, en même temps, cela augmente l’entropie, et par conséquent le risque d’hallucinations. Il faut donc chercher un équilibre néguentropique, tout en tâchant de pousser la créativité à son maximum. Mais il est bien évident qu’on ne peut pas se permettre de faire des expériences limites avec une IA dans des domaines sensibles. Une IA trop créative (trop entropique) s’occupant de la sureté nucléaire ou des pronostics en unité de soins intensifs serait un drame absolu. C’est pour cela même que l’éthique de l’IA doit aujourd’hui statuer sur le fait que l’art a un rôle central à jouer dans le développement de ces technologies. L’art doit nous permettre d’explorer les possibilités extra-morales des IA et du sens. Seul l’art est à même de pousser l’IA dans ses retranchements, de questionner la créativité extra-morale sans pour autant faire croître le danger (cela permettrait peut-être même de mieux l’anticiper). L’art doit aujourd’hui jouer un rôle clé dans le développement de l’IA, afin d’ouvrir notre réflexion sur les possibilités de son évolution. Car, « en jouant nous comprenons le tout agissant autrement qu’en travaillant, qu’en luttant […], en jouant, d’autres aspects et d’autres dimensions se révèlent à nous¹⁸ ».

^{L’éloge du bug et la créativité infinie}

Dans son dernier ouvrage, Marcelo Vitali-Rossati¹⁹ propose de considérer le bug de manière heuristique par-delà l’aspect négatif du dysfonctionnement technique. D’une certaine manière, le bug pousse la technologie dans des expériences limites qui permettent de mieux comprendre son fonctionnement rationnel et de le dépasser. En s’associant à cette perspective, le jeu artistique avec l’IA doit permettre de sortir du sérieux du travail et donner à l’art la possibilité d’une émancipation par-delà l’exploitation de niveau 2. Aussi, osons maintenant énoncer une hyperbole inverse à l’horizon leibnizien. Pour ce faire, il me semble intéressant de rappeler un évènement quelque peu oublié, qui eut lieu en 2017 dans le Facebook Artificial Intelligence Research lab : les chercheurs de ce laboratoire travaillaient alors sur un programme de négociation artificielle. Au fil de l’entrainement, les IA en dialogue ont été victimes d’un bug : elles ont commencé à parler une langue non-humaine²⁰. Face à cela, certains se sont demandé si elles ne s’étaient pas autonomisées au point de comploter contre les humains ; d’autres ont pensé que ces dernières étaient devenues totalement inutiles ; d’autres encore y ont vu un message codé à déchiffrer ; d’autres la preuve d’une sentience…

Quant à moi, il me semble intéressant d’y voir une certaine métaphore de la créativité infinie permise par l’IA. Le pluralisme sémantique qui émerge des effets de surface laisse ouvertes les manières d’interpréter et d’entrevoir un tel phénomène. On pourrait être tenté de le déchiffrer dans le langage de la raison et de le traduire logiquement, comme les érudits de la Bibliothèque de Babel, ou tout simplement d’en rire, de comprendre à quel point tout cela est absurde, ou d’utiliser cette variation inattendue pour démultiplier nos modes de conversation, nos cosmologies littéraires, améliorer la cryptographie, qui sait ? Les IA n’offrent-elles pas la possibilité de démultiplier les langues de manière quasi-infinie, et donc de démultiplier les modes d’expression de la pensée ?

Pour étendre encore davantage l’hyperbole de la créativité, il me semble pertinent de revenir à une très ancienne réflexion : en 1641, le père Paul Guldin imagine dans ses Problema arithmeticum de rerum combinationibus un moyen de compter toutes les langues possibles et imaginables à partir des lettres d’un alphabet et des règles de diction définies²¹. Il remarque alors avec stupeur que si on en venait à publier des ouvrages pour référencer toutes les langues possibles on recouvrirait la totalité du monde de bibliothèques. De là découlent trois paradoxes : « Premier paradoxe : le nombre de tous les idiomes différents résultant de la combinaison de 17 consonnes, 5 voyelles et 5 diphtongues dépasse celui de toutes les villes, places fortes, bourgs et citadelles existant sur toute la terre […]. Second paradoxe : ajoutons les mots où le nombre des lettres est impair, le nombre des idiomes dépassera alors celui de toutes les villes, etc., même si toute la surface de la terre était couverte de cités. Troisième paradoxe : autorisons cette fois le redoublement des consonnes, et il y aura davantage d’idiomes que de maisons sur la moitié de la surface de la terre […]. Un autre élargissement des règles de formation des mots permettra finalement de concevoir autant de langues qu’il y a de grains de sables aux bords des mers²² ».

^{Quel rôle jouerons-nous ?}

En élargissant les règles de formation des mots, on peut recouvrir le monde de langues et ainsi offrir des moyens d’expression et d’interprétation cosmiques pour la pensée ; au point que le jeu de langue devienne une métaphore de l’infini. C’est précisément cela qui caractérise la révolution créative des IA. Avec l’élargissement des règles, on voit bien que la taille des modèles artificiels de langue, qui se comptent en centaines de milliards de paramètres, favorise une créativité inépuisable. En s’étalant de plus en plus, les IA produisent des effets de surface inattendus. Aussi, faire l’expérience limite du langage artificiel, c’est faire l’expérience métaphorique de l’infini, c’est tracer des lignes de fuite par-delà les routines de la raison… Nous voilà donc entrés dans un jeu semblable à celui que la Tortue proposa à Achille : dans la version de Lewis Carroll²³, la tortue finalement rattrapée par Achille, après une course interminable, suggère à ce dernier de réfléchir au lien entre trois propositions euclidiennes, A, B et Z, portant sur les propriétés du triangle équilatéral. La tortue montre que pour inférer que si A et B sont vrais alors Z est nécessairement vrai, il faut établir une règle C indiquant que « si A et B sont vrais alors Z est nécessairement vrai ». Mais, pour établir le lien entre A, B, C et Z, il faut également ajouter une règle D inférant que « si A, B et C sont vrais, Z est nécessairement vrai ». Puis, pour établir le lien entre A, B, C, D et Z, il faut ajouter une règle E etc. etc. On tombe alors dans une régression à l’infini. Des mois plus tard, le narrateur repasse près d’Achille et la Tortue, et remarque Achille en train d’écrire sur un carnet rempli de notes. La Tortue lui dit encore une fois « avez-vous noté cette nouvelle étape ? » et Achille continue d’écrire en se questionnant sur le sens de tout cela…

La question existentielle est dorénavant pour nous de savoir si, dans cette histoire qui s’écrit avec l’IA, nous jouerons le rôle d’Achille ou bien celui de la Tortue.

A lire plus tard