L’IA, autrice de SF minable mais lectrice épatante

🔊 Écouter

Conversation entre
Jean Baret & Ariel Kyrou

Et si la raison froide ne pouvait suffire à circonvenir ce qu’on appelle à tort « intelligence artificielle » ? Et si les IA génératives nécessitaient à la fois d’être expérimentées pour ce qu’elles permettent très concrètement et d’être extrapolées dans leurs potentiels et leurs interactions futures par les fictions les plus libres ? Et si nous devions marier l’extrême des pratiques de l’IA à la radicalité de ses imaginaires ? C’est d’une certaine façon la démarche de l’avocat et écrivain de science-fiction Jean Baret.

À la toute fin du mois d’octobre 2022, alors qu’il participe aux Utopiales de Nantes, plus grand festival de science-fiction français, Jean Baret entend parler pour la première fois des IA génératives. Dans un bar en face du Palais des Congrès où se tient l’événement, le voilà qui discute avec David Defendi, lui-même écrivain de polar et surtout créateur en 2019 de la plateforme Genario, qui utilise l’IA pour « permettre aux éditeurs et producteurs de détecter les meilleures histoires » et aux auteurs de bâtir leurs scripts, leurs scénarios ou dans une moindre mesure leurs romans. Defendi cherche des écrivains pour tester son dispositif, fabriqué à partir de ChatGPT alors que la version 3.5 de l’algorithme ne sortira qu’un mois plus tard dans le grand public. Jean Baret l’écoute poliment. Les IA de génération de langage (LLM ou Large Language Model) n’étant guère convaincantes à l’époque, il se demande si son interlocuteur n’est pas en train de s’inventer une réalité de science-fiction. Fin novembre 2022, Baret essaye ChatGPT, désormais accessible à toutes et tous. Il est bluffé, et rappelle de suite David Defendi pour tester Genario, IA spécialisée dans la création.

Le paradoxe, c’est qu’en 2019, les éditions du Bélial’ ont publié Vie^TM, roman de Jean Baret qui décrit une société de virtualité intégrale où tout s’achète et dont des algorithmes de conversation et leurs avatars en code-star cravate sont en quelque sorte les managers et garde-chiourmes. D’un côté, l’écrivain imagine des lendemains plutôt dystopiques avec des IA qu’il préfère baptiser des algos ; de l’autre, il en utilise désormais tous les jours, des IA, pour ses écrits autant que pour son métier d’avocat et ses activités quotidiennes. Il en teste toutes les marques et dernières déclinaisons. Il y a
ChatGPT, dont évidemment ChatGPT-4o, version sortie par OpenAI le 13 mai 2024, avec laquelle il devient possible de dialoguer oralement, et puis celles conçues pour des modalités spécifiques, en particulier le droit, la littérature ou la psychanalyse. L’auteur mentionne Claude Instant et Claude 3 Opus de la société Anthropic ainsi que Gemini Pro 1.5 de Google, dont les algorithmes ont la capacité de « lire » des livres entiers et sont donc particulièrement intéressants pour son travail de plume. Il cite aussi Perplexity, centrée sur internet ; Mistral, d’origine française ; Copilot, l’IA générative de Microsoft, implémentée notamment dans Bing et Edge ; et même des IA mineures, telles Lama de Meta (Facebook) ou Grok de X, qui ne l’a pas emballé… L’IA est pour l’écrivain un outil et une culture, comme elle le devient pour de plus en plus de personnes et d’organisations. D’où l’intérêt d’une conversation avec lui, afin d’en mener une critique en toute connaissance de cause, qui ne soit ni technophobe ni technobéate…

Ariel Kyrou : L’IA générative la plus sophistiquée d’aujourd’hui serait-elle capable d’écrire un bon roman de science-fiction ?

Jean Baret : Non, car aucune IA n’a ni imagination ni compréhension des connaissances qu’elle délivre. Si tu lui proposes un pitch, avec de premières pistes de monde, de personnages et d’intrigues, elle va proposer un texte cohérent, mais d’une banalité confondante, sans aucune inventivité. Même si les demandes sont intelligemment rédigées et que l’IA est alimentée, comme Genario, par une grande quantité de récits, de l’Iliade aux succès de Stephen King, ses résultats seront médiocres, car basés sur ce qui serait le plus commun statistiquement à partir des données avec lesquelles elle a été « élevée ».

A. K. : Elle n’est même pas capable d’améliorer une nouvelle ou un chapitre de roman ?

J. B. : J’ai essayé de lui faire réécrire un chapitre de l’un de mes romans, dont je n’étais pas satisfait, et le résultat était insignifiant, parce qu’une IA n’est pas faite pour ça, tout simplement. Je lui ai aussi demandé de réécrire un texte « à la façon de », par exemple de Victor Hugo. Son style ressemblait à du Victor Hugo, mais dans le style d’un mauvais copiste, ne pouvant faire illusion que très superficiellement. C’était du mauvais Victor Hugo.

A. K. : En tant que romancier, tu es pourtant un grand utilisateur d’IA génératives, non ?

J. B. : Tout à fait, parce que les IA capables de « lire » et de « mémoriser » de très longs textes pouvant dépasser les mille pages, puis de répondre à des questions liées à cet écrit conséquent, s’avèrent des interlocutrices intéressantes. Elles n’ont pas autant de subtilité et ne peuvent me surprendre autant qu’une amie à qui je fais relire beaucoup de mes textes, mais leur capacité à brasser des millions de données, à une échelle inatteignable par quelque être humain, rend très instructives leurs lectures et leurs propositions sur ce que j’écris.

A. K. : Comment des IA comme Claude 3 Opus, Gemini Pro 1.5 de Google ou différentes versions de ChatGPT peuvent-elles t’aider, alors qu’elles seraient des autrices de SF minables ? Leur aide intervient-elle dès l’amont de l’écriture ?

J. B. : J’utilise l’IA autant en amont d’un texte qu’en aval, pour l’améliorer. J’ai par exemple une ligne d’histoires, qui s’appelle le « rebooteux », hybridant le « reboot » en informatique avec le « rebouteux » des campagnes. Le principe, c’est que chaque texte de cette série associe une névrose ou une psychose particulières à un monument de la pop culture. Or je ne suis pas un expert de la psychanalyse. Donc, j’utilise la version de ChatGPT dont c’est la spécialité, qui se veut un « Psychology professor ». Je lui pose des questions du genre : « Quel univers de pop culture ferait écho à telle ou telle névrose ? » ou « Qu’est-ce que penseraient Freud ou Lacan des Dents de la Mer ? Pour un space opera où je désirais créer des huissiers (« commissaires de justice ») d’un futur fonctionnant selon des règles de l’ordre de la physique quantique, j’ai débuté en questionnant des IA sur des concepts de physique quantique. Puis, j’ai engagé des dialogues avec l’IA. Ce n’est qu’un dispositif de traitement d’un nombre effarant de données qui interagit avec toi comme s’il était une personne humaine, peut-être un peu idiote, mais après tout, nous connaissons beaucoup d’humains aux réflexions insipides. Même si les IA d’aujourd’hui « hallucinent » moins qu’il y a deux ans, c’est-à-dire inventent moins de résultats pour elles statistiquement justes mais factuellement erronés, les réponses sont néanmoins à vérifier. Elles m’ouvrent des pistes précieuses, plus précises que ne le ferait n’importe quel moteur de recherche. Elles me font d’autant plus gagner du temps que je discute avec ces IA, je rebondis sur leurs réponses, je fais évoluer mes demandes, etc.

A. K. : Certes, l’IA te sert potentiellement au démarrage d’un récit, mais ce n’est jamais elle qui l’écrit. Au fond, si j’exagère un peu, tu l’utilises comme une sorte de moteur de recherche amélioré avec, qui plus est, ce handicap qu’elle ne donne jamais ses sources ?

J. B. : D’abord, une IA comme Perplexity donne ses sources sur internet, tandis que celles qui ne traitent que de sujets spécifiques comme la psychanalyse proposent une liste d’études sur lesquelles se basent leurs résultats. Ensuite, ma pratique a posteriori de l’écriture d’une première version d’un texte montre que l’IA générative est beaucoup plus qu’un moteur de recherche. Je lui pose des questions relatives à l’organisation structurelle de ma nouvelle, de ma novella ou de mon roman. L’une d’entre elles m’a, par exemple, aidé à faire intervenir plus tôt dans l’intrigue un protagoniste que mon éditeur considérait comme très important : elle m’a suggéré plusieurs possibilités que j’ai pu tester…

A. K. : Sauf que pour le coup, c’est bel et bien un être humain, dont le métier est d’accompagner des écrivains, qui t’a fait comprendre que ton personnage devait être beaucoup plus présent, non ?

J. B. : Oui, mais l’IA m’a non seulement proposé des solutions pour que le personnage soit là plus tôt, mais des clés pour approfondir son caractère. Il s’agit d’un philosophe qui devient terroriste. En tapant « philosophe » et « terroriste » dans un moteur de recherche, je n’ai vraiment rien trouvé, alors que le dialogue avec l’IA m’a donné plein d’idées sur le pourquoi et le comment d’une telle évolution, et il a nourri mon imaginaire. Certaines de ses propositions étaient mauvaises, mais même les réponses les plus ineptes de l’IA m’aident à réfléchir, à creuser de nouveaux liens, etc., donc à peaufiner l’architecture comme l’écriture d’un texte. Lorsque j’y travaille, dans le silence de mon bureau, je ne suis plus isolé.

A. K. : Soit. Admettons que l’IA puisse être l’interlocutrice d’un auteur ou d’une autrice. Elle est l’une de ses auxiliaires de travail. Elle est assez savante, grâce à son stock de données. Mais sa « nature » la rend conservatrice, car adepte de la moyenne. Bref, elle est assez bas de plafond, sans imagination ni grande densité intellectuelle. Elle devient néanmoins pour toi un outil essentiel. Mais pourquoi ? Parce que tu as un savoir-faire, un art du prompt qui est très loin d’être partagé par tous les utilisateurs de ChatGPT ou des IA créatrices d’images comme Midjourney ou Dall_.e d’OpenAI et Microsoft. Tu n’utilises pas l’IA de type LLM par paresse, pour bosser moins ou te remplacer, mais pour t’ouvrir des pistes afin d’aller plus loin dans ton travail d’écrivain. Ce type de pratique éclairée n’est-elle pas l’exception ?

J. B. : Parler d’exception me semble exagéré. En revanche, l’usage des IA nous met face à nos insuffisances et à nos façons de nous répéter sans cesse. J’utilise également des IA comme Midjourney ou Dall_.e. Elles sont capables de créer des logos justes et performants. Mais seront-ils créatifs et surtout singuliers ? Non, évidemment. Je connais en revanche des graphistes qui utilisent les images créées par des IA pour mieux réfléchir, se donner un élan et trouver l’inspiration grâce aux visuels de l’algorithme.

A. K. : Là encore, tu parles de privilégiés, de personnes qui ont la formation, l’éducation pour utiliser l’IA de façon utile et enrichissante. Les nouvelles technologies sont des catalyseurs : elles augmentent le potentiel du pire comme du meilleur. L’apprentissage de leur usage, la capacité à savoir ou non les utiliser intelligemment plutôt que bêtement ne devient-il pas un terrible facteur d’inégalité sociale ?

J. B. : C’est juste. Mais les IA vont susciter également d’autres inégalités. Je le vois dans mon métier d’avocat où toutes les tâches d’exécution ou intellectuelles mais ne demandant qu’une certaine technicité sont d’ores et déjà confiées à des IA. Que ce soit dans le droit ou la création, c’est le niveau médian, le plus commun, qui risque d’être remplacé par des IA. Lorsque les machines à tisser sont apparues lors de la première révolution industrielle, les ouvriers se sont demandé ce qu’ils feraient désormais de leurs bras. Aujourd’hui, ce sont nos capacités cognitives qui sont en jeu. Les métiers intellectuels sont menacés dès lors qu’ils n’apportent pas de valeur ajoutée par rapport à ce que fait l’IA. D’où ce mélange de peur et de fascination, cette sidération face aux capacités de ChatGPT ou de MidJourney…

A. K. : Et face à cette sidération, la raison et le bon sens ne suffisent pas. J’entends les arguments de Laurence Devillers, chercheuse qui défend l’importance d’une éthique de l’IA. Mais elle déconsidère la science-fiction, selon elle créatrice de fantasmes dangereux, à la Terminator. Or il n’est pas envisageable de séparer la réalité de l’IA de ses imaginaires, totalement imbriqués. Dans L’Iliade, Héphaïstos, dieu forgeron, est aussi et surtout le dieu de la technique. Que ce soit lui qui crée des trépieds automatisés pour ses collègues de l’Olympe, puis des servantes en or qui pensent et qui parlent, montre à quel point la fiction des créations et créatures artificielles est depuis longtemps intrinséquement liée aux pratiques de la technique. D’autre part, l’espace latent qu’ouvre l’IA par sa logique disfactuelle¹, à la fois statistique et probabiliste, remet en cause nos conceptions du passé comme du futur, l’un et l’autre moins figés que jamais. Les capacités de la science-fiction à éclairer nos usages des technologies et plus largement à faire évoluer nos visions du monde en deviennent cruciales.

J. B. : La science-fiction permet d’imaginer ce que pourraient être les réactions des humains face aux révolutions technologiques. Ses histoires peuvent certes alimenter des fantasmes, mais elles contribuent plus encore à une prise de distance salutaire. Dès 2013, le film Her de Spike Jones a imaginé un personnage, joué par Joachim Phoenix, tombant amoureux d’un « système d’exploitation » à la voix féminine. Avec des applications telle Replika aux États-Unis ou des versions de ChatGPT conçues comme des compagnes ou compagnons, nous n’en sommes pas loin du tout, du moins dans le principe.

A. K. : La science-fiction est d’autant plus nécessaire que personne ne sait jusqu’où iront ces technologies dont les avancées ultra rapides nous interloquent. Imaginer des possibles que l’on aurait pensé auparavant impossibles est une voie d’exploration pas si irréaliste que ça…

J. B. : Bill Gates avance que l’IA peut être un vecteur d’alphabétisation dans les quartiers difficiles, n’ayant pas accès à des infrastructures d’éducation. La science-fiction pourrait pousser plus loin une telle perspective, pour le meilleur ou pour le pire. Car qui sait si les IA ne seront pas vraiment demain, dans le monde réel, les tutrices de tous nos enfants ?

A. K. : C’est à peu de chose près ce qu’imaginait en 2008 Philippe Curval dans son roman Lothar Blues : des robots dopés à l’IA chargés de l’éducation des enfants !

J. B. : Il y a quelque chose de vertigineux à tenter de deviner ce que deviendront les enfants d’aujourd’hui, nés dans un monde d’IA. Quelles seront leurs pratiques ? Personne ne peut savoir. En revanche, nous pouvons imaginer des scénarios de toutes sortes, y compris sans la moindre IA, par exemple pour des raisons écologiques, voire d’effondrement…

A. K. : Tes propres textes, en particulier ta trilogie « Trademark », tirent plutôt vers la dystopie ultra capitaliste. Toi qui pratiques les IA avec jubilation, ne serais-tu pas pessimiste, voire pas loin d’un certain nihilisme face au futur ?

J. B. : Le projet de Sam Altman, le directeur général d’OpenAI, est tout de même de faire de ChatGPT un assitant personnel qui connaît tout de toi pour des raisons d’efficience. Lorsque l’on constate avec quelle facilité les gens abandonnent toute idée de protection de leur vie privée et offrent aux multinationales du numérique leur intimité juste pour des enjeux de consommation et de loisir, il n’y a pas besoin d’être nihiliste pour s’inquiéter. C’est d’autant plus préoccupant que les IA interagissent avec nous comme si ces interlocutrices étaient nos amies ou nos sœurs. Maintenant, elles s’excusent. Je me souviens d’un dialogue avec l’une d’entre elles, me disant, après que j’ai souligné l’une de ses approximations : « Désolé, je n’avais pas ça à l’esprit »… Je lui ai répondu : « Mais tu n’as pas d’esprit ! »… Et elle m’a dit « Oui, pardon, je n’ai pas d’esprit, je ne ferai plus cette erreur ». L’IA donne de l’info non pas froide, mais chaude, émotionnellement encapsulée, comme si derrière l’écran, un humain tapait sur son clavier. Il y a là un danger que des films comme Her dont j’ai parlé ou encore Ex Machina d’Alex Garland permettent d’anticiper.

A. K. : La pratique de ces outils que sont les IA génératives, l’éducation, donc l’usage de la raison ne s’opposent en aucune façon aux explorations via les imaginaires. Au contraire, ils se complètent pour qui veut utiliser, comprendre, critiquer et anticiper ce que nous arrive…

J. B. : Oui, aucune de ses ressources ne sera de trop dans l’immense chantier qui s’ouvre aujourd’hui : la gestion de nos émotions, notre capacité à nous construire une hygiène mentale face à des algorithmes sophistiqués au parler humain qui risquent d’avoir accès demain aux moindres détails de notre vie.

A lire plus tard