La vie des robots et la nôtre

Les robots présentent une forme de vie artificielle. Certains d’entre eux en particulier, comme Robovie, qui sont destinés à interagir avec nous dans des circonstances sociales habituelles, peuvent servir de compagnons à des enfants ou aider des personnes âgées à faire leurs courses. Que les robots sont une forme de vie artificielle peut s’entendre en deux sens différents (au moins). Premièrement, ce sont des artefacts vivants ou quasi-vivants dans la mesure où ils manifestent certaines caractéristiques des êtres vivants. Deuxièmement, interagir socialement avec eux risque de rendre artificielles – au sens de non-authentiques – nos relations sociales et peu à peu notre vie entière, nous amenant à rechercher auprès de machines un succédané des rapports humains que pour des raisons quelconques nous n’avons pas voulu ou nous n’avons pas réussi à établir.

Cependant, ces deux sens de ce qui est artificiel reposent sur une rupture entre ce qui est vivant ou naturel et ce qui ne l’est pas, rupture qui est beaucoup moins marquée dans la culture japonaise qu’elle ne l’est dans la culture occidentale, ou du moins qui n’est pas marquée de la même manière et du même poids. En m’inspirant en partie de la pratique que l’on trouve au cimetière de Koya-san qui consiste à donner une tombe à des objets inanimés – voiture, fusée, pompe à eau – j’aimerais interroger ce que cette distinction signifie pour la robotique sociale.

Les robots peuvent-ils mourir ?

À première vue, la réponse à cette question bizarre peut sembler évidente. Étant donné que les robots ne sont pas des êtres vivants, humains ou animaux, mais de simples machines, manifestement ils ne peuvent pas mourir, puisqu’ils ne vivent pas. Les robots sont peut-être des objets animés, comme le sont les automates, mais ce ne sont pas des « êtres animés ».1

Cependant, selon mon ami Zaven Paré, le roboticien japonais Hiroshi Ishiguro se propose d’enterrer au cimetière du Koya-san, lorsque son heure sera venue, le robot Geminoïd dont il est le créateur.2 Pourquoi enterrer ce qui n’est pas vivant ?

Il est vrai qu’Ishiguro est un personnage hors de l’ordinaire dont les robots Geminoïds sont, comme le dit leur nom (du latin gemellus jumeau), des robots à forme humaine parfaitement ressemblants, et pour l’un d’entre eux le double d’Hiroshi Ishiguro lui-même. Dans ces conditions, il n’est peut-être pas étonnant que son créateur songe à élever une tombe à la mémoire de son double. L’intention trahirait plutôt les particularités du professeur d’Osaka, qu’elle ne nous renseignerait sur la place des robots dans la société japonaise. Car aussi remarquable scientifique que soit Ishiguro, il est simultanément engagé artistiquement dans le développement de pièces de théâtre hybrides où jouent côte à côte des robots et des acteurs humains3, et le choix d’être lui-même le modèle par excellence4 de la série des Geminoïds suggère qu’il entretient avec ses propres créations une relation assez particulière. Geminoïd est à la fois son double et il est « lui-même », c’est-à-dire Ishiguro « acteur sur une scène ». Je veux dire par là que d’une certaine manière, le rapport entre Ishiguro et Geminoïd ressemble à celui qui existe entre un acteur et le rôle qu’il endosse.

C’est ce que suggère jusqu’à un certain point la technologie même du Geminoïd, lequel n’est pas un robot autonome. C’est-à-dire que Geminoïd n’est pas un robot qui peut agir ou se déplacer par lui-même, car en vérité, ce jumeau n’est qu’une doublure extrêmement limitée, très en retrait par rapport à ce que peut faire, non pas seulement un savant de haut vol, mais le plus humble des mortels. Geminoïd est essentiellement une poupée, une marionnette extraordinairement sophistiquée, mais néanmoins une mécanique sessile qui n’est capable de bouger que la tête, les yeux, la bouche et les muscles du visage. Il est « capable » aussi de voir, de parler, d’entendre et donc d’entretenir une conversation normale, mais il n’accomplit pas ce tour de force de lui-même, ou si on préfère de lui seul.

Geminoïd est commandé à distance à l’aide d’un ordinateur par un opérateur qui voit et entend ce que voit et entend le robot, qui répond et l’amène à suivre ou à défier le regard de son interlocuteur. Un opérateur humain qui constitue bref l’âme et le cerveau du robot. Cela permet, par exemple, à Ishiguro d’être à la fois en voyage à Moscou et présent à une réunion de son laboratoire de l’ATR à Kyoto5. Grâce à Geminoïd, il (Ishiguro) peut agir et interagir là où il n’est pas, et être d’une certaine manière physiquement présent à deux endroits à la fois.

À ce niveau, on peut cependant se demander quel avantage, outre le prix exorbitant, présente Geminoïd par rapport à une téléconférence ordinaire, ou à simple appel sur Skype ? Le fait est que Geminoïd n’est pas destiné à être un outil de télécommunication, mais qu’il constitue un dispositif expérimental dans l’étude des interactions entre les robots et les êtres humains. Au début des années 1970, Masahiro Mori introduisit la conjecture dite de « la vallée de l’étrange », ou de « l’inquiétante étrangeté »6. Selon celle-ci nos interactions avec les robots deviendront d’autant plus aisées et confortables que les robots ressembleront plus aux humains ; cependant, au-delà d’un certain seuil de ressemblance, la plus petite différence aura un effet dramatique. À la soudaine surprise de ne pas avoir véritablement affaire à un de nos semblables, mais à une « machine animée » – qui en fait n’est pas vraiment un être animé, mais ressemble plutôt à une espèce de mort vivant, un cadavre animé – nous réagirons par la peur et la révulsion.

La courbe ascendante du graphe qui indiquait la facilité croissante d’interaction au fur et à mesure que le robot nous ressemble plus, s’écroulera d’un coup et cette catastrophe ne prendra fin que lorsque les robots nous ressembleront parfaitement – ou mieux, lorsqu’ils ressembleront plus à l’idéal artistique de l’être humain ou au Bouddha qu’à l’un quelconque d’entre nous. Telle est la vallée de l’étrange, elle correspond à cet espace où les robots nous ressemblent à la fois trop et pas assez. Geminoïd peut être vu comme une sonde qui vise à explorer jusqu’au plus profond de la vallée de l’étrange.

Un robot qui ressemble parfaitement à un être humain, le double d’un individu existant, qui, de plus, est doté des mêmes capacités intellectuelles et de la même maîtrise du code culturel ayant cours – car toutes ces compétences sont celles de la personne réelle qui commande le robot à distance, plutôt que réalisées par un système d’intelligence artificielle – devrait nous permettre de mieux déterminer ce qui fait problème dans les interactions entre humains et robots.7 Pour le dire autrement, l’espace de la ressemblance est un espace multidimensionnel, et il n’est pas clair que les petites (et les grandes) différences aient les mêmes conséquences dans toutes ses dimensions. Geminoïd permet de fixer certaines valeurs, et d’en faire varier d’autres, afin de voir comment l’interaction se déroule. En ce sens, c’est un instrument scientifique au sein de procédures expérimentales. Dans chacune d’entre elles, il fonctionne comme un robot social, mais c’est aussi un acteur de théâtre et le double de son créateur, qui est à la fois le Pygmalion qui l’a sculpté et le démiurge qui lui donne vie.

Pourquoi donc vouloir, non-seulement enterrer, mais élever une sépulture à la mémoire d’un instrument scientifique ?

Koya-san

Le mont Koya est un des lieux les plus sacrés du Japon. En 819, le moine Kobo Daishi, aussi connu sous le nom de Kukai, y installa un temple et fonda la secte bouddhiste Shingon. Aujourd’hui on y trouve un complexe de 117 temples et, entourant le mausolée de Kukai, le plus grand cimetière du Japon où sont enterrées certaines des personnalités les plus célèbres de son histoire. On y trouve aussi, entre autres sépultures surprenantes, les tombes d’une voiture, d’une fusée et d’une pompe à eau, à moins que ce ne soit le caveau familial d’aéronautes ou de propriétaires d’une grande entreprise dont le titre de gloire, à un moment du moins, était de fabriquer des pompes à eau. Quoi qu’il en soit, le fait est qu’en Occident un cimetière de voiture est un dépotoir et qu’il ne viendrait jamais à l’esprit de qui que ce soit de mettre côte à côte des monuments à la mémoire des personnes les plus importantes de la nation et d’autres consacrés à des objets inanimés anodins, voiture ou pompe à eau.8 En fait un tel rapprochement serait considéré comme sacrilège, comme une plaisanterie de mauvais goût.

Or nous sommes ici dans un des lieux les plus sacrés du Japon, à l’ombre du mausolée du personnage probablement le plus saint de son histoire, qui y introduisit le bouddhisme, et où on cherche à se faire enterrer afin de reposer à proximité de sa sépulture. Il n’y a donc aucune plaisanterie qui est visée en mettant côte à côte ces objets et ces personnages dans ce lieu de recueillement. De même, aucun rapprochement entre les uns et les autres n’est visé, du moins au sens où nous sommes tentés de l’entendre spontanément, c’est-à-dire comme postulant une forme d’équivalence entre tous ceux qui sont enterrés là.

À cet égard, une des tombes les plus intrigantes que j’y ai vues est une stèle située près d’une des entrées du cimetière érigée à la mémoire d’un médecin (si ma mémoire est bonne) qui au début du siècle dernier inventa ou introduisit les pesticides au Japon. Sur cette large pierre dressée est rédigée une explication en japonais et en anglais qui indique que ce monument n’est pas seulement à la mémoire de cet inventeur et des bienfaits que son invention apporta au Japon, mais aussi et surtout qu’il est dédié aux innombrables insectes qui sont morts à cause de cette invention. À la liste des défunts insolites dans le cimetière le plus important du Japon, à voiture, fusée, pompe à eau, il faut maintenant ajouter les insectes victimes des pesticides qui rendent notre vie plus confortable !

Récemment l’anthropologue Edouardo Kohn, dans une conférence à Kyoto au sujet de son dernier livre, parlait d’une ontologie de l’absence chez les Indiens Runa de la République d’Équateur.9 Au sens où demeure présent et d’une certaine manière continue d’exister dans la forêt, tout ce qui leur permet de vivre par son absence, par le fait que cela soit absent, par exemple, les ancêtres ou les animaux qui ont été chassés et mangés. Ceux-làsont morts et absents, mais par leur absence, ils permettent aux vivants de vivre. Ils existent et ils sont présents dans la forêt, au même titre que le sont les vivants, ennemis ou animaux dangereux, qu’il fait bon ne pas rencontrer dans la forêt et qui eux aussi rendent possible la vie des hommes et des femmes par leur absence, leur non-présence momentanée. On retrouve ici un peu la même idée. En se donnant le mal de mourir, tous ces insectes ont consacré l’efficacité du pesticide, rendu notre vie plus saine et confortable, et fait la fortune et la gloire du médecin. Il est juste de les honorer. Plutôt que d’équivalence, une égalité de distinction entre les morts qui sont honorés ici, il faudrait parler d’une égalité d’indistinction, qui reconnaît l’égale importance de ce qui a vécu, parce que cela a vécu. Or pour « avoir vécu », et c’est là me semble-t-il le point important, il n’est pas nécessaire d’avoir à aucun moment été un vivant.

C’est ce que suggère, me semble-t-il, une cérémonie qu’on rencontre à Kyoto du moins et qui consiste à bruler dans les temples les poupées et les jouets d’enfants. Il y a là un rite de passage qui met terme à un certain moment de la vie, mais aussi comme un rite funéraire. En brûlant ces objets, on reconnaît qu’ils ont vécu et l’importance qu’ils ont eue dans une jeune existence, car au Japon on brûle les morts. Cependant, généralement ils sont brûlés à assez basse température et ce qui ressort du crématoire, ce ne sont pas que des cendres, mais des os fragilisés, souvent un squelette assez reconnaissable, que la famille et les proches vont maintenant briser et transférer dans des urnes. Le sentiment que celui-là a vécu – qu’impose le fait d’avoir à traiter non seulement avec la mort, mais avec le mort – est beaucoup plus net qu’en Occident, où tout est généralement abandonné à des spécialistes et où les personnes ne meurent pas tant qu’elles ne font que disparaître.

Pour le dire autrement, les cérémonies funéraires au Japon semblent insister sur le fait que celui-ci ou celle-là a vécu, plutôt que sur le simple fait de la disparition, tandis qu’en Occident à l’opposé l’emphase est plutôt mise sur la disparition. Ainsi, l’idée du travail du deuil, qui occupe une place si importante dans la pensée et la culture européennes contemporaines consiste essentiellement à apprendre à s’accommoder de la disparition du disparu. Honorer les ancêtres, au contraire, c’est reconnaître qu’ils ont vécu et de ce fait préserver leur présence dans l’absence, les empêcher de disparaître.

Pourquoi donc enterrer Geminoïd ? Parce qu’il aura vécu. C’est-à-dire, non seulement parce que technologiquement dépassé, il sera devenu obsolète et aura terminé sa carrière, mais parce qu’il aura changé la vie en participant de l’existence des vivants. Non seulement celle d’Ishiguro, des auditoires des pièces de théâtre dans lesquelles Geminoïd s’est produit, mais aussi en participant à et en transformant l’existence de tous ceux qui ont interagi avec lui. C’est du moins, me semble-t-il, l’espoir de son créateur que le rapport avec Geminoïd change la vie de ceux qui entrent en relation avec lui, tout comme s’il s’agissait d’une personne.

L’artificiel

S’il est loisible donc et s’il fait sens d’enterrer, d’élever un monument funéraire à une voiture, à une fusée ou à un robot comme si c’était un frère ou un semblable, c’est parce qu’ils ont vécu, parce qu’ils ont changé la vie, notre vie. Ils l’ont changée, soit par ce qu’ils ont fait, soit par ce qu’ils n’ont pas fait, comme ces innombrables insectes morts. C’est dire que la vie, non pas au sens biologique, mais au sens de la vie vécue, est accessible à l’artificiel, de même qu’elle est ouverte aux vivants non-humains. Cette vie vécue est celle dont on ne peut savoir, comme disait Aristote, si elle a été réussie ou ratée avant qu’elle ne touche à sa fin, et dont Ricœur dit qu’elle a la forme d’une histoire, d’un récit avec ses protagonistes. Or les objets techniques qui partagent notre vie ont parfois, eux aussi une existence qui prend la forme d’une histoire dont ils sont les protagonistes, au même titre que les vivants.10

Cependant, comme le montre clairement la conjecture de la vallée de l’étrange, s’il y a ici une plus grande continuité entre le naturel et l’artificiel que ce qu’on trouve en Occident, où à l’opposé la rupture semble plus marquée qu’au Japon, il n’y a aucune confusion entre ce qui est vivant et ce qui ne l’est pas. La réaction brutale, qu’imagine Mori, à la découverte que le robot n’est qu’un robot, ou que la ressemblance n’est pas parfaite, témoigne bien de la centralité et de l’importance de cette distinction entre le vivant et le non-vivant, entre l’humain et le non-humain. En fait, cette brutale réaction de rejet suggère le contraire de la leçon qu’en tire Mori, ou du moins le contraire de la façon dont on l’a généralement interprété, car ce dont la surprise témoigne, dans l’exemple de la prothèse pris par Mori,11 c’est d’avoir été trompé et d’être détrompé. Si la différence nous révèle la vérité du robot, c’est bien la ressemblance qui nous induit en erreur.

En fait, si la vallée de l’étrange prend fin au moment où les robots nous ressemblent parfaitement, nous ressemblent à l’identique, la courbe qui indique le confort de l’interaction, elle, continue sa course ascendante bien au-delà, vers le robot incarnant l’idéal artistique de l’être humain ou le robot semblable au Bouddha. Ce qui suggère que le problème n’est peut-être pas tant, comme on le croit généralement, celui de l’échec de la ressemblance, mais celui de la trop grande ressemblance, car la facilité d’interaction continue à augmenter dès lors que les robots s’affichent de plus en plus différents de nous. Comme si ce qui nous trouble, ce n’était pas la différence, mais plutôt l’indistinction, la perte des différences.

Il est facile d’interagir avec un robot dont on voit clairement que c’est un robot, et d’autant plus aisé d’interagir avec lui que, par la taille, la forme, les aptitudes de base, il nous ressemble plus. Cette facilité tient essentiellement à des raisons d’ordre physique et biologique, nous partageons alors un environnement passablement similaire, ce qui augmente les possibilités de coordination réciproque. En fait, un des grands problèmes de nombreux robots à l’heure actuelle, c’est qu’ils ne peuvent fonctionner que très difficilement ou seulement partiellement dans ce qui constitue pour nous, êtres humains, un environnement normal. Ils ne nous ressemblent pas assez, d’où la pauvreté d’interactions possibles entre nous. Ainsi, ils ont bien deux bras et deux jambes, une tête, des yeux, des oreilles, mais ils ont beaucoup de mal à monter ou à descendre un escalier, à circuler dans un espace encombré, à s’adapter au changement de luminosité, à distinguer une voix des bruits environnants, etc. D’où la tentation de modifier l’environnement pour qu’il leur soit plus propice et de nous adapter à leurs défaillances.

Il n’y a donc pas de mystère à ce que la courbe au début soit ascendante au fur et à mesure que les robots nous ressemblent plus. Il n’est pas nécessaire pour expliquer ce fait de postuler quelque préférence psychologique pour les robots qui ressemblent plus à un humain et moins à un robot. L’avantage se situe à un autre niveau. Par contre, tant qu’un robot ressemble encore à un robot, tant qu’il affiche clairement son « robotellisme » pour ainsi dire, interagir avec lui reste socialement confortable. D’une part, parce que sa différence spécifique – pour parler comme Aristote – suggère une explication immédiate de ses capacités supérieures et de ses défaillances, des limites et des aberrations de son comportement, bref de ses différences. D’autre part, parce qu’il n’y a pas lieu de se demander s’il nous estime ou nous méprise, parce qu’il n’y a pas lieu de s’inquiéter de la suite (et des suites) de l’interaction.

Cependant, lorsqu’un robot nous ressemble trop, dès lors que sa différence spécifique disparaît, il devient un inconnu. C’est-à-dire quelqu’un dont nous ne savons ni ce qu’il faut attendre, ni ce dont il ou elle est capable. Qu’un robot puisse être comme nous n’a rien de rassurant. C’est comme rencontrer un inconnu sur une plage déserte. Cela ne se passe pas toujours bien. La différence qui existe entre nous et les robots ne nous protège peut-être pas, mais il n’est pas étonnant qu’elle nous rassure.

Élever un monument funéraire à la mémoire des insectes exterminés par l’introduction des pesticides, à la mémoire d’une voiture, d’une fusée, et pourquoi pas d’un robot, les dresser dans le cimetière le plus sacré du Japon entre le mausolée du moine Kukai et celui de la famille Tokugawa, n’implique aucune confusion des genres. Au contraire, cela suppose de reconnaître la différence dans sa différence comme faisant partie de la vie. À l’opposé, à trop insister sur la rupture, sur la « différence absolue » entre le vivant et l’artificiel, on risque de se condamner à l’alternative de l’assimilation ou du rejet total. Au premier versant de l’alternative correspond le rêve du cyborg tout puissant; à l’autre, la révolte des machines qui exterminent ou asservissent leurs créateurs. Dans un cas comme dans l’autre la différence – entre l’artificiel et l’humain – a disparu. Cette disparition de la différence relative entre l’un et l’autre correspond de plus à une nouvelle différence absolue, à un monde radicalement différent de celui où nous vivons et que nous connaissons.

On dira peut-être qu’il ne s’agit là, tant ici où je suis que là-bas d’où je viens, que d’imaginaire et de « symbolisation », que de la façon dont nous nous représentons nos rapports avec les robots conçus comme une forme de vie artificielle. Cet imaginaire cependant est celui des communautés imaginées, c’est-à-dire de communautés réelles comme le sont le Bouddhisme ou le Japon, plutôt que l’imaginaire des communautés imaginaires, c’est-à-dire de communautés fictives comme les royaumes de la lune, l’enfer de Dante ou le monde de Terminator. Plutôt que faux ou irréel, cet imaginaire correspond à la pensée qui structure effectivement la manière dont nous organisons notre vie, les uns avec les autres. Avec les autres qui sont « Autres », et avec tout ce qui n’est pas nous, mais fait néanmoins fondamentalement partie de notre vie.

1 Kant disait qu’à l’opposé des machines simples que nous sommes capables de construire, les êtres véritablement animés, les organismes vivants sont des machines dont toutes les parties sont des machines.

2 Conversation privé. Au sujet des travaux du Prof. H. Ishiguro ; voir aussi E. Grimaud & Paré, Z. Le jour où les robots mangeront des pommes (Éditions Pétra, Paris, 2011) et Z. Paré «The art of being together with robots: A conversation with Prof. Hiroshi Ishiguro » in International Journal of Social Robotics – special issue on Artificial Empathy (L. Damiano, H. Lehmann & Dumouchel, P., eds.), 2014.

3 En particulier dans le cadre du Robot Actors Project, Systems Innovation Department, Graduate School of Engineering, Osaka University, en collaboration avec Oriza Hirata, directeur du Seinendan Theatre Company depuis 1983.

4 Le modèle par excellence, car il existe d’autres Geminoïds, en particulier le Geminoïd-F dont le modèle humain est Ayako Fujii, célèbre présentatrice (speakerine) de la télévision japonaise.

5 ATR, ou Advanced Telecommunications Research Institute, situé un peu à l’extérieur de Kyoto, est un des hauts lieux de la recherche robotique au Japon.

6 M. Mori, « The Uncanny Valley », Energy 4 (1970), p. 33-35, traduction française, « La vallée de l’étrange », I. Yaya, tr., Gradhiva, 15 (2012), p. 27-33.

7 Voir K. F. MacDorman & Ishiguro, H., « The Uncanny Advantage of Using Androids in Cognitive and Social Research », Interaction Studies, 7:3 (2006), p. 297-337; H. Ishiguro, « Scientific Issues concerning Androids », The International Journal of Robotic Research, 26:1 (2007).

8 C’est la revanche de Bruno Latour qui propose que l’analyse sociologique repose sur la découverte de programmes d’action où il y a à la fois des humains et des non-humains et que l’explication doit traiter les uns et les autres de façon parfaitement symétrique. Voir : Bruno Latour, Petites leçons de sociologie des sciences, Le Seuil, Paris, 1996.

9 E. Kohn, How Forests Think, University of California Press, Berkeley, 2013.

10 Le roman remarquable d’Ivo Andric, Le Pont sur la Drina [1990] P. Delpeche, tr. (Belfond, Paris, 1994) raconte précisément la vie d’un pont depuis sa construction au XVIe siècle jusqu’au début du XXe.

11 Pour illustrer la vallée de l’inquiétante étrangeté, Mori donne comme exemple le malaise qui vient de toucher une prothèse froide et rigide qu’on avait prise pour une vraie main.

Dumouchel Paul

Paul Dumouchel est professeur de philosophie au Graduate School of Core Ethics and Frontier Science de l’université Ritsumeikan, Kyoto, Japon. Il est co-auteur avec Jean-Pierre Dupuy de L’Enfer des Choses (Seuil, 1979) et auteur de Émotions, essai sur le corps et le social (Les Empêcheurs de Penser en Rond, 1998). Il a récemment coédité, avec Reiko Gotoh, Against Injustice The New Economics of Amartya Sen (Cambridge, 2009). Ses derniers ouvrages sont Le sacrifice inutile. Essai sur la violence politique (Paris : Flammarion, 2011) ; Economia dell’invidia (Massa : Transeuropa, 2011) et The Ambivalence of Scarcity and Other Essays (Michigan State University Press, 2014). Social Bonds as Freedom co-édité avec Reiko Gotoh (Berghahn Books) est à paraître en 2015, ainsi que, avec Luisa Damiano, Vivre avec les robots (Seuil).