Le robot qui vous veut du bien

« Ginny ! s’exclama Mr Weasley stupéfait.
Je ne t’ai donc jamais rien appris ? Qu’est-ce que je t’ai toujours dit ? De ne jamais te fier
à quelque chose capable d’agir et de penser tout seul si tu ne vois pas où se trouve son cerveau. »1

Cette chose qui agit et pense toute seule sans que l’on voie où se trouve son cerveau, c’est, dans le deuxième volet de la saga de Harry Potter, le journal intime de Jedusor: un curieux cahier, auquel Ginny, la fille de Mr Weasley, se confie et qui lui répond, qui la console, pour finalement l’ensorceler. Peu importe que l’être en question ne possède pas de visage, ne soit pas capable d’éprouver et à manifester des émotions. Ce qui est déterminant pour Mr Weasley est de pouvoir localiser son cerveau. Sans doute, parce que celui-ci marque l’autonomie de l’action, et qu’une chose qui agirait sans que l’on puisse circonscrire son cerveau serait mue par un pouvoir caché, subirait donc et éventuellement transmettrait une influence extérieure.

Les robots-compagnons, particulièrement ceux développés par Aldebaran, NAO et son petit frère Pepper, ont une silhouette humanoïde (une tête, un tronc, des bras et des jambes) bien qu’ils ne cherchent pas à calquer l’être humain. En aucun cas, ils ne pourraient passer pour, ou être confondus avec, un être humain, à la différence de robots tels l’Actroid, développée par l’université d’Osaka et produite par la compagnie Kokoro, et le Geminoid, du laboratoire d’Hiroshi Ishiguro, lesquels semblent encore rester à un stade expérimental. NAO et Pepper, comme leur concurrent japonais, l’ASIMO de Honda, ressemblent plutôt à des personnages de dessins animés, sensiblement plus petits qu’un être humain (NAO mesure environ 58 cm, ASIMO entre 1m20 et 1m30), une silhouette et un visage stylisés, des yeux très grands, pas de nez, une simple marque pour la bouche, une enveloppe de plastique blanc qui n’a rien de la peau humaine. Ils ont pour seule fonction (ou objectif) de pouvoir accompagner et aider les humains, au travail ou dans la vie quotidienne et, en premier lieu, ceux qui ont besoin d’assistance, les personnes âgées et les enfants.

Les robots vont-ils entrer dans notre vie quotidienne ? « Oui – répond Bruno Maisonnier, le créateur d’Aldebaran – et dans des délais très courts, dans un ou deux ans. Cela s’explique non seulement par l’évolution technologique mais aussi par la démographie. Les personnes âgées et les enfants sont les premiers concernés par les robots. La robotique répond à un nouveau besoin d’avoir un compagnon. Et c’est sans doute pour aider que ces robots s’introduiront dans nos vies ».2

Le site d’ASIMO (http://asimo.honda. com/asimotv/) montre le robot à la maison, amenant un jus d’orange à un humain attablé, ou au bureau évitant une collision avec un employé distrait ou prenant commande et s’occupant d’aller chercher au distributeur les cafés ou autres boissons de trois employés qui prennent plaisir à lui parler tous en même temps. Sur Youtube, une vidéo interactive montre une soirée de nouvel an passée avec NAO, qui offre à l’utilisateur le choix d’aller boire un verre dans un café en sa compagnie ou de rester à la maison, NAO commandant une pizza (qu’il ne mange pas lui-même) avant de faire une partie de jeu vidéo avec l’utilisateur.

La principale différence entre NAO et ASIMO, du moins dans l’argumentaire qui les présente, est que les créateurs d’ASIMO insistent beaucoup plus sur les capacités pratiques de la machine, alors que ceux de NAO mettent l’accent sur le caractère affectif du rapport au robot. ASIMO est capable – lit-on – « d’agir dans le monde réel », d’aller chercher quelque chose pour l’utilisateur, de se repérer dans un environnement, de s’y déplacer, de courir (à une vitesse de 9km/h, un footing tout à fait correct donc), de monter un escalier ou de servir un verre, tâche tout à fait difficile, non seulement dans le mouvement de dévisser le bouchon de la bouteille mais aussi dans le calcul de la pression à exercer sur le gobelet, pas trop forte pour ne pas l’écraser, ni trop faible pour ne pas le laisser tomber. En revanche, NAO, quelles que soient ses réelles capacités, est avant tout présenté comme un robot « bienveillant ». Le mot revient à de multiples reprises sur le site d’Aldebaran, comme dans les entretiens que donne son directeur B. Maisonnier. « Notre but chez Aldebaran est de faire des robots pour le bien des gens, des robots bienveillants qui vivront avec les humains en tant qu’espèce artificielle. »3Ou encore : « on ne peut pas raisonner uniquement en termes utilitaires. C’est la même chose avec les robots. Il faut des robots humanoïdes bienveillants, mignons, qui apportent du bien-être. »4Ou encore : « depuis neuf ans, je suis persuadé que le rôle le plus important pour les robots sera d’être des compagnons sensibles et bienveillants qui amélioreront notre vie quotidienne : ils nous apporteront de la joie, nous surprendront sans cesse et nous aideront à progresser [...] Les robots émotionnels introduiront une nouvelle dimension dans nos existences et de nouvelles manières d’interagir avec la technologie. »5

Ce caractère affectif du rapport au robot introduit quelque chose de nouveau (pour le meilleur ou pour le pire) dans nos relations à nos machines et, sans doute, dans nos vies elles-mêmes. Les robots compagnons que l’on rencontre dans la littérature et le cinéma de science-fiction ont en général une fonction spécifique : ils nous prêtent leur force, leur intelligence calculatoire, leurs instruments d’observation et s’il peut se nouer avec l’humain qu’ils accompagnent comme avec le lecteur, ou le spectateur, un rapport affectif, la présence, l’usage du robot ne sont pas justifiés principalement par l’affection qu’ils donnent et appellent. Certains robots, comme l’Eve future dans le roman de Villiers de l’Isle-Adam, ou Rachel dans le roman de Ph. K. Dick, Do Androids Dream of Electric Sheep ?, ou Gigolo Joe, dans le film de Spielberg A.I. sont conçus pour susciter l’amour, ou un désir érotique, chez l’humain. Mais ce désir, érotique, amoureux, est tout à fait différent de l’attachement affectif de NAO. Tel qu’il est présenté sur le site de Albebaran, la raison d’être de NAO est dans ce rapport affectif, dans une sorte de complicité : « C’est l’objectif auquel travaille Aldebaran : en faire un compagnon interactif intéressant et complice. Sa forme humanoïde vous transporte dans un monde d’émotions et d’affection, sa gestuelle lui donne vie et le rend attachant, sa capacité d’interaction fait de lui un nouveau membre de la famille. »6

Aldebaran et B. Maisonnier comparent NAO, dans cette perspective « bienveillante », à un « nouveau membre de la famille », à un ami (« communiquer avec Pepper de manière naturelle est un vrai plaisir, presque comme s’il était un ami ou un proche »7) ou à un animal domestique, un chien en l’occurrence. Mais aucun de ces modèles ne semble tout à fait adéquat. Un autre humain, un membre de la famille ou un ami, est, ou est susceptible de devenir, un alter ego, ce que ne sont pas ces robots compagnons dont la petite taille doit rassurer l’humain de sa supériorité. Dans la vidéo déjà mentionnée, cette soirée de nouvel an, NAO n’est pas un ami, à qui l’on n’ordonnerait pas d’aller ouvrir la porte, commander une pizza, sans même pouvoir lui en offrir. La référence à l’animal domestique est peut-être plus importante dans le discours de B. Maisonnier. « Il existe deux catégories de robots. Les robots utiles comme les aspirateurs et les robots de défense par exemple. Et les autres robots qui relèvent plus de l’animal de compagnie. Ce sont ceux-là qui m’intéressent. [...] C’est l’émotion et la bienveillance qui comptent. Par exemple, lorsqu’une personne est triste, un chien va automatiquement venir se coller à elle pour la réconforter.»8

Laissons de côté pour le moment la question de savoir dans quelle mesure le robot est capable de déchiffrer nos émotions, et si cette reconnaissance des émotions par le robot ressemble à celle du chien. Il ne fait pas de doute que, par sa figure, sa gestuelle, NAO est attachant et peut certainement distraire et, d’une certaine façon, réconforter l’utilisateur. Quoi qu’il en soit, une différence avec le chien est que celui-ci est coupé de tout une partie du monde humain auquel NAO a accès. Le chien ne parle pas alors que NAO semble disposer d’un système de reconnaissance vocale qui le rend capable de tenir une conversation (stéréotypée peut-être) comme de répondre à des ordres dans un domaine qui échappe entièrement au chien, lequel n’ira pas allumer la télévision, ni choisir de lui-même la chaîne, ou le morceau du musique, préféré de son maître, ni partager avec lui une soirée de jeu vidéo. On peut compter que le robot s’immisce dans un domaine humain auquel le chien n’a aucunement accès. «Vous pourrez par exemple demander à NAO d’apprendre les tables de multiplication à vos enfants, de vous réveiller le matin, de surveiller votre maison en journée ou de vous apprendre de nouvelles choses dès que vous le demandez.»9Un chien peut surveiller votre maison et vous réveiller le matin (pas forcément à l’heure que vous souhaitez) mais il ne fera pas répéter les tables de multiplications à vos enfants, ni ne vous apprendra des choses nouvelles quand vous le lui demanderez (il vous apprendra peut-être quelque chose mais ce ne sera pas quand vous le lui demanderez). Le robot, en réalité, est une interface. Il est connecté et peut prendre la place d’une tablette, ou d’un téléphone portable, auquel on peut demander de vive voix de diffuser telle radio, ou de chercher sur une encyclopédie en ligne la date de naissance de Louis XIV ou la recette des crêpes suzette.

Cependant, dans ces fonctions de robot répétiteur, de robot réveil, de robot qui surveille la maison, de robot internet, NAO est une sorte d’ordinateur sur pattes, un téléphone intelligent (oui, dans la vidéo évoquée plus haut, il sert aussi de téléphone), avec un design sympathique et que l’on ne porte pas avec soi mais qui suit l’utilisateur chez lui. Cela lui suffira peut-être pour s’introduire dans les foyers, cela suffit en tout cas à le distinguer du chien. Et, en fait, ce genre de fonction n’explique en rien la proximité à l’animal qui lui est prêtée. Pour que NAO puisse aussi jouer le rôle de l’animal de compagnie, et peut-être remplacer l’animal de compagnie sans même forcément ressembler à un animal de compagnie, ni avoir exactement le même comportement, il lui faut du moins une double capacité que possède l’animal de compagnie : celle de pouvoir se déplacer dans un environnement réel (chez l’utilisateur, dehors) et celle de pouvoir établir en effet un contact affectif avec l’utilisateur. Ces capacités, NAO les a-t-il ? Un robot, une machine, peuvent-ils les avoir ?

Aldebaran développe aussi un autre robot, Pepper, actuellement en service dans les boutiques de la compagnie de téléphonie japonaise SoftBank Mobile. Pepper se déplace sur roulettes, au lieu de pieds, ce qui lui interdit de monter un escalier par exemple. Il possède un écran sur son abdomen, de façon à pouvoir distraire l’utilisateur en lui passant un film. Pour le reste, dans son apparence extérieure du moins, il ressemble à NAO. Aldebaran y voit « le premier robot conçu pour vivre parmi les humains. Au risque de vous décevoir, il ne fait pas le ménage, ni la cuisine et n’a pas de supers pouvoirs. [...] Mais il parle, sait reconnaître vos émotions, se déplacer et vivre de manière autonome. »10Son comportement, ses réactions seraient déterminés par les émotions qu’il lit sur le visage, ou dans les mots de l’utilisateur. Le robot pourrait repérer sur le visage de l’utilisateur, non pas l’écartement des pupilles comme pour une identification de police, mais l’écartement entre les sourcils froncés, pour y déchiffrer la colère. Ou repérer dans le langage de l’utilisateur, non pas seulement certains mots comme un système classique de reconnaissance vocale, mais un ton de voix qui trahirait la joie, la tristesse, etc. « Pepper essaie de comprendre vos émotions. Si vous riez aux éclats, il saura que vous êtes de bonne humeur. Si vous froncez les sourcils, Pepper comprendra que quelque chose vous tracasse. En se basant sur les émotions universelles (joie, surprise, colère, doute et tristesse) et en analysant vos expressions faciales, votre langage corporel et vos mots, Pepper devine dans quel état vous vous trouvez et s’adaptera. Il pourra par exemple essayer de vous remonter le moral en passant votre morceau préféré ! »11

J’ai moi-même assisté à une présentation de NAO. Le sol de la salle était carrelé, blanc, il y avait un projecteur au plafond et, lorsque l’on a demandé à NAO de traverser la pièce, il a fait quelques pas, puis il a commencé à trépigner. Il faisait de petits pas, très rapides, tournant sur lui-même. En fait, sa position était telle que son ombre, dans la lumière du projecteur, tombait devant lui et qu’il y voyait un trou qu’il essayait donc de contourner. Tout humain, trop humain, le robot avait peur de son ombre.

Dans quelle mesure le système de reconnaissance des émotions fonctionne-t-il dans le monde réel, lorsque l’utilisateur ne se contente pas de mimer la joie ou la colère en riant ou en fronçant les sourcils ostensiblement, mais lorsqu’il rentre chez lui fatigué. Dans quelle mesure le robot est-il capable de distinguer les larmes de joies et celles du chagrin, etc. ?

Seul l’avenir le dira. En effet, le robot s’entraîne et, en ce sens, apprend à l’usage. Exactement, comme un système de reconnaissance vocale : j’ai prononcé « cacher », la machine a écrit « casser », je corrige le texte, la machine l’enregistre et, peu à peu, elle « apprend » à distinguer ou modifie ses paramètres pour distinguer la façon dont, et le contexte dans lequel, je prononce ce « cacher » qui ressemble tant à un « casser ». Quelque chose de semblable peut avoir lieu pour la reconnaissance des émotions : le robot me dit, comme une bonne blague « ta grand-mère est morte ! » parce qu’il a cru me voir, la semaine précédente, hurler de rire à l’annonce de cette nouvelle, je lui mets une gifle, il comprend, ou modifie ses paramètres pour se souvenir, que cette sorte de rire n’implique pas que ce qui l’a causé doive être répété. Il en est de même enfin pour les déplacements du robot dans le monde réel. Si NAO a peur de son ombre dans ma cuisine, ou peur de poser le pied sur le paillasson, je dois certainement pouvoir lui indiquer que ce noir-là est inoffensif et qu’il n’y tombera pas. C’est donc à l’usage, une fois les foyers investis, que le robot se perfectionnera, et il est impossible (pour le philosophe au moins) de donner une limite aux capacités qu’il pourra alors développer.

NAO est connecté : le système de reconnaissance vocale, à lui seul, est trop lourd pour être embarqué dans son corps. Comme un téléphone portable, NAO, pour décrypter le discours de l’utilisateur, se connecte sur un site spécialisé, et c’est donc à l’extérieur de lui-même que s’opère la reconnaissance vocale. Cette connectivité permet de mettre en place un apprentissage communautaire, de sorte que, quand j’apprends à mon NAO à reconnaître mon paillasson, pour y poser le pied, au lieu d’y voir un trou, ce sont tous les NAO qui, devant le même paillasson, passeront sans hésiter. Les progrès dont seraient susceptibles des NAO lancés dans le monde réel seraient sans commune mesure avec ce qu’ils peuvent apprendre dans un laboratoire. Cela parce que les utilisateurs se transforment d’eux-mêmes en autant d’expérimentateurs. Un utilisateur à l’autre bout du monde apprend à son NAO à jouer au scrabble (un utilisateur geek) et mon NAO peut lui aussi jouer au scrabble ou peut du moins me proposer de télécharger, gratuitement ou non, l’application scrabble. Ou encore, un NAO, dans l’appartement au-dessus, entend une blague qui fait rire tout le monde, et mon NAO me la répète chez moi, qui rit aussi. « [...] NAO est évolutif: plus il y aura de comportements, de contenus ou d’applications développés pour lui, plus il aura la capacité de vous surprendre quotidiennement. Nous avons créé un magasin d’applications en ligne sur lequel le robot téléchargera de lui-même de nouveaux comportements. » Et, de même, « le but de Pepper est d’apprendre et de grandir petit à petit pour être un jour votre compagnon à la maison. Aujourd’hui, il n’est pas parfait mais il a été conçu pour permettre à tous les développeurs et créatifs de le faire évoluer ! »12

La mise en garde de Mr. Weasley concerne donc bien les robots. Leur cerveau n’est pas enfermé dans leur enveloppe plastique mais se trouve distribué dans leur communauté et, possiblement, centralisé autour de la compagnie qui les produit. C’est aussi en cela que le robot se distingue d’un animal domestique. Un chien, s’il pouvait lire l’ennui sur votre visage, n’ira pas choisir ce moment précisément pour vous proposer d’acheter un nouveau jeu vidéo. Il n’interrompra pas non plus son jeu avec l’enfant pour lui passer, vers 16h30, une publicité pour des barres en chocolat. Le robot peut certainement le faire. La compagnie qui produit les robots, le fournisseur Internet, l’annonceur publicitaire ont intérêt à ce qu’on se lie plus étroitement à sa machine pour lui en demander toujours plus. Ce n’est pas à un ami, ni à un animal domestique qu’il faut comparer les robots humanoïdes compagnons mais à des personnages de dessins animés, attachants comme ceux-ci et porteurs de toutes sortes de messages. Le robot humanoïde compagnon, c’est Mickey qui a quitté l’écran (que l’on pouvait éteindre), qui a pris corps et nous suit dans notre appartement, pour nous distraire, nous réconforter, nous faire la réclame : pour notre bien, peut-être.

1 J. K. Rowling, Harry Potter et la chambre des secrets (1999), tr. fr. J.-F. Ménard, Gallimard Jeunesse, Paris, 2007, p. 343-344.

2 Entretien pour «Techniques de l’ingénieur», www. techniques-ingenieur.fr/actualite/high-tech-thematique_193/bruno-maisonnier-les-robots-ce-n-est-pas-seulement-un-truc-de-japonais-article_6062/ (consulté en août 2014). De même, à propos d’ASIMO, voir Le Parisien du 16 avril 2014.

3 www.aldebaran.com/fr. (consulté en août 2014).

4 Entretien dans Challenges : www.challenges.fr/economie/20140320.CHA1843/les-robots-vont-ils-detruire-des-emplois.html (consulté en août 2014).

5 Cité par Le Figaro, 10 juin 2014.

6 www.aldebaran.com/fr (consulté en août 2014).

Ibid. 


8 Entretien dans Le Monde, les clés de demain: http:// lesclesdedemain.lemonde.fr/innovation/le-robot-prochain-animal-de-compagnie_a-54-3544.html (consulté en août 2014). Également, entretien dans Challenges: www.challenges.fr/economie/20140320.CHA1843/les-robots-vont-ils-detruire-des-emplois.html (consulté en août 2014).

9 www.aldebaran.com/fr (consulté en août 2014).

10 Ibid.

11 Ibid.

12 Ibid.

Cassou-Noguès Pierre

Pierre Cassou-Noguès
 est professeur de philosophie à l’Université Paris 8. Ses travaux actuels concernent les relations entre rationalités et imaginaires dans l’histoire de la philosophie en France et en relation aux sciences et aux techniques contemporaines. Il a récemment publié La mélodie du tic-tac (Flammarion, 2013) et Les rêves cybernétiques de Norbert Wiener (Seuil, 2014).