Les robots sont des personnes comme les autres. Changer notre regard pour ne pas subir l’automatisation

Depuis le 13 mai 2014, il est le sixième membre du conseil d’administration de la société hongkongaise Deep knowledge ventures, ou DKV. Il n’a pas besoin de porter cravate et costume de grand ponte. Il s’appelle Vital, d’un acronyme que les autres têtes d’œuf du conseil ont sans doute oublié mais qui en dit beaucoup sur le sens de sa présence au sommet de cette entreprise de capital-risque des secteurs de la lutte contre le cancer, la médecine régénérative et les traitements personnalisés : « Outil de validation pour les investissements dans la recherche scientifique »1. Vital n’a pas le physique de l’emploi : c’est un algorithme. Plus aucune décision d’investissement, néanmoins, n’est aujourd’hui prise par DKV sans qu’il n’ait voix au chapitre. Car le robot, pour peu qu’on le nomme ainsi comme l’ont fait la plupart des journalistes ayant chanté sa finesse d’analyse autant que sa puissance de calcul, est un incorruptible. Sa promotion, son crédit au sein du pool de décideurs de Deep knowledge ventures, il les doit à sa neutralité. À la rigueur toute mathématique de ses avis sur les sociétés candidates à la manne financière. Mais cette absence de subjectivité n’est-elle pas un leurre ? Même autonome dans l’exercice quotidien de sa mission, une machine programmée par des humains peut-elle être considérée comme neutre ? Et infaillible ? Car Vital pourrait se tromper et soutenir un investissement nuisible.

Et si cet algorithme réussissait un jour à convaincre les cinq autres membres de son conseil d’administration d’investir dans une startup se présentant de façon crédible comme spécialisée dans la lutte contre le vieillissement, mais dirigée en sous-main par une bande de djihadistes cherchant des fonds pour l’immortel Allah ? Vital pourrait-il être tenu pour responsable de l’erreur de casting ? Faudrait-il incriminer la société DKV, juridiquement propriétaire de ce logiciel ô combien supérieur ? Ou ses prestataires et leurs sources d’information ? Ou bien se retourner contre le concepteur de Vital, cette mécanique qu’on croyait pourtant si intelligente ?

Sous un autre regard, dès lors qu’il décide ou du moins qu’il juge d’une situation d’un point de vue autonome, le robot ne doit-il pas être traité à l’égal d’une personne comme vous et moi ? S’avérer in fine éthiquement, juridiquement responsable de ses actes ? Car aujourd’hui ou dans un avenir très proche, Vital pourrait tout aussi bien être un robot taxi en conduite sans chauffeur grâce à ses capteurs – avec le risque, même minimal, d’un accident de circulation mettant en danger la vie de ses passagers. Vital pourrait être également un vendeur de supermarché, humanoïde très grossier avec écran sur la poitrine, comme le OSHbot qui équipe en test les magasins de bricolage de la marque Lowe’s aux États-Unis. Il orienterait le client dans sa quête du produit qui dépanne, décape ou réjouit les papilles – avec le risque, même infime une nouvelle fois, d’une vis tordue, d’une lessive blanchissant le rose par mégarde, ou d’un saumon trop garni de mercure pour être un honnête poisson de la mer du Nord. La possibilité de découvrir un jour quelque automate ultra-sophistiqué sur le banc des accusés d’un tribunal n’est donc pas qu’une lubie d’amateur de science-fiction.

Travailler sous l’autorité d’un robot, c’est si c’est bon…

Adoptons la définition la plus large du terme « robot ». En 2015, sous toutes leurs facettes, ces mécaniques sont d’ores et déjà partout, et s’apprêtent à nous envahir de leur omniprésence dans les quinze ans à venir.

De fait, les robots sont présents depuis un bail dans le monde du travail. Sauf que les frères et sœurs archaïques du presque PDG Vital, distributeurs de billets ou géants ouvriers des chaînes de montage de l’industrie automobile, appartenaient à la toute première génération du genre, sans capteurs pour exister au sein de leur environnement, ni intelligence artificielle pour nous rendre babas d’admiration.

Une façon parmi d’autres de prendre la mesure de leur devenir, du moins sur le registre laborieux, consiste à noter les prédictions récentes en termes d’emploi. Selon l’étude d’un ingénieur et d’un économiste de l’Université d’Oxford, publiée fin 2013, 47% des emplois devraient être assurés par des automates d’ici une vingtaine d’années aux États-Unis2.

Dans une étude d’octobre 2014, le cabinet Roland Berger assure quant à lui que près d’un cinquième des emplois devraient être automatisés d’ici 2025 en France, représentant à peu près 3 millions de postes3.

N’est-ce que la confirmation d’une tendance fatale, pouvant susciter un repli réactionnaire ? Ou à l’inverse l’occasion d’une indispensable prise de conscience de la stupidité de cette notion d’emploi4? Les deux sans aucun doute, mais avec une nouveauté de taille à prendre en compte : la montée en gamme intellectuelle de l’envahisseur, des robots vignerons aux drones, lui permet de « menacer » désormais non seulement l’industrie lourde, mais également l’agriculture, le bâtiment, l’hôtellerie, la grande distribution, l’armée, la police, bien des postes de l’administration publique, voire bientôt, selon le JDD, le journalisme, la musique et une ribambelle de professions intermédiaires chères à nos classes dites moyennes.

Plus surprenant : à l’instar de Vital au sein de Deep knowledge ventures, symbole parfait de cette nouvelle donne, le robot ne serait plus l’indésirable du monde du travail. Pour preuve : selon une enquête in situ, pilotée dans une usine de Lego par un chercheur du Computer Science and Artificial Intelligence Lab du MIT de Boston, les ouvriers préféreraient travailler sous les ordres d’un robot à la neutralité incritiquable plutôt que sous l’autorité discutable d’un être humain, chef d’une équipe intégrant la machine en son sein. Et si l’on plaçait un individu sous les ordres de la machine et les autres humains sous l’autorité de l’un de leurs congénères de chair et de sang ? Non, tous préfèrent avoir le même chef mécanique. Serait-ce la démonstration de la compétence de l’automate ? Ou sinon de sa « presque » humanité ? Le robot possède, il est vrai, une paire de bras articulés, des roues motrices et surtout deux yeux aux beaux sourcils dans un écran faisant office de tête5

L’enquête réalisée dans l’usine de Lego n’est pas présentée sans de fortes limites méthodologiques. Elle est indissociable d’un contexte spécifique. Elle pose néanmoins la question de la meilleure façon de traiter le robot pour minimiser l’emprise qu’il pourrait avoir sur nous. Nous pourrions affirmer, fidèles en cela au sens commun : ce n’est qu’une machine, une chose sans libre arbitre, et donc la laisser gouverner des collaborateurs humains. Mais ne serait-ce pas là le meilleur service à rendre à ce robot et surtout à ses maîtres ? Ne vaudrait-il pas mieux, à l’inverse, le considérer comme une personne ? Et donc s’en méfier ? Moins, d’ailleurs, comme d’une femme ou d’un homme qui pourraient nous remplacer – ce qui ne serait pas faux – que comme d’un agent du pouvoir de l’entreprise, par essence obéissant, dont la capacité d’improvisation pourrait être mise en doute, mais qu’il ne faudrait surtout pas sous-estimer.

Treize milliards d’objets qui me parlent – et moi, et moi, et moi…

Une seconde manière d’anticiper l’avenir radieux de nos multiples automates repose sur le décompte de nos objets connectés : uniquement côté grand public, sans donc ce qu’on appelle le « M2M » ou « machine to machine », ils devraient passer de 2,9 milliards dans le monde en 2015 à 13 milliards en 2020, selon le cabinet Gartner.

Oubliez les mixeurs, grille-pain et autres fours à micro-ondes ne sachant répondre qu’à la pression d’un bouton, et imaginez-les avec une puce en guise de cerveau de moineau, ainsi qu’une voix de sirène qui vous donne la météo de la cuisine. Admirez sans technophobie votre tondeuse magique ou votre aspirateur muni de capteurs pour nettoyer seul et sans chuter votre bel intérieur bourgeois. Dans l’immense gamme de l’automesure (ou quantified self), pensez à la balance électronique qui vous suggère de l’exercice pour la journée, au bracelet contre l’embonpoint qui vous sonne de reprendre votre régime ou, sur le registre de la maison dopée par le numérique, au Cube Sensor, appareil lumineux qui utilise une multitude de capteurs pour mesurer la température, la qualité de l’air, l’humidité, le bruit, la pression atmosphérique et les mouvements, qui vous alerte par ses signes éclairants, puis vous informe grâce aux données recueillies.

Entre mille objets connectés d’aujourd’hui et de demain, il y a aussi la cigarette artificielle, la porte du bureau, le bouton de chemise ou le justaucorps, eux aussi intelligents à ce qu’il paraît. Enfin, écoutez les voix de Siri sur votre iPhone ou de Google Now sur votre smartphone sous OS Android. Elles répondent à vos exigences, tout comme la dernière perle du genre, la boîte Echo de la multinationale de e-commerce Amazon. Ces assistantes-là vous font rêver de la tendre compagne, intégralement digitale, de l’antihéros du film Her de Spike Jonze. Car selon Ray Kurzweil, techno-prophète de la Singularité usant désormais ses neurones pour bâtir le futur cerveau artificiel de Google, aucun doute : « D’ici quinze ans, comme dans le film, les êtres humains pourront tomber amoureux d’un ordinateur »6, d’une Intelligence artificielle comme celle de Her, capable d’être aussi romantique et drôle que la plus humaine des séductrices.

Là est la clef : hier simples outils pas plus remarquables qu’une fourchette, les machines interagissent et donc se mettent à dialoguer avec nous, même de façon primaire. Retour de l’animisme ? Ces objets n’ont pas la sensibilité de l’animal, ce compagnon de toujours que l’on sait capable d’émotion, d’empathie, voire d’amitié depuis les travaux de Dominique Lestel ou de Franz de Waal7. Mais leur autonomie grandissante, leur intelligence – du moins de calcul – dopée par leur accès au nouveau monde des données et augmentée d’un sens relationnel qui semble de plus en plus « naturel », en font pour nous des interlocuteurs. Au point qu’Adam Greenfield, l’un des plus grands designers de l’internet des objets, affirme que l’enjeu sera demain d’apprendre la politesse à ces machines avec lesquelles nous conversons désormais8. Qu’elles nous demandent la permission avant d’enregistrer nos faits et gestes, qu’elles nous signalent qui est leur maître et possesseur, et puis qu’elles soient aimables et prévenantes…

Les robots tirant sur l’humanoïde sont, sous ce regard, les meilleures illustrations de ce mouvement de vaste ampleur vers une proximité toujours plus forte des machines, comme l’est d’ailleurs Paro, le bébé phoque thérapeutique aux airs de peluche vivante, gardien des mémés nippones qui leur rappelle à l’occasion de ne pas oublier d’ingurgiter leurs pilules à l’heure. Par leur physique attrayant, gentiment animal à la façon de feu-le-robot-canin Aïbo, ou avec des traits humains (mais pas trop), ils incarnent le devenir vital et empathique de nos automates de service comme de santé ou de loisir – même d’ailleurs de ceux qui ne possèdent aucune enveloppe corporelle, comme Vital, dont ils deviennent en quelque sorte la vitrine. Exemple parmi d’autres : avec ses roues discrètes, sa tablette tactile sur le torse et sa bouille de jeune fille adolescente sans le poil, Pepper est en vente depuis février 2015 pour la somme de 2 000 dollars au Japon, après y avoir été testé à l’automne 2014 dans les points de vente Nescafé et dans les boutiques de l’opérateur de téléphonie mobile Softbank – qui possède depuis mars 2012 la majorité des parts de la société française qui l’a conçu, Aldebaran.

En cette figure du robot intelligent et empathique qui pointe son crâne chauve, symbole à peine idéalisé de l’ère du tout connecté, convergent les trois machines qui hantent notre imaginaire.

La première et la plus simple est la machine industrielle, conçue pour nous servir. Elle est fidèle par cette fonction, socle indéboulonnable, à l’origine du mot «robot», néologisme tiré du tchèque robota qui signifie « corvée » ou « travail forcé », utilisé pour la première fois par Karel Capek pour sa pièce de théâtre R.U.R.9 en 1920 afin de désigner des machines plus proches des répliquants Nexus-6 du film mythique Blade Runner10 que du sympathique Pepper des boutiques de l’opérateur Softbank. Sauf que, même lorsqu’elle est aux petits soins avec nous, compagne de notre douceur de vivre en bonne santé, la machine industrielle robotique n’en reste pas moins notre esclave.

La deuxième machine, qu’incarnaient à l’échelle de la société de l’ère industrielle les mécaniques du travail à la chaîne des Temps modernes de Chaplin et qu’incarne désormais l’automate perfectionné, est la machine sociale. Car le robot, qu’on le veuille ou non, « personnifie » la quête effrénée et néanmoins souriante de la productivité et du bien-être sous contrôle, de la sécurité et du confort pour mieux nous cocooner dans nos écosystèmes numériques. Bref, à l’instar du swibble de Philip K. Dick11, il est tout autant le soldat et la métaphore d’une machine sociale qu’une machine industrielle parfaitement utile.

Enfin, ce robot concrétise pour la première fois de façon tangible la plus fantasmatique des trois entités de notre imaginaire : la machine démiurgique, parfois sobrement nommée machine technologique. Sous ce prisme, le robot est notre création, notre créature plus encore que notre prothèse « naturelle », nous positionnant à son égard tel Dieu vis-à-vis de nous autres, pauvres mortels.

Des robots curieux apprenant à vivre dans un monde de brutes

Mercredi 24 décembre 2014. Je suis dans l’atelier ouvert au public d’Aldebaran Robotics, à Issy-les-Moulineaux. Nao, petit lutin de cinquante-huit centimètres, ainsi que sa sœur d’un mètre vingt, Pepper, puisque chacun la traite ici comme une jeune fille, sont le prince et la princesse du lieu. Impossible, dès le premier échange avec Pepper, de la prendre pour une personne. Parmi les visiteurs, il y a beaucoup de jeunes ou très jeunes qui rêvent de tels bijoux mécaniques pour Noël. Certains, guidés ou non par un animateur, apprennent à programmer Nao depuis un ordinateur. Un jeu d’enfant, du moins pour lui inculquer les premiers rudiments de parole ou de danse.

Nao et Pepper ne sont ici que des jouets. Manque néanmoins à l’appel Romeo, quatre fois plus puissant – intellectuellement s’entend – que Pepper, promis à moult recherches et expérimentations, en particulier dans le secteur de la santé. Je discute avec l’un des ingénieurs ayant conçu Pepper et Romeo, Alexandre Mazel. Entre les lignes, ses mots me confirment mon sentiment : dans cet atelier sur territoire français plutôt que nippon, donc plus judéo-chrétien que shintoïste, tout est conçu pour rassurer le visiteur ou futur client. Les aimables mécaniques sont à la main des êtres humains. Nao, Pepper et Romeo seront ce que vous en ferez, vous. Pas ce qu’ils feront demain d’eux-mêmes sans vous, telle la Fille née sans mère de Francis Picabia et toutes les œuvres mécanomorphes du genre Dada qu’il a imaginées il y a un siècle12. Qu’on se le dise : les concepteurs et développeurs de la société Aldebaran ne sont pas des apprentis-sorciers. Et ce d’autant que la programmation d’un robot vraiment autonome – à défaut de vouloir qu’il le soit – n’est pas une mince affaire. Il est d’ailleurs plus complexe de lui permettre de libres déplacements dans des régions inconnues à la géographie non programmée que de lui donner les capacités intellectuelles pour battre des champions aux échecs ou anticiper les risques et promesses d’un investissement financier.

De façon encore plus prosaïque, notons aussi la nécessité pour le robot de recharger seul ou sinon de faire recharger régulièrement ses batteries par ses maîtres. L’idée, en ce qui concerne l’autonomie de notre automate, serait dès lors de considérer pour lui l’alimentation en électricité comme pour nous l’obligation de boire et de nous sustenter. Mais avec, pour l’instant, une grande fragilité, notre créature artificielle ayant bien du mal à ne pas s’écrouler sans recharge pendant une demi-journée… À moins qu’elle ne puisse un jour « boire » l’énergie du soleil avec plus d’efficacité qu’aujourd’hui, en attendant la solution sous les nuages ou des températures de congélation.

Reste que Pepper et Romeo, robots pourtant bien plus proches du grand public que les impressionnantes bestioles qui peuplent certains laboratoires, se veulent «émotifs» et apprennent par eux-mêmes. Comment ? Via leurs interactions avec les êtres humains, par mimétisme et lecture des réactions à leurs remarques et facéties, mais aussi en partageant ces enseignements avec leurs frères et sœurs robots dans les serveurs informatiques du cloud computing. C’est comme s’ils mettaient en commun leurs rêves, une fois débranchés la nuit, pour mieux grandir et évoluer ensemble. Ces machines, voyez-vous, carburent aux données qu’elles récoltent et qu’elles analysent… avec l’aide de leurs développeurs.

L’ingénieur d’Aldebaran reste prudent. Gare au syndrome Terminator. Il ne dit pas de ses robots qu’ils sont « autonomes » – puisqu’ils ne le sont pas, de fait. Mais il n’affirme pas non plus qu’ils ne pourraient jamais l’être, autonomes, au prix de trésors de programmation et de perfectionnement. Car Alexandre Mazel et ses pairs, de Tokyo à Boston en passant par Issy-les-Moulineaux, donnent corps aux désirs des chercheurs pionniers de la robotique, de l’Intelligence artificielle et de cette discipline qu’on appelle vie artificielle depuis au moins une soixantaine d’années. En l’écoutant, j’ai pensé à ma rencontre avec Paul Bourgine il y a presque un quart de siècle, et je me suis dit qu’il réalisait sa vision. Ce chercheur au CEMAGREF (Centre national du machinisme agricole, du génie rural, des eaux et forêts), devenu par la suite directeur du CREA (Centre de recherche en épistémologie appliquée), tentait alors de concevoir des robots sarcleurs de légumes fonctionnant au « principe de plaisir » :

« L’idée, me disait Paul Bourgine dans un dialogue qui me semblait à l’époque assez improbable, c’est de mettre dans le robot un principe de plaisir intégrateur, une fonction sophistiquée qui mènerait la danse, en lien direct avec le système sensori-moteur de la machine. En se promenant dans son environnement, le robot s’imprègne de formes et de relations avec le monde qu’il conserve en mémoire quand elles satisfont son principe hédonique. Ce principe lui donne une motivation, un vrai système d’auto-récompense, qui lui permet d’apprendre et d’être viable à long terme.

– Le robot se dira : là, j’ai du plaisir, donc je continue ?

– À peu près. L’agriculteur n’aura a priori qu’à changer la fonction de plaisir quand il le désirera.

– Passer par exemple de la salade à la carotte ?

– Certains auront les deux en même temps, et pourront commuter. L’étape suivante, ce serait de mettre les robots en congrès, la nuit par exemple, pour un partage d’expérience, et qu’ils se mettent à symboliser ce qu’ils auront appris. »

Pepper et Romeo, cher Paul Bourgine, fonctionnent d’ores et déjà ainsi, ou pas loin. Et je ne parle même pas de leurs congénères plus élaborés encore en expérimentation.

Pendant la conversation avec l’ingénieur d’Aldebaran me sont également revenus en mémoire les mots de Frédéric Kaplan, brillant chercheur qui, en 2004, phosphorait sur l’avenir du chien Aïbo, un an avant qu’il ne soit abandonné par Sony fin 2005, faute d’une rentabilité suffisante. Lui aussi travaillait, avec Pierre-Yves Oudeyer, sur des robots suscitant et exprimant l’empathie, à l’instar de la chouette, du cheval ou de l’ovin électroniques de Philip K. Dick dans son roman de 1969 Les Androïdes rêvent-ils de moutons électriques ?. Il y a dix ans, donc, Kaplan et Oudeyer étudiaient la curiosité artificielle, « une force qui pousserait le robot à s’intéresser à certains aspects de son environnement plutôt qu’à d’autres. Nous tentons de doter ces robots d’une sorte de plaisir d’apprendre. »13. Mais qui dit curiosité, dit capacité à se tromper. À se cogner au mur. Au plaisir des robots sarcleurs de légumes doit donc s’ajouter une « douleur artificielle ». De la même façon, l’attachement de la machine de compagnie suppose, pour prendre toute sa valeur, une « possibilité de désobéir ». Ces réflexions et pistes pour le futur n’ont pas pris une ride. Mieux : tout semble indiquer qu’elles commencent à se concrétiser, même s’il n’est guère politiquement correct de l’admettre de par chez nous…

Pour une charte des droits et devoirs des robots

Samedi 1er novembre 2014, 17 heures au centre des congrès de Nantes, où se tiennent les Utopiales, festival international de science-fiction. Sur la scène centrale, deux scientifiques et trois auteurs de science-fiction s’apprêtent à débattre d’un thème d’autant plus surprenant qu’il est placé sous le haut patronage de l’INSERM, l’Institut national de la santé et de la recherche médicale : « Intelligence artificielle et citoyenneté : vers l’égalité des droits ? ». Ugo Bellagamba, écrivain familier des utopies ou uchronies et délégué artistique des Utopiales, attaque mollo, sur le mode de l’expérience de pensée prospective. Comme l’indique le programme : « Faisons l’hypothèse que les ordinateurs pensants existent et partagent notre quotidien, qu’en sera-t-il de nos modèles juridiques en présence d’intelligences artificielles supérieures ? »… Et Jean-Gabriel Ganascia, éminent spécialiste ès intelligences artificielles, de lui rétorquer : « Mais les IA existent déjà ! Et elles transforment profondément notre monde. Le Web, c’est de l’IA. »

Les frontières entre machines et êtres vivants s’estompent. Ne faut-il pas en conséquence revoir dès aujourd’hui la notion même de citoyenneté ? Quoi qu’il en soit, continue le scientifique, il y a nécessité à « donner un statut moral au robot ». Pourquoi, par exemple, ne pas lui accorder un statut proche de celui qu’avaient les esclaves sous la Rome antique ? Car après tout, surenchérit l’autre scientifique sur l’estrade, Claude Delpuech, les robots vont bientôt nous poser beaucoup de problèmes juridiques ; comment, par exemple, « appliquer les Conventions de Genève aux robots tueurs » ?

Paradoxe : les deux chercheurs rivalisent d’audace sur l’hypothétique citoyenneté du robot, et ce sont les deux auteurs de science-fiction américains qui tempèrent leur enthousiasme. K.W. Jeter, père d’une suite littéraire au Blade Runner de Philip K. Dick, s’interroge sur ce que pourrait signifier la notion de valeur pour une machine intelligente. Son compère et ex cyberpunk Walter Jon Williams quant à lui s’amuse : « Je vois mal un robot ou un programme informatique, même super évolué, comprendre la subtilité du respect de la loi sur un territoire. » Surtout, aurais-je envie d’ajouter, si le robot s’avise de fumer un joint de cannabis dans un État qui le tolère vaguement, puis dans d’autres aux États-Unis, plus stricts ou en pleine cogitation sur le sujet…

Retour à notre point de départ, et à Vital, algorithme et néanmoins membre du conseil d’administration de la société DKV : une IA peut-elle être considérée comme une personne ? Et les descendants de Nao, Pepper et Romeo pourraient-ils devenir des êtres singuliers ? Pour cela, encore faudrait-il qu’ils se construisent chacun une personnalité, donc aussi une histoire différente. Or dans les labos, la tendance serait justement non plus seulement à la personnalisation, mais à la personnification des robots. Autrement dit : à chacun son caractère selon sa fonction, son environnement et ses interlocuteurs.

Hubert Guillaud en livre moult exemples savoureux dans un article publié dans Internet Actu à l’automne 2014. Une même machine sera ainsi extravertie dans la peau d’une infirmière ou intravertie dans le rôle d’un gardien de sécurité. Question cruciale parmi d’autres que se posent les chercheurs : quelle devra être la personnalité d’une voiture autonome ? Plutôt agressive pour ne pas céder trop aisément le passage aux autres véhicules, voire « capable de dépasser les limitations de vitesse imposées pour s’ajuster aux flux du trafic »14, répondent les as de chez Google… Quant aux aspirateurs autonomes de type Roomba, pas de doute selon Bernt Meerbeek, chercheur chez Philips : leurs propriétaires attendent d’eux qu’ils soient routiniers, « calmes, polis et coopératifs ». Bref, de bons esclaves. Mais un esclave, surtout s’il est doté d’une personnalité, peut se rebeller, à l’instar des robots de R.U.R., la pièce de Karel Capek. N’est-ce pas un argument pour lui accorder un statut juridique ?

Petite digression pouvant éclairer notre lanterne : Sandra, une femelle, ou peut-être faudrait-il dire une femme orang-outan de 28 ans, a été en décembre 2014 le premier animal à être reconnu comme une personne par un tribunal. La Cour d’appel de New York a en effet statué que Sandra était « une personne non humaine »15 ayant été privée à tort de sa liberté par le zoo de Buenos Aires où elle vit. Alors pourquoi un robot intelligent, même moins sensible, ne pourrait-il pas devenir lui aussi une « personne non humaine » d’ici la fin du siècle ? La question, d’ailleurs, ne date pas de l’intéressante série suédoise Real Humans sur Arte, dont l’une des clés tient à cet enjeu des droits des Hubots : dès le printemps 1988, la Whole Earth Review californienne, creuset de ce que Fred Turner appelle « l’utopie numérique »16, titrait en une sur « Les droits des robots », en écho d’un article très sérieux de deux juristes – légèrement futurologues – de Hawaii les jugeant à terme inévitables17.

Tout autant technologue mais moins hippie que le Whole Earth, l’avocat parisien Alain Bensoussan ne dit pas autre chose aujourd’hui lorsqu’il se fait le héraut d’un « droit des robots, entre le droit des biens et des personnes » : « Nous pourrions, par exemple, utiliser les numéros de sécurité sociale. Aujourd’hui, en France, lorsque ce numéro débute par un « 1 », il s’agit d’un homme, s’il commence par « 2 », c’est une femme. L’idée, c’est d’utiliser le «3» pour les robots.» Et pourquoi donc? Les machines intelligentes seraient-elles des citoyennes comme les autres ? À même d’obtenir le droit de vote un jour prochain, malgré leur prévisible difficulté à interpréter les lois ? Non, du moins pas tout de suite : « Cette prise en compte est essentielle pour la responsabilité, le but étant de pouvoir identifier et mettre en cause la responsabilité des robots. Il faut pouvoir disposer de recours contre les robots, et pour cela, il est nécessaire qu’ils aient une personnalité juridique permettant de mettre en jeu une responsabilité quelconque, celles du robot, du fabricant, du fournisseur, de l’utilisateur, du propriétaire. Il s’agit d’un système de responsabilité en cascade. »18

Plus cabot qu’un Aïbo, maître Alain Bensoussan aime provoquer. Lorsqu’il affirme, à France Info, qu’il est aujourd’hui indispensable de doter nos machines intelligentes d’une personnalité morale, il jubile19. Et quand il écrit lui-même « une charte des robots intégrant le statut juridique des robots, avec les devoirs mais aussi avec des droits comme le droit au respect du robot, le droit à la dignité et à l’identification », il prend juste un temps d’avance sur la Corée du Sud qui réfléchit à un tel document, et sur la Commission européenne qui travaille sur cette question éthique et juridique.

Ah si seulement Monsieur Gernot Hackl avait eu l’idée de prendre maître Bensoussan comme avocat dans le procès qu’il a intenté fin 2013 à la société iRobot en Autriche ! Gernot avait en effet laissé son cher Roomba 760 seul sur le plan de travail de sa cuisine, histoire qu’il œuvre à sa mission de nettoyage comme chaque jour après le déjeuner familial. Las ! D’après son propriétaire, le robot « se serait rallumé tout seul, se serait dirigé vers les plaques chauffantes de la cuisine (installées dans la continuité du plan de travail) pour pousser une casserole laissée sur le feu et prendre sa place ». Résultat : « le Roomba a pris feu, dégageant une épaisse fumée noire dans la maison. Les pompiers ont même dû intervenir pour contenir l’incendie et découvrir que le courageux petit robot nettoyeur s’était transformé en un tas de cendres.»20

Gernot aurait-il commis une erreur de programmation ? La faute serait-elle imputable au propriétaire de l’automate, qui en serait juridiquement responsable comme il l’est du devenir de sa cafetière sur le plan de travail de sa cuisine ? Ou sinon à ses concepteurs, aux développeurs de l’entreprise iRobot ? À moins que ce digne robot, déprimé après un repas désastreux et une cuisine en état apocalyptique, ait de lui-même décidé de mettre fin à ses jours ? Ne sous-estimons pas les robots… et leurs effets sur nos humeurs, notre santé et nos façons de vivre. Aux dernières nouvelles, le procès n’avait toujours pas eu lieu.

1 Paul Guyonnet, «Un robot au travail: le premier « robot » patron vient d’être nommé au conseil d’administration», Le Huffington Post, 16 mai 2014:http://quebec.huffingtonpost.ca/2014/05/16/robot-travail-patron-conseil-administration_n_5336491.html

2 « Robotique : 47% des professions touchées aux USA », humanoide.fr, 26 janvier 2014 : www.humanoides. fr/2014/01/26/robotique-47-des-professions-touches-aux-etats-unis/

3 Camille Neveux, « Les robots vont-ils tuer la classe moyenne ? », JDD du 26 octobre 2014 : www.lejdd.fr/Economie/ Les-robots-vont-ils-tuer-la-classe-moyenne-696622

4 Les lectures sur le thème ne manquent pas. Outre le À chaud du présent numéro et bien des articles de Multitudes, lire par exemple « Bernard Stiegler : L’emploi est mort, vive le travail ! » sur Culture Mobile (www.culturemobile.net/ visions/bernard-stiegler-emploi-est-mort-vive-travail), ou le livre qui en a été tiré, L’emploi est mort, vive le travail !, signé Ariel Kyrou et Bernard Stiegler, aux Éditions Mille et une Nuits / Fayard (avril 2015).

5 James Vincent, «Human workers aren’t just happy to take orders from robots in the workplace – they prefer it », The Independent, 27 août 2014 : www.independent.co.uk/life-style/gadgets-and-tech/human-workers-arent-just-happy-to-take-orders-from-robots-in-the-workplace–they-prefer-it-9693760.html

6 Lizzie Dearden, « Humans will be able to fall in love with computers within the next 15 years », The Independent, 14 juin 2014 : www.independent.co.uk/life-style/gadgets-and-tech/humans-will-be-able-to-fall-in-love-with-compu-ters-within-the-next-15-years-9537040.html

7 Lire par exemple Dominique Lestel, Les amis de mes amis (Seuil, 2007) et Franz de Waal, Le singe en nous (Pluriel, 2006) ou L’âge de l’empathie (Babel, 2011).

8 «Bienvenue dans l’ère post PC, Une interview d’Adam Greenfield sur « l’informatique ubiquitaire » à venir», Culture Mobile : www.culturemobile.net/quotidien-intelligent/bienvenue-dans-ere-post-pc

9 Karel Capek, R.U.R., Rossum’s Universal Robots (Minos/La Différence, 2011). La pièce de théâtre a été jouée à Prague pour la première fois en 1920.

10 Le film Blade Runner a été réalisé en 1982 par Ridley Scott, d’après un roman de l’auteur de science-fiction Philip K. Dick, mort quelques semaines avant sa sortie : Les androïdes rêvent-ils de moutons électriques ? (1969).

11 « Peu importe l’idéologie dominante ; peu importe que ce soit le communisme, la libre entreprise, le socialisme, le fascisme ou l’esclavage. Ce qui est important, c’est que chacun de nous soit en parfait accord avec elle ; d’une loyauté absolue, tous. (…) Grâce au swibble, on a pu transformer ce problème sociologique fondamental qu’est la loyauté en simple problème soluble par la technologie – une simple question d’entretien et de réparation. » Philip K. Dick, Visite d’entretien (1954), dans Nouvelles, 1953-1963, Denoël/Présence (1997), p. 268-291.

12 Le tableau de Francis Picabia intitulé Voilà la fille née sans mère (1916, 1917) est exposé au Centre Pompidou. Voilà ce qu’écrit l’artiste à l’époque dans la revue 291: «Je me suis emparé de la mécanique du monde moderne et je l’ai introduite dans mon atelier. (…) L’homme a fait la machine à son image. Elle a des membres qui agissent, des poumons qui respirent, un cœur qui bat, un système nerveux où court l’électricité. Le phonographe est l’image de sa voix ; l’appareil photographique est l’image de son œil. La machine est sa  » fille née sans mère « . C’est pourquoi il l’aime. Il l’a faite supérieure à lui-même. C’est pourquoi il l’admire. (…) Après avoir fait la machine à son image, son idéal humain est devenu machinomorphique ».

13 Dossier du numéro 15 de Chronic’art, de fin mai 2004 : « Les robots sont nos amis ».

14 Hubert Guillaud, « Après la personnalisation… la personnification », InternetActu, 29 septembre 2014 : www.inter-netactu.net/2014/09/29/apres-la-personnalisation-la-personnification/

15 Brandon Kein, « An Orangutan Has (Some) Human Rights, Argentine Court Rules », Wired, le 22 décembre 2014 : www.wired.com/2014/12/orangutan-personhood/

16 Fred Turner, Aux sources de l’utopie numérique, De la contre-culture à la cyberculture, Stewart Brand, un homme d’influence, C&F éditions, 2012.

17 Phil McNally et Sohail Inayatullah, « The Rights of Robots », Whole Eart Review no59, printemps 1988, pages 2-10.

18 Alain Bensoussan, « Le droit des robots : mythe ou réalité ? », dans le numéro 7 de la revue Emile & Ferdinand, datée de septembre-octobre 2014 : http://editionslarcier.larciergroup.com/pages/s_00000054672/emile-amp-ferdinand.html

19 Voir Nils Sanyas, « Dans le futur, des droits et des devoirs pour les robots ? », Next Impact, 19 juillet 2014 : www.nextimpact.com/news/88688-dans-futur-droits-et-devoirs-pour-robots.htm

20 Marie, « Triste nouvelle, un robot Roomba a mis fin à ses jours », Gizmodo, 19 novembre 2013.

Kyrou Ariel

A publié récemment L’emploi est mort, vive le travail (avec B. Stiegler, Mille et une nuits, 2015), Ceci n’est pas un blasphème (Inculte, 2015), Google God, Big Brother n’existe pas, il est partout (Inculte, 2010), ABC Dick (Inculte, 2009), Paranofictions (Climats, 2007) et Techno Rebelle (Denoel, 2002). Directeur associé de la société Moderne Multimedias, il est le rédacteur en chef du site Culture Mobile (www.culturemobile.net). Membre du collectif de rédaction de Multitudes.