-Le mois dernier, la société Gecko Systems a annoncé qu'elle avait testé le «Carebot», son «robot-assistant de vie totalement autonome», conçu pour aider les personnes âgées ou handicapées à vivre en toute indépendance. L'entreprise décrit comment une grand-mère sujette à des pertes de la mémoire immédiate fit un grand sourire au robot quand ce dernier lui a demandé «Voulez-vous manger une glace ?». Elle lui a répondu Oui et le robot a sans doute fait le reste.

 Les robots remplissent déjà de nombreuses fonctions, allant de la fabrication des voitures au désamorçage des bombes ? ou de manière plus inquiétante, au lancement de missiles. Les enfants et les adultes jouent avec des robots, tandis que l'on peut voir des aspirateurs-robots à l'œuvre dans un plus en plus grand nombre de foyers. Comme le montrent des vidéos sur YouTube, il existe même des robots ressemblant à des chats. Et n'oublions pas la Coupe mondiale des robots - mais à en juger par ce qui s'est passé l'été dernier à Gratz en Autriche, les footballeurs n'ont pas encore de quoi s'inquiéter (en ce qui concerne les échecs, c'est une autre histoire).

 La plupart des robots domestiques ont une apparence fonctionnelle ? celui de Gecko System ressemble à R2-D2, le robot de La guerre des étoiles. Honda et Sony travaillent sur des robots qui ressemblent davantage à C-3PO, l'androïde que l'on voit dans le même film. Mais il existe déjà des robots dotés d'une «peau» et d'un visage expressif d'apparence humaine, capables d'accomplir toute une gamme de mouvements. Hanson Robotics dispose d'un modèle de démonstration appelé Albert dont le visage offre une ressemblance frappante avec celui d'Albert Einstein.

 Verrons-nous bientôt des robots humanoïdes dans nos foyers ? Noël Sharkey, un professeur d'intelligence artificielle et de robotique à l'université de Sheffield, prédit que les parents trop occupés pour s'occuper de leurs enfants emploieront des robots-babysitter. «Quelles en seront les conséquences pour un enfant qui passera beaucoup de temps avec une machine qui ne peut exprimer ni véritables sentiments, ni compréhension, ni compassion», interroge-t-il ? On peut aussi se demander pourquoi il faudrait développer des robots gros consommateurs d'énergie pour travailler dans l'un des quelques secteurs ? le soin aux enfants ou aux personnes âgées ? qui fournit des emplois à des personnes à faible niveau d'éducation.

 Dans son livre Love and Sex with Robots [L'amour et le sexe avec des robots], David Levy va plus loin en suggérant que nous tomberons amoureux de robots affectueux et câlins et que nous aurons même des relations sexuelles avec eux (s'il a des partenaires multiples, démontez les pièces en cause, trempez les dans du désinfectant - et voilà, aucun risque d'attraper une maladie sexuellement transmissible !). Mais quelles seront les conséquences de la présence d'un «sexbot» sur un couple ? Que ressentirons-nous si notre partenaire passe beaucoup de temps avec un robot sexuel infatigable ?

 La littérature et le cinéma posent une question bien plus inquiétante : devrons-nous défendre notre civilisation contre des machines intelligentes que nous aurons nous?mêmes créées ? Certains observateurs estiment que le développement d'une intelligence artificielle super-humaine est inévitable et que cela devrait être une réalité au plus tard en 2070. Ils parlent de ce moment comme de «La singularité» qui marquerait un bouleversement dans l'Histoire de l'humanité. Eliezer Yudkowsky, l'un des fondateurs du Singularity Institute for Artificial Intelligence, estime que la singularité conduira à une «explosion d'intelligence», avec des machines surintelligentes qui fabriqueront des machines encore plus intelligentes, ce processus se répétant de génération en génération. Une organisation qui fait preuve de plus de retenue, l'Association pour le progrès de l'intelligence artificielle a créé un comité spécifiquement chargé d'étudier ce qu'elle appelle «le risque de perte de contrôle humain sur l'intelligence informatique».

 Si cela se passe ainsi, la question cruciale pour l'avenir de la civilisation est celle-ci : les ordinateurs surintelligents seront-ils amicaux ou agressifs ? Le temps est venu de se demander quelles mesures prendre pour que nos propres créations ne puissent devenir hostiles.

 Pour le moment, il est plus réaliste de se demander non pas si les robots vont nous attaquer, mais si nous allons leur nuire. Actuellement ils ont le statut d'objets que l'on possède. Mais que se passera-t-il s'ils deviennent suffisamment complexes pour avoir des sentiments ? Le cerveau humain n'est-il pas une machine très complexe ?

 Si les machines peuvent devenir conscientes et qu'elles le deviennent, comment réagirons-nous ? Hormis les hommes, l'Histoire de nos relations avec les seuls êtres sensibles que nous avons rencontrés jusqu'à présent ? les animaux ? ne laisse pas présager que nous considérerions les robots dotés de conscience non pas simplement comme objets à posséder, mais comme des êtres dont les sentiments et les intérêts doivent être pris en compte.

 Un spécialiste en sciences cognitives, Steve Torrance, observe que les découvertes porteuses d'un fort potentiel comme le téléphone, la voiture ou l'ordinateur tendent à se répandre rapidement et de manière incontrôlable. Le développement d'un robot conscient pourrait entraîner des mauvais traitements à grande échelle si nous faisions fi de ses sentiments.

 La question délicate serait de savoir si un robot est véritablement conscient ou s'il a été conçu pour mimer la conscience. Comprendre comment un robot a été programmé pourrait apporter une réponse. Ses concepteurs ont-ils écrit un code qui le dote de la simple apparence de la conscience ? Si c'est le cas, il n'y aurait aucune raison de penser que le robot est conscient.

 Mais s'il a été conçu pour avoir des caractéristiques proches de celles de l'être humain, susceptibles de donner naissance à la conscience, nous aurions une bonne raison de penser qu'il est réellement conscient. C'est à ce stade que débuterait le mouvement pour les droits des robots.



Traduit de l'anglais par Patrice Horovitz



*Peter Singer est professeur de bioéthique à l'université de Princeton-Agata Sagan est une chercheuse indépendante. Elle vit à Varsovie.