Les robots parmi nous : Pour une éthique des machines

"Comment éviter une croyance presque naïve dans la technologie et sa promesse d'une société meilleure où humain et robot vivront ensemble ? Mais, à l'inverse, comment ne pas sombrer dans un récit catastrophiste où l'humanité est appelée à disparaître ?"

Star Wars, Real Humains, Westworld, Terminator, Matrix, Blade Runner, l'Odyssée de l'espace, Robocop, Black Mirror...Des films, des séries...Des dessins animés aussi...Et tous les livres de science-fiction notamment celui à qui je pense en premier « Les robots » d'Isaac Asimov qui m'avait tant plu lorsque je l'avais lu adolescente… Tous ces univers incroyables...De la fiction à la réalité et de la réalité à la fiction il n'y a qu'un pas...

Il y a aussi l'industrie et l'impact au quotidien de l'utilisation des robots, le bio hacking, l'intelligence artificielle, les exosquelettes, l'omniprésence, le droit à la robotique, l'aspect philosophique, la justice sociale, la vie en société, l'éthique de la robotique, l'automatisation, l'assistance, les règles morales, les soins à la personne, l'utilisation à des fins militaires, la robotique portative, les nouvelles technologies, la répartition des responsabilités, les cyborgs, la programmation, la classification, la définition, la responsabilité, la conception, les interactions, la protection des données, la politique sociale, les différentes problématiques, la vie éternelle, les relations humain-robot...

Je remercie la Masse Critique, Babelio et le Savoir Suisse (Je découvre leur collection et leurs petits formats !) pour ce guide, cet outil de navigation, instructif, accessible et réaliste.

Le chercheur et auteur Johan Rochel nous invite à forcément réfléchir, à se poser certaines questions sur la situation actuelle et future, à penser aux différents défis et enjeux qui concernent notre vie privée et sociétale… J'avoue ne pas avoir pensé à tout cela avant de lire cet ouvrage.

(Merci à Babelio Masse Critique et aux Presses Polytechniques Romandes - Collection Savoir Suisse de m'avoir envoyé un exemplaire de ce livre en échange d'une critique).


Johan Rochel
Johan Rochel est docteur en philosphe et en droit, et chercheur droit et éthique de l'innovation. Il a déjà beaucoup travaillé sur l'éthique, bien que dans un cadre différent : la migration et l'Europe.
C'est un auteur qui sait de quoi il parle lorsqu'il traite le thème de l'éthique de la robotique.


Un guide pour se questionner
Le livre est conçu comme un guide pour inciter les professionnels et particuliers à se questionner. Il explique comment les choses se présentent actuellement dans le domaine de la robotique et de la société qui travaille avec des robots, et comment les robots et les relations avec les humains pourraient évoluer dans un avenir plutôt proche. On ne parle pas de science-fiction ici, mais de la réalité.
Johan Rochel reste modeste. Il dit que tout ce qu'il propose comme définitions n'est valable que dans le cadre de ce livre et devra être adapté dans d'autres contextes. En plus, il explique la situation de la robotique et la société, il y réfléchit parfois mais n'avance pas de solutions, il pose des questions. Ce livre est un guide du questionnement sur l'éthique des robots.


Il faut agir maintenant
Et puisque les robots et l'informatique évolueront il faut questionner ces thèmes maintenant que les robots sont encore relativement simples, qu'il n'y a pas encore de robots qui sont tellement autonomes que leur savoir nous dépasse.
C'est maintenant que les réflexions de base doivent être faites, les grandes questions tranchées, des modes de travail proposés par les scientifiques, adoptés volontairement par les professionnels ou imposés par la politique. Sinon, il y aura des humains qui pourraient souffrir, et qui sait, des robots qui pourraient souffrir aussi (bien que nous en sommes loin).


Aperçu des différents chapitres
Rochel traite plusieurs grands thèmes : quelle est la définition d'un robot ? Il y a / il y aura des robots plus et moins autonomes, et peuvent / doivent-ils avoir des responsabilités (autonomes) ? Ont-ils des obligations ? le design des robots et l'impact de ce design sur la société (et inversement, notre image du robot et l'impact sur le design), le robot et le droit, dans quelle catégorie juridique placer le robot ? Et en justice sociale, comment vivrons-nous avec les robots ? Par exemple, ne serait-il pas sage d'inventer le ‘droit au contact humain' (par exemple dans les maisons de retraite) ? le dernier grand thème porte sur les récits de la société. Ensuite, Rochel propose deux scénarios pour préparer l'avenir, et il termine par une liste de questions qu'on peut se poser, quand on travaille dans la robotique, l'informatique, le commerce, le droit, la justice sociale, la politique, le design, quand on dessine des bandes dessinées ou qu'on écrit de la science-fiction, quand on la lit… tout le monde, tout simplement.


Le style
L'écriture est très abordable pour tout le monde, le style est tout de même celui d'un scientifique : pas difficile, mais sérieux, même s'il y a de nombreux exemples.
Le livre est en petit format, donc petits caractères, mais bien lisibles. Néanmoins, s'il y aura une version e-book les myopes la préfèreront sans doute pour pouvoir adapter la taille des caractères.


Et puis mes réflexions... (personnel)
Un livre excellent qui répondait à ce que j'en attendais. Tout de même quelques remarques, mais le livre reste très bon.


Rochel se base sur l'éthique comme nous la connaissons dans le monde occidental, dans les démocraties. En plus, il part uniquement de la bienveillance. Dans les démocraties, beaucoup de personnes, de commerces, de pratiques politiques ne sont pas éthiques du tout (ou ont leur éthique personnelle). Comment attendre des humains conflictueux qu'ils créent un monde robotique qui soit éthique alors qu'ils ne le sont pas eux-mêmes ?


Cette réflexion devient plus importante encore quand on pense à toutes les dictatures du monde, avec leurs pratiques impitoyables. Pourquoi ne construiraient-elles pas des robots PAS éthiques, exprès ? Et quelle serait notre réponse là-dessus ?


Il est donc encore plus urgent de questionner l'éthique de l'humain avant de pouvoir aborder celle des robots, ou au moins de faire les deux ensemble.


En même temps, la question ‘qui sommes-nous ?' doit être posée, car là se trouve la base de la réponse pour l'éthique. Mais Rochel n'arrive pas plus loin que dire que ‘si le robot a un égo, il est conscient'. Pareil pour l'humain, qui n'est pas beaucoup plus que son égo (par exemple, ‘je travaille donc je suis'). Alors que dans la psychologie, philosophie, les neurosciences, on arrive justement aux conclusions que l'égo, la personne, est une fiction, une croyance. Qui forme la base d'encore plus de croyances. Et plus il y a de "croyances" en une religion, une idéologie, des personnes... plus il y a de la friction, des conflits dans le monde. Chaque conflit mène à encore plus de non-sens et de non-ordre délirants. Ce mécanisme est plus meurtrier que le covid. Et ces humains parlent très sérieusement, et très bien, d'éthique… mais construire une éthique à partir de la croyance en une personne c'est comme balancer sur des sables mouvants. le ‘soi' prive le cerveau de la clarté pour être sobre et pouvoir créer un ordre ou une éthique sans conflit, sans préjudices en soi-même et dans la société.

Livre reçu par Masse Critique. Ce petit livre me semble être une excellente introduction aux différentes problématiques posées par l'émergence de machines intelligentes. Selon le niveau d'exigence de votre définition, vous pourrez considérer que nous y sommes déjà, que nous y serons bientôt, ou que l'on parle d'un futur plus lointain voire fantasmé. Quoi qu'il en soit les questions posées sont passionnantes car elles nous interrogent sur nous-mêmes : qu'est-ce que l'intelligence ? Qu'est-ce que la vie ? Qu'est-ce que l'humain ?
Les auteurs de science-fiction ont ouvert la voie, on pense évidemment à Asimov, mais même avant cela des récits nous parlent du même sujet. Pinocchio n'est-il pas une marionnette qui pense ? On peut remonter à la Grèce antique avec les automatoi d'Héphaïstos.
Les angles abordés couvrent un large spectre : si un robot (par exemple une voiture autonome) commet une erreur, qui est responsable ? Son propriétaire ? Son concepteur ? Faut-il, et si oui peut-on et comment protéger nos emplois contre l'automatisation ? Sinon comment doit évoluer notre société pour ne plus être centrée sur le travail ? Faut-il donner aux robots une apparence humaine ?
C'est un sujet sur lequel je ne me prétendrai pas expert, mais qui m'intéresse et sur lequel je lis tout ce qui me tombe sous les yeux, on parle beaucoup en ce moment de voitures autonomes et des "IA" génératrices comme Midjourney (images) ou ChatGPT et sa nouvelle version GPT-4. Sur toutes les questions soulevées je retrouve dans ce livre les idées que j'avais pressenties, c'est donc tout-à-fait satisfaisant d'être "validé" par un universitaire spécialiste de l'éthique.
Et à la fois je reste sur ma faim j'aurais bien aimé aller un peu plus loin, quelque chose qui m'aurait fait dire : "Ah je n'avais pas pensé à cet aspect des choses". Mon syndrome de l'imposteur va me faire dire que si j'avais déjà toutes les pièces c'est que ce n'était pas très compliqué. Comme je le disais en entrée c'est une introduction. Reste à trouver des choses plus concrètes pour approfondir.

Ce livre nous fait réfléchir sur l'éthique concernant les robots et les machines en général.

Concernant la construction : trois grandes questions distinctes qui peuvent se recouper, présentation très didactique voir scolaire par moment mais ce n'est pas un défaut en soi.

Les plus : à la fois pour lecteurs avertis connaissant déjà le sujet et complets néophytes. Faisant partie de la première catégorie, j'ai pu tout de même trouver des pistes de réflexion. L'auteur part d'un point précis, exemple, conférence, et déroule son argumentaire et même si je n'étais pas forcément tout le temps en accord, ce n'est pas gênant car cela permet de nourrir la réflexion et de la mettre en perspective. Il a choisi des exemples précis et développe son argumentaire sans blabla ce qui permet au livre d'être court mais concis. J'ai aussi bien apprécié que l'auteur précise "c'est mon idée" et qu'il ne se pose pas comme le plus grand expert en la matière.

Le moins : même si ce n'est pas très grave, vu le nombre d'exemples, j'aurais aimé une bibliographie ou une sitographie plus fournies mais comme on dit "Google est ton ami" et j'ai fait mes propres recoupements et recherches.

Merci à Babelio et aux PPUR pour cette lecture intéressante qui constitue une bonne porte d'entrée pour discuter de ce sujet. Je recommande!

Tout d'abord, je remercie l'opération masse critique, car sans cela je n'aurais certainement pas lu ce livre.
En relativement peu de pages (150 environ), l'auteur fait un tour exhaustif des différents points à observer quant à l'éthique des robots. Il commence par une définition des robots et de l'éthique. Avec des petits encadrés pour préciser certaines notions, il aère la présentation d'un sujet qui pourrait être rébarbatif, mais qui se révèle passionnant.
Bref, un petit ouvrage très intéressant et bien clair pour tous ceux qui s'intéressent à notre vie entourée de machines qui semblent pensantes.