La fin de l'individu

Il faut donc se méfier de notre pulsion naturelle d'anthropomorphisation de l'IA. [...] Entamer une relation affective avec un robot ne représente pas l'avant-garde du progrès, mais au contraire une terrible régression pour notre civilisation. Il suffit de visiter le musée des Arts premiers à Paris pour constater combien les sociétés primitives s'ingéniaient à attribuer une âme, un pouvoir et des sentiments aux objets inanimés (le fameux mana des Polynésiens). On en retrouve les traces dans l'imaginaire médiéval à travers l'idée d'une nature signifiante, largement analysée par Foucault. Il faudra attendre l'essor de la science expérimentale pour libérer les choses de notre ombre portée et constituer un domaine proprement extérieur à l'homme. [...]

Le XXIeme siècle va-t-il retomber dans l'adoration de puces de silicium ? Allons-nous ressusciter les esprits animaux pour des machines que nous avons conçues et fabriquées nous-mêmes ? La maison connectée ressemblera-t-elle à une forêt touffue pleine de spectres et de mystères ? Il serait paradoxal que les progrès de la technique nous fassent perdre l'esprit scientifique.
Cette exigence de rationalité, définie par le recours à l'expérimentation, ne saurait nous priver du sel de l'imagination. [...]. Mais il faut rigoureusement dissocier les deux registres de pensée et d'action. Nulle métaphore ne pourrait se substituer à un raisonnement, et inversement. D'un point de vue purement scientifique, l'IA ne pense pas, l'IA ne souffre pas, l'IA n'aime pas. Cette honnêteté intellectuelle est essentielle à une époque où trop de figures du débat public jouent à se faire peur, et à nous faire peur, avec des rêveries de machine consciente [...]. Si un robot nous offre de trouver l'amour ou de gérer un deuil, tant mieux ; mais à condition de ne pas en faire une entité digne d'amour et de deuil.

Comme le résume la chercheuse chevronnée Leslie Kaelbling, déjà croisée au cours de ces pages, l'anthropomorphisation est une "facilité cognitive". Il est plus facile de s'adresser à une IA en la dotant d'une existence propre. Mais c'est également une faute épistemologique, qu'il serait risqué de laisser envahir nos représentations courantes.
Voilà pourquoi il ne faut surtout pas être poli avec les robots ni avec les objets connectés qui commencent à nous entourer. L'hiver dernier, je me suis trouvé en famille dans un appartement prêté par des amis. Au bout de quelques jours, Alexa, l'assistant vocal mis au point par Amazon, s'est déclenché. Je ne sais comment, nous avions réveillé le génie. Mes enfants se sont amusés à lui demander toutes sortes de tâches : jouer de la musique, annoncer la météo, donner une recette de cuisine. En s'adressant à Alexa, ils utilisaient les formules de politesse dont leur mère et moi nous efforçons de leur inculquer l'usage : « Alexa, peux-tu s'il te plaît nous dire l'heure ? » Je leur ai demandé pourquoi. Dit-on « s'il te plaît » à une machine à laver, une voiture ou à un logiciel de traitement de texte ? Alexa n'est ni plus ni moins que cela. Aussi pour la première fois ai-je demandé à mes enfants, à leur grand étonnement, d'être impolis.
Il faut considérer les robots pour ce qu'ils sont afin de ne pas traiter les humains pour ce qu'ils ne sont pas : évitons de faire de la politesse un réflexe automatique, standardisé et répétitif, alors que toute sa valeur vient de sa sincérité. « Tu ne le penses pas vraiment », s'entend-on parfois répondre après des excuses trop machinales. Non seulement un robot ne mérite pas de politesse, mais il faut éviter que la politesse ne se robotise.
Il ne s'agit pas de traiter Alexa en esclave: un esclave est un être humain à qui l'on refuse toute faculté d'autodétermination, alors qu'Alexa est un être artificiel que nous avons déterminé nous-mêmes, et dont les capacités d'apprentissage restent liées aux algorithmes qui le gouvernent. Il s'agit de différencier très clairement, pour des raisons morales essentielles, un sujet qui, étant une fin en soi, mérite le respect, et un objet purement utilitaire. Les robots ne sont ni des amis ni des ennemis, ni des anges ni des démons. Ce sont des instruments. C'est au prix de cette clarification que nous pourrons cohabiter sereinement avec eux.

De même, le site de rencontre Meetic propose aujourd'hui le chatbot Lara pour permettre à ses clients d'exprimer leurs préférences amoureuses en toute confiance et sans passer par des formulaires en ligne: aujourd'hui connectée sur Google Home, Lara peut vous mettre en contact avec "une petite brune piquante" ou "un homme passionné", puis en discuter avec vous. Lara est programmée pour apprendre et s'améliorer au fil de ses conversations, de manière à devenir une véritable confidente davantage qu'une entremetteuse. Ce n'est pas une fantaisie de geek: plus d'un million de clients utilisent aujourd'hui les services de Lara. Le but est bien, selon l'un des dirigeants de Meetic, de "créer de l'empathie".

Car il ne s'agit pas d'imiter une conscience humaine, mais de faire advenir un mode de rapport à soi artificiel. Le fait que les systèmes informatiques soient une illusion par rapport à notre perception du monde (IA FAIBLE) n'empêche en rien qu'ils puissent devenir une réalité en trouvant leur propre chemin vers la conscience d'eux-mêmes (IA forte). Comme si la copie, aussi imparfaite et utilitaire soit-elle, pouvait prendre vie.

L'IA ne fera disparaître que les métiers dont la pratique ne demande aucune appréhension du contexte, aucune interaction avec l'environnement extérieur, aucune initiative fondée sur la connaissance d'autrui. Autrement dit, les tâches qui ne débordent pas sur d'autres, qui sont repliées sur elles-mêmes, quasi autarciques. Il faudrait créer un "indicateur de sens commun" qui mesurerait plus efficacement que le critère de la "répétition" la probabilité de l'automatisation;

Voilà pourquoi Marco continuent de se déplacer pour rencontrer les ministres, les banquiers centraux et les chefs d'entreprise: non pour leur soutirer des informations, mais pour mieux saisir leur manière d'être. La valeur des analystes financiers réside moins en leurs talents de mathématiciens qu'en finesse d'intuition. "Au bout du compte, estime Marko, la finance est un jeu entre humains fondé sur des règles." Pour automatiser entièrement les marchés, il faudrait d'abord...automatiser les êtres humains.