Citation de gabb
Il faut donc se méfier de notre pulsion naturelle d'anthropomorphisation de l'IA. [...] Entamer une relation affective avec un robot ne représente pas l'avant-garde du progrès, mais au contraire une terrible régression pour notre civilisation. Il suffit de visiter le musée des Arts premiers à Paris pour constater combien les sociétés primitives s'ingéniaient à attribuer une âme, un pouvoir et des sentiments aux objets inanimés (le fameux mana des Polynésiens). On en retrouve les traces dans l'imaginaire médiéval à travers l'idée d'une nature signifiante, largement analysée par Foucault. Il faudra attendre l'essor de la science expérimentale pour libérer les choses de notre ombre portée et constituer un domaine proprement extérieur à l'homme. [...]
Le XXIeme siècle va-t-il retomber dans l'adoration de puces de silicium ? Allons-nous ressusciter les esprits animaux pour des machines que nous avons conçues et fabriquées nous-mêmes ? La maison connectée ressemblera-t-elle à une forêt touffue pleine de spectres et de mystères ? Il serait paradoxal que les progrès de la technique nous fassent perdre l'esprit scientifique.
Cette exigence de rationalité, définie par le recours à l'expérimentation, ne saurait nous priver du sel de l'imagination. [...]. Mais il faut rigoureusement dissocier les deux registres de pensée et d'action. Nulle métaphore ne pourrait se substituer à un raisonnement, et inversement. D'un point de vue purement scientifique, l'IA ne pense pas, l'IA ne souffre pas, l'IA n'aime pas. Cette honnêteté intellectuelle est essentielle à une époque où trop de figures du débat public jouent à se faire peur, et à nous faire peur, avec des rêveries de machine consciente [...]. Si un robot nous offre de trouver l'amour ou de gérer un deuil, tant mieux ; mais à condition de ne pas en faire une entité digne d'amour et de deuil.
Comme le résume la chercheuse chevronnée Leslie Kaelbling, déjà croisée au cours de ces pages, l'anthropomorphisation est une "facilité cognitive". Il est plus facile de s'adresser à une IA en la dotant d'une existence propre. Mais c'est également une faute épistemologique, qu'il serait risqué de laisser envahir nos représentations courantes.
Voilà pourquoi il ne faut surtout pas être poli avec les robots ni avec les objets connectés qui commencent à nous entourer. L'hiver dernier, je me suis trouvé en famille dans un appartement prêté par des amis. Au bout de quelques jours, Alexa, l'assistant vocal mis au point par Amazon, s'est déclenché. Je ne sais comment, nous avions réveillé le génie. Mes enfants se sont amusés à lui demander toutes sortes de tâches : jouer de la musique, annoncer la météo, donner une recette de cuisine. En s'adressant à Alexa, ils utilisaient les formules de politesse dont leur mère et moi nous efforçons de leur inculquer l'usage : « Alexa, peux-tu s'il te plaît nous dire l'heure ? » Je leur ai demandé pourquoi. Dit-on « s'il te plaît » à une machine à laver, une voiture ou à un logiciel de traitement de texte ? Alexa n'est ni plus ni moins que cela. Aussi pour la première fois ai-je demandé à mes enfants, à leur grand étonnement, d'être impolis.
Il faut considérer les robots pour ce qu'ils sont afin de ne pas traiter les humains pour ce qu'ils ne sont pas : évitons de faire de la politesse un réflexe automatique, standardisé et répétitif, alors que toute sa valeur vient de sa sincérité. « Tu ne le penses pas vraiment », s'entend-on parfois répondre après des excuses trop machinales. Non seulement un robot ne mérite pas de politesse, mais il faut éviter que la politesse ne se robotise.
Il ne s'agit pas de traiter Alexa en esclave : un esclave est un être humain à qui l'on refuse toute faculté d'autodétermination, alors qu'Alexa est un être artificiel que nous avons déterminé nous-mêmes, et dont les capacités d'apprentissage restent liées aux algorithmes qui le gouvernent. Il s'agit de différencier très clairement, pour des raisons morales essentielles, un sujet qui, étant une fin en soi, mérite le respect, et un objet purement utilitaire. Les robots ne sont ni des amis ni des ennemis, ni des anges ni des démons. Ce sont des instruments. C'est au prix de cette clarification que nous pourrons cohabiter sereinement avec eux.
Le XXIeme siècle va-t-il retomber dans l'adoration de puces de silicium ? Allons-nous ressusciter les esprits animaux pour des machines que nous avons conçues et fabriquées nous-mêmes ? La maison connectée ressemblera-t-elle à une forêt touffue pleine de spectres et de mystères ? Il serait paradoxal que les progrès de la technique nous fassent perdre l'esprit scientifique.
Cette exigence de rationalité, définie par le recours à l'expérimentation, ne saurait nous priver du sel de l'imagination. [...]. Mais il faut rigoureusement dissocier les deux registres de pensée et d'action. Nulle métaphore ne pourrait se substituer à un raisonnement, et inversement. D'un point de vue purement scientifique, l'IA ne pense pas, l'IA ne souffre pas, l'IA n'aime pas. Cette honnêteté intellectuelle est essentielle à une époque où trop de figures du débat public jouent à se faire peur, et à nous faire peur, avec des rêveries de machine consciente [...]. Si un robot nous offre de trouver l'amour ou de gérer un deuil, tant mieux ; mais à condition de ne pas en faire une entité digne d'amour et de deuil.
Comme le résume la chercheuse chevronnée Leslie Kaelbling, déjà croisée au cours de ces pages, l'anthropomorphisation est une "facilité cognitive". Il est plus facile de s'adresser à une IA en la dotant d'une existence propre. Mais c'est également une faute épistemologique, qu'il serait risqué de laisser envahir nos représentations courantes.
Voilà pourquoi il ne faut surtout pas être poli avec les robots ni avec les objets connectés qui commencent à nous entourer. L'hiver dernier, je me suis trouvé en famille dans un appartement prêté par des amis. Au bout de quelques jours, Alexa, l'assistant vocal mis au point par Amazon, s'est déclenché. Je ne sais comment, nous avions réveillé le génie. Mes enfants se sont amusés à lui demander toutes sortes de tâches : jouer de la musique, annoncer la météo, donner une recette de cuisine. En s'adressant à Alexa, ils utilisaient les formules de politesse dont leur mère et moi nous efforçons de leur inculquer l'usage : « Alexa, peux-tu s'il te plaît nous dire l'heure ? » Je leur ai demandé pourquoi. Dit-on « s'il te plaît » à une machine à laver, une voiture ou à un logiciel de traitement de texte ? Alexa n'est ni plus ni moins que cela. Aussi pour la première fois ai-je demandé à mes enfants, à leur grand étonnement, d'être impolis.
Il faut considérer les robots pour ce qu'ils sont afin de ne pas traiter les humains pour ce qu'ils ne sont pas : évitons de faire de la politesse un réflexe automatique, standardisé et répétitif, alors que toute sa valeur vient de sa sincérité. « Tu ne le penses pas vraiment », s'entend-on parfois répondre après des excuses trop machinales. Non seulement un robot ne mérite pas de politesse, mais il faut éviter que la politesse ne se robotise.
Il ne s'agit pas de traiter Alexa en esclave : un esclave est un être humain à qui l'on refuse toute faculté d'autodétermination, alors qu'Alexa est un être artificiel que nous avons déterminé nous-mêmes, et dont les capacités d'apprentissage restent liées aux algorithmes qui le gouvernent. Il s'agit de différencier très clairement, pour des raisons morales essentielles, un sujet qui, étant une fin en soi, mérite le respect, et un objet purement utilitaire. Les robots ne sont ni des amis ni des ennemis, ni des anges ni des démons. Ce sont des instruments. C'est au prix de cette clarification que nous pourrons cohabiter sereinement avec eux.
