Sentir et savoir : Une nouvelle théorie de la conscience

(77%) Machines sensibles et machines conscientes
L’expression ultime de la robotique a un nom : intelligence artificielle (IA). Et avant toute chose, je tiens à souligner le terme « artificiel », qui ne saurait être plus approprié. L’intelligence des appareils qui rendent notre quotidien plus efficace et confortable n’est absolument pas « naturelle », et leur mode de construction n’a rien de « naturel » non plus. Il n’en reste pas moins que les inventeurs et les ingénieurs brillants qui ont donné naissance à la robotique et à l’intelligence artificielle ont bel et bien trouvé leur source d’inspiration dans les organismes naturels, vivants, et tout particulièrement dans la débrouillardise avec laquelle les êtres vivants surmontent leurs problèmes, et par l’économie et l’efficacité de leurs mouvements.
On aurait pu s’attendre à ce que les pionniers de l’IA et de la robotique puisent leur inspiration dans la totalité que constituent des êtres tels que nous : avec nos ressources d’efficacité et d’organisation, mais avec aussi la ressource des sentiments concernant les objets auxquels s’appliquent notre efficacité et notre organisation ; toute la joie, voire l’euphorie que nous procure ce que nous faisons (et ce que les autres nous font) ; la frustration, la tristesse et la douleur, aussi, selon les cas.
Ces brillants pionniers n’en ont rien fait : ils ont privilégié une approche économique, sont allés droit au but. Ils ont essayé de simuler les caractéristiques jugées les plus essentielles et utiles – l’intelligence de base, pourrait-on dire – et ont laissé de côté tout ce qu’ils jugeaient probablement superflu, voire problématique : tout ce qui touche au sentiment. De leur point de vue, l’affect était sans doute une chose légèrement surannée, voire complètement démodée, un vestige abandonné sur le bord du chemin dans la marche triomphante vers la clarté de pensée, l’exactitude dans la résolution des problèmes et la précision de l’action.
Au regard de l’histoire, leurs priorités étaient compréhensibles. Il est indéniable que ce choix a engendré d’excellents résultats, et une richesse non moins impressionnante. J’émets toutefois une réserve : en procédant de cette manière, les pionniers ont montré qu’ils avaient mal compris l’évolution humaine et, ce faisant, ils ont limité la portée de l’intelligence artificielle et de la robotique qui en dérive, du point de vue du potentiel créatif comme du niveau maximal d’intelligence.
L’erreur, dans cette conception de l’évolution, devrait apparaître clairement, au vu des sujets explorés dans ce livre. L’univers de l’affect – l’expérience des sentiments qui découlent des pulsions, des motivations, des ajustements homéostatiques et des émotions – est un précurseur historique de l’intelligence, efficace et particulièrement flexible. C’est grâce à l’affect que la créativité humaine a pu naître et grandir. L’univers de l’affect était nettement au-dessus des compétences aveugles et dissimulées des bactéries, mais il demeure un cran en dessous de l’intelligence humaine au sens propre. Et pour cause : il a servi de tremplin à l’intelligence supérieure qui s’est peu à peu développée et étendue dans les esprits conscients. L’univers de l’affect demeure une source et un instrument pour le développement de l’autonomie que nous autres humains avons progressivement conquise.
Le moment est venu d’admettre ces faits et d’ouvrir un nouveau chapitre dans l’histoire de l’intelligence artificielle et de la robotique. Nous pouvons à l’évidence développer des machines capables de fonctionner selon la logique générale des « sentiments homéostatiques ». Pour ce faire, il nous faudra équiper les robots d’un « corps » devant être régulé et ajusté pour subsister. Autrement dit, nous devons ajouter – presque paradoxalement – un degré de vulnérabilité à la robustesse tant désirée par les professionnels de la robotique. Nous pouvons aujourd’hui y parvenir en plaçant des sondes d’un bout à l’autre de la structure du robot, qui peut ainsi détecter et enregistrer l’état (plus ou moins optimal) de son propre corps, et assimiler les informations correspondantes. Le nouveau domaine de la « robotique molle » rend cette évolution possible en remplaçant les structures rigides par des structures flexibles et modulables. Autre nécessité : transférer cette influence du corps « sentant et senti » aux composantes de l’organisme qui traitent les informations relatives aux conditions extérieures à la machine et y répondent de façon à sélectionner la réaction la plus efficace (intelligente) possible. Autrement dit, ce que la machine « ressent » dans son corps aura son mot à dire dans le comportement à adopter face au contexte extérieur. Ce « mot à dire » améliore la qualité et l’efficacité de la réaction : il donne au robot un comportement plus intelligent qu’il ne l’aurait été sans les indications issues de son monde intérieur. Les machines sensibles ne sont pas des robots froids et prévisibles. D’une certaine manière, elles prennent soin d’elles-mêmes et parviennent à compenser leurs déficiences.
Ces machines « sensibles » finissent-elles par devenir des machines « conscientes » ? Pas si vite ! Elles développent bel et bien des éléments fonctionnels liés à la conscience, les sentiments étant l’une des étapes de l’apparition de la conscience. Mais les « sentiments » de ces machines sensibles ne ressemblent pas à ceux des êtres vivants. Le « degré » de conscience potentiel dont elles pourraient jouir dépendra de la complexité de leurs représentations internes, qui portent à la fois sur l’« intérieur de la machine » et sur son « environnement ».
Si le contexte s’y prête, une nouvelle génération de « machines sensibles » pourrait bien devenir les assistants efficaces d’humains réellement sensibles ; ils seraient alors des hybrides, mi-naturels, mi-artificiels. Fait tout aussi important : cette nouvelle génération de machines constituerait un laboratoire unique pour l’étude du comportement et de l’esprit humains dans toutes sortes de contextes réalistes.

(p. 203-204)

L'expression ultime de la robotique a un nom : intelligence artificielle (IA). Et avant toute chose, je tiens à souligner le terme "artificiel", qui ne saurait être plus approprié. L'intelligence des appareils qui rendent notre quotidien plus efficace et confortable n'est absolument pas "naturelle", et leur mode de construction n'a rien de "naturelle" non plus. Il n'en reste pas moins que les inventeurs et les ingénieurs brillants qui ont donné naissance à la robotique et à l'intelligence artificielle ont bel et bien trouvé leur source d'inspiration dans les organismes naturels, vivants, et tout particulièrement dans la débrouillardise avec laquelle les êtres vivants surmontent leurs problèmes, et par l'économie et l'efficacité de leurs mouvements.

On aurait pu s'attendre à ce que les pionniers de l'IA et de la robotique puisent leur inspiration dans la totalité que constituent des êtres tels que nous : avec nos ressources d'efficacité et d'organisation, mais avec aussi la ressources des sentiments concernant les objets auxquels s'appliquent notre efficacité et notre organisation ; toute la joie, voire l'euphorie que nous procure ce que nous faisons (et ce que les autres nous font); la frustration, la tristesse et la douleur, aussi, selon les cas.

Ces brillants pionniers n’en ont rien fait : ils ont privilégié une approche économique, sont allés droit au but. Ils ont essayé de simuler les caractéristiques jugées les plus essentielles et utiles - l'intelligence de base, pourrait-on dire - et ont laissé de côté tout ce qu'ils jugeaient probablement superflu, voire problématique : tout ce qui touche au sentiment. De leur point de vue, l'affect était sans doute une chose légèrement surannée, voire complètement démodée, un vestige abandonné sur le bord du chemin dans la marche triomphante vers la clarté de pensée, l'exactitude dans la résolution des problèmes et la précision de l'action.

[...]

AVANT TOUTE CHOSE

Le format du livre que vous vous apprêtez à lire a d’étranges origines. Il doit beaucoup à un privilège dont j’ai longtemps joui, ainsi qu’à une frustration que j’ai souvent ressentie. Mon privilège fut de disposer de tout l’espace dont j’avais besoin pour exposer des idées scientifiques complexes dans les nombreuses pages d’un livre de non-fiction. Ma frustration est née en parlant à mes lecteurs au fil des années, et en apprenant d’eux que certaines des idées que j’exposais avec enthousiasme – et que je voulais absolument leur faire découvrir – se perdaient dans le flot de longues discussions, passant presque inaperçues, et ne satisfaisant donc pas grand monde. Ma réaction était toujours la même : une résolution ferme – mais sans cesse repoussée – de consacrer un livre à mes idées favorites en laissant de côté tout le reste, soit le tissu conjonctif et l’échafaudage censés structurer le tout. En bref, je formulais le souhait d’imiter les poètes et les sculpteurs que j’admire tant : tailler le superflu, puis épurer de nouveau ; pratiquer l’art du haïku. Le livre que vous tenez entre vos mains est la conséquence.

L'affect peut nous pousser à considérer les" contenus précis" sous un nouveau jour : il peut ainsi modifier le "temps de scène" des images que nous avons à l'esprit, déterminer leur degré de netteté, etc. Le contenu précis, d'une part, et l'affect, d'autre part, se distinguent par leur mode de construction au sein de l'organisme, et ils sont pleinement interactifs. L'affect nous a fait don d'un grand désordre et d'une grande richesse intérieure. Célébrons cette richesse ; célébrons ce désordre.

La souffrance liée à la honte sociale est comparable à celle d'un cancer agressif, la trahison peut faire mal comme un coup de couteau, quant aux plaisirs né de l'admiration sociale, pour le meilleur comme pour le pire, ils peuvent être vraiment orgasmiques.