Sentir et savoir : Une nouvelle théorie de la conscience

La souffrance liée à la honte sociale est comparable à celle d'un cancer agressif, la trahison peut faire mal comme un coup de couteau, quant aux plaisirs né de l'admiration sociale, pour le meilleur comme pour le pire, ils peuvent être vraiment orgasmiques.

il y a souvent un gouffre entre la carte et l'objet : je l'ai encore constaté il y a quelques minutes, en sortant sur ma terrasse pour regarder le soleil disparaître derrière les monts Santa Monica - et admirer le crépuscule rougeoyant.

Les sentiments furent, et demeurent, le début de la grande aventure que nous appelons conscience.

Nous devons respecter l'intelligence phénoménale de la nature elle-même et des œuvres qu'elle a conçues, et qui restent imparfaitement comprises.

(p. 203-204)

L'expression ultime de la robotique a un nom : intelligence artificielle (IA). Et avant toute chose, je tiens à souligner le terme "artificiel", qui ne saurait être plus approprié. L'intelligence des appareils qui rendent notre quotidien plus efficace et confortable n'est absolument pas "naturelle", et leur mode de construction n'a rien de "naturelle" non plus. Il n'en reste pas moins que les inventeurs et les ingénieurs brillants qui ont donné naissance à la robotique et à l'intelligence artificielle ont bel et bien trouvé leur source d'inspiration dans les organismes naturels, vivants, et tout particulièrement dans la débrouillardise avec laquelle les êtres vivants surmontent leurs problèmes, et par l'économie et l'efficacité de leurs mouvements.

On aurait pu s'attendre à ce que les pionniers de l'IA et de la robotique puisent leur inspiration dans la totalité que constituent des êtres tels que nous : avec nos ressources d'efficacité et d'organisation, mais avec aussi la ressources des sentiments concernant les objets auxquels s'appliquent notre efficacité et notre organisation ; toute la joie, voire l'euphorie que nous procure ce que nous faisons (et ce que les autres nous font); la frustration, la tristesse et la douleur, aussi, selon les cas.

Ces brillants pionniers n’en ont rien fait : ils ont privilégié une approche économique, sont allés droit au but. Ils ont essayé de simuler les caractéristiques jugées les plus essentielles et utiles - l'intelligence de base, pourrait-on dire - et ont laissé de côté tout ce qu'ils jugeaient probablement superflu, voire problématique : tout ce qui touche au sentiment. De leur point de vue, l'affect était sans doute une chose légèrement surannée, voire complètement démodée, un vestige abandonné sur le bord du chemin dans la marche triomphante vers la clarté de pensée, l'exactitude dans la résolution des problèmes et la précision de l'action.

[...]

Nous devons reconnaître le fait que les dispositifs fondamentaux que nous avons utilisés et qui nous ont conduit à une position dominante dans notre environnement consistent en des transformations et des améliorations de dispositifs précédemment utilisés par d'autres formes de vie tout au long d'une longue histoire de réussites individuelles et sociales.

L'affect peut nous pousser à considérer les" contenus précis" sous un nouveau jour : il peut ainsi modifier le "temps de scène" des images que nous avons à l'esprit, déterminer leur degré de netteté, etc. Le contenu précis, d'une part, et l'affect, d'autre part, se distinguent par leur mode de construction au sein de l'organisme, et ils sont pleinement interactifs. L'affect nous a fait don d'un grand désordre et d'une grande richesse intérieure. Célébrons cette richesse ; célébrons ce désordre.

(77%) Machines sensibles et machines conscientes
L’expression ultime de la robotique a un nom : intelligence artificielle (IA). Et avant toute chose, je tiens à souligner le terme « artificiel », qui ne saurait être plus approprié. L’intelligence des appareils qui rendent notre quotidien plus efficace et confortable n’est absolument pas « naturelle », et leur mode de construction n’a rien de « naturel » non plus. Il n’en reste pas moins que les inventeurs et les ingénieurs brillants qui ont donné naissance à la robotique et à l’intelligence artificielle ont bel et bien trouvé leur source d’inspiration dans les organismes naturels, vivants, et tout particulièrement dans la débrouillardise avec laquelle les êtres vivants surmontent leurs problèmes, et par l’économie et l’efficacité de leurs mouvements.
On aurait pu s’attendre à ce que les pionniers de l’IA et de la robotique puisent leur inspiration dans la totalité que constituent des êtres tels que nous : avec nos ressources d’efficacité et d’organisation, mais avec aussi la ressource des sentiments concernant les objets auxquels s’appliquent notre efficacité et notre organisation ; toute la joie, voire l’euphorie que nous procure ce que nous faisons (et ce que les autres nous font) ; la frustration, la tristesse et la douleur, aussi, selon les cas.
Ces brillants pionniers n’en ont rien fait : ils ont privilégié une approche économique, sont allés droit au but. Ils ont essayé de simuler les caractéristiques jugées les plus essentielles et utiles – l’intelligence de base, pourrait-on dire – et ont laissé de côté tout ce qu’ils jugeaient probablement superflu, voire problématique : tout ce qui touche au sentiment. De leur point de vue, l’affect était sans doute une chose légèrement surannée, voire complètement démodée, un vestige abandonné sur le bord du chemin dans la marche triomphante vers la clarté de pensée, l’exactitude dans la résolution des problèmes et la précision de l’action.
Au regard de l’histoire, leurs priorités étaient compréhensibles. Il est indéniable que ce choix a engendré d’excellents résultats, et une richesse non moins impressionnante. J’émets toutefois une réserve : en procédant de cette manière, les pionniers ont montré qu’ils avaient mal compris l’évolution humaine et, ce faisant, ils ont limité la portée de l’intelligence artificielle et de la robotique qui en dérive, du point de vue du potentiel créatif comme du niveau maximal d’intelligence.
L’erreur, dans cette conception de l’évolution, devrait apparaître clairement, au vu des sujets explorés dans ce livre. L’univers de l’affect – l’expérience des sentiments qui découlent des pulsions, des motivations, des ajustements homéostatiques et des émotions – est un précurseur historique de l’intelligence, efficace et particulièrement flexible. C’est grâce à l’affect que la créativité humaine a pu naître et grandir. L’univers de l’affect était nettement au-dessus des compétences aveugles et dissimulées des bactéries, mais il demeure un cran en dessous de l’intelligence humaine au sens propre. Et pour cause : il a servi de tremplin à l’intelligence supérieure qui s’est peu à peu développée et étendue dans les esprits conscients. L’univers de l’affect demeure une source et un instrument pour le développement de l’autonomie que nous autres humains avons progressivement conquise.
Le moment est venu d’admettre ces faits et d’ouvrir un nouveau chapitre dans l’histoire de l’intelligence artificielle et de la robotique. Nous pouvons à l’évidence développer des machines capables de fonctionner selon la logique générale des « sentiments homéostatiques ». Pour ce faire, il nous faudra équiper les robots d’un « corps » devant être régulé et ajusté pour subsister. Autrement dit, nous devons ajouter – presque paradoxalement – un degré de vulnérabilité à la robustesse tant désirée par les professionnels de la robotique. Nous pouvons aujourd’hui y parvenir en plaçant des sondes d’un bout à l’autre de la structure du robot, qui peut ainsi détecter et enregistrer l’état (plus ou moins optimal) de son propre corps, et assimiler les informations correspondantes. Le nouveau domaine de la « robotique molle » rend cette évolution possible en remplaçant les structures rigides par des structures flexibles et modulables. Autre nécessité : transférer cette influence du corps « sentant et senti » aux composantes de l’organisme qui traitent les informations relatives aux conditions extérieures à la machine et y répondent de façon à sélectionner la réaction la plus efficace (intelligente) possible. Autrement dit, ce que la machine « ressent » dans son corps aura son mot à dire dans le comportement à adopter face au contexte extérieur. Ce « mot à dire » améliore la qualité et l’efficacité de la réaction : il donne au robot un comportement plus intelligent qu’il ne l’aurait été sans les indications issues de son monde intérieur. Les machines sensibles ne sont pas des robots froids et prévisibles. D’une certaine manière, elles prennent soin d’elles-mêmes et parviennent à compenser leurs déficiences.
Ces machines « sensibles » finissent-elles par devenir des machines « conscientes » ? Pas si vite ! Elles développent bel et bien des éléments fonctionnels liés à la conscience, les sentiments étant l’une des étapes de l’apparition de la conscience. Mais les « sentiments » de ces machines sensibles ne ressemblent pas à ceux des êtres vivants. Le « degré » de conscience potentiel dont elles pourraient jouir dépendra de la complexité de leurs représentations internes, qui portent à la fois sur l’« intérieur de la machine » et sur son « environnement ».
Si le contexte s’y prête, une nouvelle génération de « machines sensibles » pourrait bien devenir les assistants efficaces d’humains réellement sensibles ; ils seraient alors des hybrides, mi-naturels, mi-artificiels. Fait tout aussi important : cette nouvelle génération de machines constituerait un laboratoire unique pour l’étude du comportement et de l’esprit humains dans toutes sortes de contextes réalistes.

Les virus nous tiennent toujours en échec du point de vue scientifique et médical, et c'est une humiliation majeure. Face aux épidémies virales, notre préparation est négligente et notre ignorance est patente : la science actuelle est insuffisante pour parler clairement des virus et combattre efficacement leurs effets.

Ceux qui rêvent de "télécharger leur esprit" dans une machine pour devenir immortels devraient comprendre que leur aventure - sans cerveau vivant dans un corps vivant - se résumerait à transférer des recettes vers un ordinateur : des recettes, rien que des recettes.