Une machine comme moi

A une époque, nous trônions au centre de l'Univers, avec le Soleil, les planètes et le monde observable qui tournaient autour de nous en une danse rituelle et intemporelle. Puis, défiant les prêtres, une astronomie sans pitié vous avait réduit à n'être qu'une planète en orbite autour du Soleil, une parmi tant d'autres. Et pourtant nous restions à part, unique et géniaux, choisi par le Créateur pour régner en maîtres sur tout ce qui vivait. Ensuite, la biologie avec confirmé que nous ne formions qu'un avec le reste, partageant une origine commune avec les bactéries, les violettes, les truites et les moutons. Le début du 20e siècle marqua un exil encore plus profond dans les ténèbres lorsque l'immensité de l'Univers fut révélée, et que le Soleil même devint un parmi les milliards que comptait notre galaxie, elle-même une parmi des milliards de galaxies.

"Donc il existe plus d'une sorte d'intelligence. Nous avions compris que c'était une erreur d'imiter servilement l'intelligence humaine. On avait perdu beaucoup de temps. Désormais, on pouvait donner à la machine la liberté de tirer ses propres conclusions et de chercher ses propres solutions. or après avoir dépassé cette étape, on a dé couvert qu'on entrait seulement à l'école maternelle. Et encore, à peine."

Rien n'est assez extraordinaire pour que l'on ne puisse s'y habituer.

Des millions de gens vivent dans la misère alors qu'il y a de quoi les nourrir. Nous dégradons la biosphère alors que nous savons qu'elle est notre seule demeure. Nous nous menaçons les uns les autres avec des armes nucléaires tout en sachant où cela peut nous conduire. Nous adorons les créatures vivantes, mais nous autorisons une extinction massive des espèces. Et tout le reste : génocides, torture, esclavagisme, violences domestiques meurtrières, maltraitance des enfants, fusillade dans les établissements scolaires, viols, centaines d'agressions quotidiennes. Nous vivons avec ce tourment, et nous ne nous étonnons pas de réussir à trouver le bonheur malgré tout, et même l'amour. Les esprits artificiels ont moins de défenses que nous.

A une époque, nous trônions au centre de l'Univers, avec le soleil, les planètes et le monde observable qui tournaient autour de nous en une danse rituelle et intemporelle. Puis, défiant les prêtres, une astronomie sans pitié nous avait réduits à n'être qu'une planète en orbite autour du soleil, une parmi tant d'autres. Et pourtant nous restions à part, uniques et géniaux, choisis par le Créateur pour régner en maîtres sur tout ce qui vivait. Ensuite, la biologie avait confirmé que nous ne formions qu'un avec le reste, partageant une origine commune avec les bactéries, les violettes, les truites et les moutons. Le début du vingtième siècle marqua un exil encore plus profond dans les ténèbres lorsque l'immensité de l'Univers fut révélée, et que le Soleil même devint un parmi les milliards que comptait notre galaxie, elle-même une parmi des milliards de galaxies. Enfin, en notre for intérieur - notre dernier refuge -, nous avions sans doute raison de croire que notre conscience était plus développée que celle de toute autre créature sur terre. Or l'esprit humain qui s'était un jour rebellé contre les dieux s'apprêtait à se détrôner lui-même grâce à ses fabuleuses capacités intellectuelles. En bref, nous concevrions une machine un peu plus intelligente que nous, puis la programmerions pour qu'elle en invente une autre qui dépasserait notre compréhension. A quoi servirions-nous alors ?

Récemment, j’ai un peu réfléchi aux mystères du moi. Selon certains c’est un élément ou un processus organique enfoui dans les structures neuro ales. D’autres assurent que c’est Une illusion, un produit dérivé de nos tendances narratives.

Le manuel de l’utilisateur citait en caractères gras la première loi de la robotique d’Isaac Asilov, inlassablement répétée : un robot n’a pas le droit de blesser u. Être humain ni de permettre, par son inaction, qu’il lui arrive malheur.

On crée une machine possédant l’intelligence et la conscience de soi, et on la précipite dans notre monde imparfait. Un tel esprit conçu selon des principes généralement rationnels, bienveillant envers autrui, se trouve vite aux prises avec un ouragan de contradictions. Nous en avons fait l’expérience, et la liste nous fatigue d’avance. Nous pouvons guérir des millions de maladies mortelles. Des millions de gens vivent dans la misère alors qu’il y a de quoi les nourrir. Nous dégradons la biosphère alors que nous savons qu’elle est notre seule demeure. (…) Nous vivons avec ce tourment, et nous ne nous étonnons pas de réussir à trouver le bonheur malgré tout, et même l’amour. Les esprits artificiels ont moins de défenses que nous.

Nous évoquions nos parents, comme le font tous les jeunes amoureux sincères, afin d'expliquer qui nous étions et pourquoi, ce que nous chérissions et ce que nous fuyions. (p. 252)

Or l'esprit humain qui s'était un jour rebellé contre les dieux s'apprêtait à se détrôner lui-même grâce à ses fabuleuses capacités intellectuelles