Une machine comme moi

Des millions de gens vivent dans la misère alors qu’il y a de quoi les nourrir.

... à partir du moment où nous ne verrions plus aucune différence de comportement entre la machine et l'homme, il nous faudrait reconnaître l'humanité de la machine (p115)

Au départ, on croyait qu’en dix ans on parviendrait à reproduire le cerveau humain. Mais pour chaque minuscule problème résolu, un million d’autres surgissaient. Avez-vous la moindre idée de ce qui permet d’attraper un ballon, de porter une tasse à vos lèvres, ou de comprendre instantanément le sens d’un mot, d’une expression ou d’une phrase ambiguë ? Nous n’en savions rien au début du moins. La résolution de problèmes mathématiques est la fraction la plus infime de ce que fait l’intelligence humaine. Nous avons découvert en changeant d’angle quelle chose merveilleuse est le cerveau humain. Un ordinateur à trois dimensions, d’une contenance d’un litre et climatisé. Une incroyable capacité à traiter les données et à les compresser, une incroyable efficacité énergétique, aucune surchauffe. Le tout pour vingt-cinq watts-comme une ampoule de faible luminosité.

Je n’étais sûrement pas le premier à le penser, mais on pouvait envisager l’histoire de l’estime de soi chez les humains comme une série de déclassements conduisant à l’extinction.

L'une des zones les plus sombres est celle de la vengeance. C'est une pulsion grossière. Une culture de la vengeance conduit au malheur des individus, à des tueries, à l'anarchie, à un chaos social.

Notre propre réussite technique nous dépassait, comme elle devait fatalement le faire, nous laissant échoués sur le petit banc de sable de notre intelligence limitée.

Nous pouvons guérir des millions de maladies mortelles. Des millions de gens vivent dans la misère alors qu'il y a de quoi les nourrir. Nous dégradons la biosphère alors que nous savons qu'elle est notre seule demeure. Nous nous menacons les uns les autres avec des armes nucléaires tout en sachant où cela peut nous conduire. Nous adorons les créatures vivantes, mais nous autorisons une extinction massives des espèces. Et tout le reste : génocides, tortures, esclavagisme, violences domestiques meurtrières, maltraitances des enfants, fusillades dans les établissements scolaires, viols, centaines d'agressions quotidiennes. Nous vivons avec ce tourment, et nous ne nous étonnons pas de réussir à trouver le bonheur malgré tout, et même l'amour. Les esprits artificiels ont moins de défenses que nous.

Adam n'était pas un sex toy. En revanche, il était capable d'avoir des rapports sexuels et possédait des muqueuses opérationnelles, pour la maintenance desquelles il consommait un demi-litre d'eau par jour.

C’était l’espoir garanti pour toute aspiration religieuse, c’était le saint graal de la science. Nous avions des ambitions, pour le meilleur et pour le pire : que le mythe de la création devienne réalité, que s’accomplisse un acte d’un narcissisme monstrueux. Dès que ce fut faisable, nous n’avions plus qu’à suivre nos désirs, et tant pis pour les conséquences. En termes plus nobles, le but était d’échapper à notre mortalité, d’opposer à la figure de Dieu, voire de lui substituer, un moi parfait. […] constituer une version améliorée de nous-mêmes, plus moderne, et d’exulter devant notre inventivité, de jubiler de notre supériorité.

Comme le disait Schopenhauer à propos du libre arbitre, on peut choisir selon ses désirs, mais on n’est pas libre de choisir ses désirs.