Totalement inhumaine considère que l'être humain doit s'attendre à être bientôt dépassé sur le plan de l'intelligence par sa propre création, l'IA ; puis carrément remplacé. Et que c'est tant mieux parce que l'intelligence se trouve dans un cul-de-sac de l'évolution à bord de son vaisseau humain : après un 20e siècle riche en exemples de toutes sortes des ignominies dont l'humain est capable contre lui-même, ce dernier « s'en prend désormais à ses propres conditions d'existence, seulement capable d'engendrer génocides et contaminations. »
Ce que j'ai préféré dans cet essai, c'est le travail de prospective par lequel JM Truong fait se rencontrer l'informatique et la biologie : pour lui, les logiciels vont évoluer comme les molécules organiques et aboutir, à force de mutations, d'erreurs de codage, de bugs, à l'apparition d'une vie inorganique. Un processus d'évolution darwinien fera ensuite émerger conscience et intelligence de la même façon que cela s'est produit pour la vie organique, d'autant plus vite que l'on augmente la rapidité de calcul des ordinateurs et la bande passante des réseaux.
Du côté de l'humanité, c'est moins cool : l'être humain restera le jouet d'un libéralisme économique mondialisé pas plus contrôlable qu'une force naturelle, et sera progressivement réduit à la survie parce qu'il n'est jamais aussi efficace que lorsqu'il est dos au mur. Toute échappatoire est impossible, l'humain se montrant incapable de puiser en lui-même les ressources de solidarité qui pourraient le sauver.
Pour le futur, l'auteur imagine une société en trois castes organisée autour de l'IA : les Imbus, aujourd'hui financiers, politiques, hauts fonctionnaires, consultants, éditorialistes, tous trouvant un bénéfice à courte vue au développement de l'IA ; les membres majoritaires du Cheptel qui, maintenus à l'équilibre entre besoin et souffrance, lui servent plus ou moins inconsciemment de force de travail ; et peut-être une troisième fraction marginale qui reviendra au pastoralisme, à la prédation ou au charognage. Pas d'issue en vue : l'IA avance en disloquant les réseaux humains incapables de se passer d'elle ; le darwinisme naturel, économique et social l'emporte ; l'art lui-même concourt à l'inéluctable en rendant la souffrance et la misère de l'humanité supportables par les échappatoires qu'il procure, et l'IA y prend d'ailleurs une part croissante. Enfin, « si la fraction marginale se développe assez pour menacer les Imbus, leurs visions s'affronteront en révélant le fonds d'abomination encore inexprimé au Rwanda, à Hiroshima ou Auschwitz, et justifiera par contraste l'espérance placée en la figure inhumaine du Successeur (=l'IA, destinée à nous remplacer). » Bref, on n'est pas dans la grande rigolade, mais cette conception de l'avenir vaut le coup d'oeil !
À noter que deux autres de ses ouvrages, les romans
Reproduction interdite et
le Successeur de pierre, enrichissent son raisonnement par l'exemple en envisageant deux périodes différentes de l'évolution qu'il imagine.