Parole de machines

Très intéressant et très surprenant essai sur l'intelligence artificielle (IA). Ayant terminé sa lecture il y a un instant, je me contenterai ici d'en évoquer quelques points saillants, surtout pour inciter à le lire. Surprenant, cet essai l'est par les constants parallèles et mises en relation qu'effectue Grinbaum avec la pensée religieuse (en particulier le judaïsme) et les philosophies antiques. On peut avoir l'impression - rassurante par certains côtés - que d'anciennes traditions humaines avaient déjà exprimé et répondu à ce qui nous paraît aujourd'hui, avec l'émergence de ChatGPT, comme un monstrueux défi à notre langue, à notre culture et à notre intelligence humaines. Mais les différences restent énormes, et nous ne comprenons pas très bien comment un générateur de textes, de conversations ou d'images est capable de nous leurrer au point de rendre tout à fait obsolète le fameux test de Turing. Grinbaum explique bien comment l'IA apprend à imiter l'humain au point de le confondre. Cela ne ressemble à rien de ce que nous pouvions supposer comme étant à la base d'un apprentissage. Pour ce qui concerne ce dernier, je renvoie aux pages consacrées au "transformer" et à "l'autosupervision". C'est parfois très imagé et même trop elliptique, mais le profane peut se faire une idée de ce quoi à quoi il a affaire quand il dialogue avec une "machine à paroles". le but de l'essai n'est d'ailleurs pas tant de nous détailler les processus techniques que de tenter de déterminer les enjeux éthiques, anthropologiques et métaphysiques de l'IA. Que faut-il penser, par exemple, du fait qu'un "deabot" peut vous donner l'illusion de continuer à dialoguer avec un mort, parce qu'il a absorbé la totalité de l'existence numérique d'une personne (tout ce qu'il a publié et véhiculé sur le net, textes et images), et qu'ayant appris sur ce corpus qui est cette personne, il continue à générer, suivant le style propre de cette personne, une parole qui semble véritablement provenir d'elle, comme si elle continuait à s'exprimer depuis le ciel numérique ? On l'aura compris, si l'homme peut se faire croire qu'il a vaincu la mort de cette façon, il y a certainement péril en la demeure. Et Grinbaum ne se lasse pas de le répéter, le grand danger de cette nouvelle technologie consiste en ce qu'elle imite si bien notre parole et notre pensée que nous ne pouvons nous empêcher de l'imiter à notre tour et de projeter sur elle une conscience de soi, une subjectivité, une sensibilité dont elle ne peut absolument pas disposer, parce qu'elle est a-sémantique, parce qu'elle est hors du temps réel, parce qu'elle n'a pas de corps et qu'en elle et pour elle tout est calcul froid. Enfin, un appel aux concepteurs est lancé (parce que ceux qui ne sont pas au fait du fonctionnement de l'IA - les politiques en l'occurrence - n'ont aucun pouvoir sur le coeur de la machine) : un appel, donc, afin qu'ils songent au moyen d'intégrer dans la machine une capacité d'auto-contrôle que l'auteur désigne par l'opposition-homonymie "Un" et "Hun", en gros le bien et le mal, dont le "H" de l'Humain fait la différence. Bref, l'éthique reste le problème fondamental pour la machine, dans la mesure où par définition elle ne dispose pas de ce qui permet à une éthique d'exister. On reste néanmoins sur une note inquiétante : si la machine imite l'humain au point de produire une illusion d'humain, l'humain lui-même imite la machine, se projette en elle, s'oublie en elle, et par conséquent s'appauvrit, étant donné que statistiquement le corpus de données dont se nourrit l'IA n'est pas de nature à l'élever. Mais, qu'à cela ne tienne, il faudrait discuter plus en détail le riche contenu de ce petit livre, vraiment éclairant sur ce qu'est fondamentalement une IA.