>
Critique de lanard
Robopoïeses est un essai sur l'intelligence artificielle qui prend appui sur l'histoire de ce concept tout en essayant de le redéfinir. Cette redéfinition implique celle de la notion d'intelligence même, ainsi que de revisiter l'opposition naturel/artificiel. Définir l'intelligence nous entraîne aux marges de la phénoménologie où elle apparaît comme une conscience organisatrice du monde phénoménal (des objets du monde). Quant à la notion d'artificialité, opposée au naturel, elle nous entraîne aussi dans des débats où s'affrontent dualismes, monismes et autres holismes. le complément de titre de son livre introduit bien ce programme : les intelligences artificielles de la nature. Pluriel des IA, naturalisation de l'artifice.
André Ourednik est géographe; sa perspective est donc celle d'une discipline qui conceptualise la relation de l'homme à l'écoumène, c'est-à-dire à un espace dénué des propriétés virginales qu'une écologie naïve associe à la notion d'environnement.
Dès le début, il affirme que « la parole est la première intelligence artificielle » et que « l'écriture est sa première incarnation matérielle ». Il s'agit pour lui de « renaturer l'intelligence ». En conséquence, l'intelligence serait un projet (un surgeon) de la nature. Mais cette intelligence « ancrée dans les mots » est aussi artefact (un fait de l'art) ; comme processus intégrateur, l'intelligence, qui relie tout à elle-même et se produit elle-même.
C'est donc dans cette double perspective (relier et se reproduire) que l'auteur brosse une histoire de la mécanisation de la pensée rendue possible par la création de formes symboliques ; tout commença avec les images mentales des premiers homo-sapiens et les premiers signes écrits (les tablettes d'argile sumériennes matérialisaient des calculs ; avant de conter l'écriture comptait). Ce n'est qu'après avoir rappelé l'enracinement historique de la pensée calculatoire (ou algorithmique) dans l'histoire ancienne que l'auteur introduit l'histoire plus classique des premiers automates, des premières machines à calcul (Pascal, Leibniz) jusqu'à Deep Blue et Alphago les premiers champions non humains, respectivement au jeu d'échec (1997) et au jeu de go (2015).
Enfin, des mathématiciens sont parvenus à concevoir des machines théoriques ayant la propriété de se copier elles-mêmes : les premiers automates cellulaires imaginés par Ulam et von Neuman (ce dernier ayant calculé un automate capable de se reproduire lui-même) ont inspirés au mathématicien John Conway le « jeu de la vie » sur lequel des matrices de cellules bidimensionnelles à deux états peuvent générer des formes et des structures évolutives en vertus de règles qui déterminent l'état d'une cellule à l'instant t+1 en fonction de l'état des cellules voisines. Ces règles, très simples, se révèlent avoir un fascinant pouvoir créateur de structures dont certaines peuvent être stables (figées ou oscillantes), d'autres impermanentes et certaines même se déplacent.
Est-il envisageable d'imaginer des semblables structures ayant la propriété de se répliquer (se reproduire) ? Les automates cellulaires ne se manifestent que sur le papier ou des écrans d'ordinateurs. Il est frappant que peut après les travaux de von Neuman et Ulam, Watson et Crick mettent en évidence l'existence d'un tel automate dans la nature : la molécule d'ADN.
Mais il s'agit ici d'une histoire des « intelligences artificielles » ; certaines ne sont que des objets théoriques (les automates cellulaires, la machine de Turing) d'autres ne sont que différentes expressions matérielles de l'intelligence (automates, machines à calcul, ordinateurs). Or en 1956, lorsque le John McCarthy crée l'expression « intelligence artificielle », il la pense au singulier. Ce chercheur en sciences cognitives veut se démarquer de la cybernétique de Norbert Wiener qui analysait des systèmes d'actions et de rétroactions, dans une perspective d'aide à la décision. Maintenant il s'agit pour lui de modéliser ce qu'il se passe sous un crâne. C'est de cette perspective d'une intelligence confinée que naît le machine learning, où l'on conçoit des machines en capacité d'apprendre (à reconnaître des formes par exemple). S'inventent alors une nouvelle famille d'algorithmes qui utilisent des probabilités pour évaluer les données qui sont transmises par les capteurs via des réseaux de « neurones » (réseaux neuro-mimétiques).
Pour André Ourednik, il semble que donc que l'intelligence artificielle n'est pas entrée dans notre vie avec la même soudaineté que le mot lui-même (« Intelligence artificielle ») lorsqu'il s'est introduit dans notre vocabulaire en 1956. Quant à la chose, si elle nous fut familière sous de nombreuses autres appellations (langage, lois, règles, calculs, automates etc.), elle est en train de prendre des formes de plus en plus invasives dans l'espace social (trading haute fréquence, algorithmes de recommandation etc.). L'ambition hégémonique de ses promoteurs rend nécessaire quelques outils d'évaluations mis à la disposition de notre propre intelligence du monde. L'auteur nous en propose quelques-uns. Ce que j'appelle ici « outils » se sont quelques concepts du cru d'André Ourednik, deux néologismes issus d'une démarche phénoménologique qui lui est personnelle.
Le premier donne son titre au libre : robopoïèse. La robotique tout comme l'informatique est une technique. En philosophe, l'auteur réinscrit sa réflexion dans notre héritage intellectuel hellénique où s'opposent les concepts de technique (techne) et de poétique (poïesis) pour désigner les productions humaines. La première mobilise les rapports (ratio en latin) connus entre les choses pour obtenir des fins (l'emblème en serait le rapport entre les deux parties d'un levier de part et d'autre d'un pivot qui permet de contrôler la force de levage). La seconde, la poétique, est une action dont le résultat est d'une nouveauté radicale qui modifie à la racine de la conscience notre rapport au monde. La première, quant à elle, contrôle et commande des opérations qui transforment le monde sur la base du connu ; la seconde fait le monde, elle est créatrice et produit du nouveau.
Pour André Ourednik, l'enjeu de l'intelligence artificielle est de savoir si celle-ci sera capable un jour de passer du monde de la technique à celui de la poétique. Autrement dit d'entrer dans la robopoïèse.
Aussi prend-t-il soin d'ajouter à une approche ontologique du problème (un discours sur l'être des choses en tant qu'elles sont perçues par un sujet) ce qu'il appelle une ectologie qu'il définit comme une science des artifices tels qu'ils ont été conçus sans tenir compte des sujets qui les ont conçus. Ce néologisme d'éctologie désigne une sorte d'ontologie figée qui aurait évacué la problématique du sujet.
Cette distinction est d'importance et invite à être vigilant face à des éctologies qui voudraient passer pour des ontologies. « Toute éctologie est porteuse de croyances éthiques et morales ; d'un projet de société. A l'heure où l'intelligence artificielle simplifie le travail des décideurs en analysant des données de manière toujours plus autonome, nous devons accroître notre vigilance. Nous devons toujours savoir qui définit les variables qui nourrissent une telle intelligence et sur la base de quelle vision de la réalité. L'éctologie des entreprises de collection de donnée est-elle aussi la nôtre ? Si ce n'est pas le cas, il faut les empêcher de nourrir des machines décisionnelles ! Leur manière de découper la nature en variables pourrait, sinon, devenir notre destin. »
Si j'avais lu ce livre en dehors du cadre d'un Masse Critique de Babelio auprès duquel je ne me suis engagé à produire un compte-rendu, j'aurai probablement renoncé à en écrire un. Car il y a quelque chose d'insaisissable dans cet essai. J'ai tenté ici de rendre compte de ce que j'en avais compris. Néanmoins je ne suis pas bien certain d'avoir saisi le projet de l'auteur. Reprendre le problème de l'intelligence à sa racine phénoménologique est une bonne idée, ne serait-ce que pour rappeler que ce terme d'usage si courant est sujet à de dangereux malentendus. Cette mise en garde contre une sorte de gouvernance universelle, ubiquitaire et occulte par les algorithmes, sans contrôle démocratique ne semble pourtant pas être la visée principale de l'auteur. Celui-ci, géographe et urbaniste, est un spécialiste de la manière dont l'intelligence humaine laisse son emprunte dans son environnement : l'anthropisation de celui est constituée de tous les processus engagés par l'homme qui transforment son milieu de façon plus ou moins autonome, pour le meilleur et pour le pire.
Alors que la question écologique est devenue aujourd'hui centrale dans les débats qui animent les communautés (la communauté humaine ?), André Ourednik semble avoir succombé au charme d'une sorte d'utopie techniciste qui espère voir la technique en mesure de créer une nouvelle nature. Avec l'idée qu'une telle réussite ne serait bonne que dans la mesure où la technique se serait muée en poétique (mais je ne suis pas certain qu'il dise vraiment cela).
Malgré ses défiances, il espère en la capacité de l'homme à produire une intelligence qui lui serait supérieure et qui le ferait entrer dans une sorte d'équilibre harmonieux avec le monde. Il la croit envisageable, à condition que nous acception que cette intelligence artificielle devenue autonome redevienne « comme la nature : imprévisible, peut-être même indescriptible et innommable ; une seconde nature de notre pensée excédant notre pensée ; échappant à notre capacité de faire intelligence de l'intelligence ». C'est un peu comme s'il aspirait à la dictature éclairée d'un robot tout puissant. La Boétie qui s'interrogeait sur les motifs de la servitude volontaire, sous un tel régime ne pourrait l'expliquer que par une foi absolue en une technique devenue une sorte de nouvelle nature bienveillante par la grâce d'une vision poétique.
Dans l'ensemble des productions humaines, le sous-ensemble des objets techniques ne constitue pas un sous-ensemble distinct de celui des objets poétiques (les oeuvres d'arts etc.) ; technique et poétique sont deux manières d'analyser les productions humaines. Si vous voulez dessiner à la manière de van Gogh, vous regarderez ses oeuvres avec un regard technique. Par ailleurs, on peut regarder poétiquement une deux-chevaux Citroën. Technique et poétique sont dans le regard, non dans les choses. Si donc l'intelligence artificielle est de nos jours essentiellement analysée du point de vue technique, un regard poétique, que l'on désigne par le genre de la science-fiction lui fait contrepoint au moins depuis Carel Capek, que l'on crédite de la création du mot robot (travail en tchèque). La Robopoïese ne peut qu'être une manière poétique de regarder l'émergence du Robot Sapiens (Robo sapiens une espèce en voie d'apparition) . Et si advient un jour, une intelligence artificielle dotée d'une pouvoir créateur, c'est que l'homme a perçu en lui-même des aspects mécaniques dans sa propre capacité créatrice. Les neurosciences n'ont pas progressé autrement qu'en comparant de façon de plus en plus subtile les processus informatiques et la biologie du cerveau : neurologie et informatique s'inspirant mutuellement.
Alors si la première inscription matérielle d'une intelligence artificielle réside dans la parole, comme le soutien l'auteur dès le début de son essai, il n'existe peut-être pas vraiment d'intelligence artificielle tout simplement parce qu'il n'existe pas vraiment d'intelligence naturelle.
André Ourednik est géographe; sa perspective est donc celle d'une discipline qui conceptualise la relation de l'homme à l'écoumène, c'est-à-dire à un espace dénué des propriétés virginales qu'une écologie naïve associe à la notion d'environnement.
Dès le début, il affirme que « la parole est la première intelligence artificielle » et que « l'écriture est sa première incarnation matérielle ». Il s'agit pour lui de « renaturer l'intelligence ». En conséquence, l'intelligence serait un projet (un surgeon) de la nature. Mais cette intelligence « ancrée dans les mots » est aussi artefact (un fait de l'art) ; comme processus intégrateur, l'intelligence, qui relie tout à elle-même et se produit elle-même.
C'est donc dans cette double perspective (relier et se reproduire) que l'auteur brosse une histoire de la mécanisation de la pensée rendue possible par la création de formes symboliques ; tout commença avec les images mentales des premiers homo-sapiens et les premiers signes écrits (les tablettes d'argile sumériennes matérialisaient des calculs ; avant de conter l'écriture comptait). Ce n'est qu'après avoir rappelé l'enracinement historique de la pensée calculatoire (ou algorithmique) dans l'histoire ancienne que l'auteur introduit l'histoire plus classique des premiers automates, des premières machines à calcul (Pascal, Leibniz) jusqu'à Deep Blue et Alphago les premiers champions non humains, respectivement au jeu d'échec (1997) et au jeu de go (2015).
Enfin, des mathématiciens sont parvenus à concevoir des machines théoriques ayant la propriété de se copier elles-mêmes : les premiers automates cellulaires imaginés par Ulam et von Neuman (ce dernier ayant calculé un automate capable de se reproduire lui-même) ont inspirés au mathématicien John Conway le « jeu de la vie » sur lequel des matrices de cellules bidimensionnelles à deux états peuvent générer des formes et des structures évolutives en vertus de règles qui déterminent l'état d'une cellule à l'instant t+1 en fonction de l'état des cellules voisines. Ces règles, très simples, se révèlent avoir un fascinant pouvoir créateur de structures dont certaines peuvent être stables (figées ou oscillantes), d'autres impermanentes et certaines même se déplacent.
Est-il envisageable d'imaginer des semblables structures ayant la propriété de se répliquer (se reproduire) ? Les automates cellulaires ne se manifestent que sur le papier ou des écrans d'ordinateurs. Il est frappant que peut après les travaux de von Neuman et Ulam, Watson et Crick mettent en évidence l'existence d'un tel automate dans la nature : la molécule d'ADN.
Mais il s'agit ici d'une histoire des « intelligences artificielles » ; certaines ne sont que des objets théoriques (les automates cellulaires, la machine de Turing) d'autres ne sont que différentes expressions matérielles de l'intelligence (automates, machines à calcul, ordinateurs). Or en 1956, lorsque le John McCarthy crée l'expression « intelligence artificielle », il la pense au singulier. Ce chercheur en sciences cognitives veut se démarquer de la cybernétique de Norbert Wiener qui analysait des systèmes d'actions et de rétroactions, dans une perspective d'aide à la décision. Maintenant il s'agit pour lui de modéliser ce qu'il se passe sous un crâne. C'est de cette perspective d'une intelligence confinée que naît le machine learning, où l'on conçoit des machines en capacité d'apprendre (à reconnaître des formes par exemple). S'inventent alors une nouvelle famille d'algorithmes qui utilisent des probabilités pour évaluer les données qui sont transmises par les capteurs via des réseaux de « neurones » (réseaux neuro-mimétiques).
Pour André Ourednik, il semble que donc que l'intelligence artificielle n'est pas entrée dans notre vie avec la même soudaineté que le mot lui-même (« Intelligence artificielle ») lorsqu'il s'est introduit dans notre vocabulaire en 1956. Quant à la chose, si elle nous fut familière sous de nombreuses autres appellations (langage, lois, règles, calculs, automates etc.), elle est en train de prendre des formes de plus en plus invasives dans l'espace social (trading haute fréquence, algorithmes de recommandation etc.). L'ambition hégémonique de ses promoteurs rend nécessaire quelques outils d'évaluations mis à la disposition de notre propre intelligence du monde. L'auteur nous en propose quelques-uns. Ce que j'appelle ici « outils » se sont quelques concepts du cru d'André Ourednik, deux néologismes issus d'une démarche phénoménologique qui lui est personnelle.
Le premier donne son titre au libre : robopoïèse. La robotique tout comme l'informatique est une technique. En philosophe, l'auteur réinscrit sa réflexion dans notre héritage intellectuel hellénique où s'opposent les concepts de technique (techne) et de poétique (poïesis) pour désigner les productions humaines. La première mobilise les rapports (ratio en latin) connus entre les choses pour obtenir des fins (l'emblème en serait le rapport entre les deux parties d'un levier de part et d'autre d'un pivot qui permet de contrôler la force de levage). La seconde, la poétique, est une action dont le résultat est d'une nouveauté radicale qui modifie à la racine de la conscience notre rapport au monde. La première, quant à elle, contrôle et commande des opérations qui transforment le monde sur la base du connu ; la seconde fait le monde, elle est créatrice et produit du nouveau.
Pour André Ourednik, l'enjeu de l'intelligence artificielle est de savoir si celle-ci sera capable un jour de passer du monde de la technique à celui de la poétique. Autrement dit d'entrer dans la robopoïèse.
Aussi prend-t-il soin d'ajouter à une approche ontologique du problème (un discours sur l'être des choses en tant qu'elles sont perçues par un sujet) ce qu'il appelle une ectologie qu'il définit comme une science des artifices tels qu'ils ont été conçus sans tenir compte des sujets qui les ont conçus. Ce néologisme d'éctologie désigne une sorte d'ontologie figée qui aurait évacué la problématique du sujet.
Cette distinction est d'importance et invite à être vigilant face à des éctologies qui voudraient passer pour des ontologies. « Toute éctologie est porteuse de croyances éthiques et morales ; d'un projet de société. A l'heure où l'intelligence artificielle simplifie le travail des décideurs en analysant des données de manière toujours plus autonome, nous devons accroître notre vigilance. Nous devons toujours savoir qui définit les variables qui nourrissent une telle intelligence et sur la base de quelle vision de la réalité. L'éctologie des entreprises de collection de donnée est-elle aussi la nôtre ? Si ce n'est pas le cas, il faut les empêcher de nourrir des machines décisionnelles ! Leur manière de découper la nature en variables pourrait, sinon, devenir notre destin. »
Si j'avais lu ce livre en dehors du cadre d'un Masse Critique de Babelio auprès duquel je ne me suis engagé à produire un compte-rendu, j'aurai probablement renoncé à en écrire un. Car il y a quelque chose d'insaisissable dans cet essai. J'ai tenté ici de rendre compte de ce que j'en avais compris. Néanmoins je ne suis pas bien certain d'avoir saisi le projet de l'auteur. Reprendre le problème de l'intelligence à sa racine phénoménologique est une bonne idée, ne serait-ce que pour rappeler que ce terme d'usage si courant est sujet à de dangereux malentendus. Cette mise en garde contre une sorte de gouvernance universelle, ubiquitaire et occulte par les algorithmes, sans contrôle démocratique ne semble pourtant pas être la visée principale de l'auteur. Celui-ci, géographe et urbaniste, est un spécialiste de la manière dont l'intelligence humaine laisse son emprunte dans son environnement : l'anthropisation de celui est constituée de tous les processus engagés par l'homme qui transforment son milieu de façon plus ou moins autonome, pour le meilleur et pour le pire.
Alors que la question écologique est devenue aujourd'hui centrale dans les débats qui animent les communautés (la communauté humaine ?), André Ourednik semble avoir succombé au charme d'une sorte d'utopie techniciste qui espère voir la technique en mesure de créer une nouvelle nature. Avec l'idée qu'une telle réussite ne serait bonne que dans la mesure où la technique se serait muée en poétique (mais je ne suis pas certain qu'il dise vraiment cela).
Malgré ses défiances, il espère en la capacité de l'homme à produire une intelligence qui lui serait supérieure et qui le ferait entrer dans une sorte d'équilibre harmonieux avec le monde. Il la croit envisageable, à condition que nous acception que cette intelligence artificielle devenue autonome redevienne « comme la nature : imprévisible, peut-être même indescriptible et innommable ; une seconde nature de notre pensée excédant notre pensée ; échappant à notre capacité de faire intelligence de l'intelligence ». C'est un peu comme s'il aspirait à la dictature éclairée d'un robot tout puissant. La Boétie qui s'interrogeait sur les motifs de la servitude volontaire, sous un tel régime ne pourrait l'expliquer que par une foi absolue en une technique devenue une sorte de nouvelle nature bienveillante par la grâce d'une vision poétique.
Dans l'ensemble des productions humaines, le sous-ensemble des objets techniques ne constitue pas un sous-ensemble distinct de celui des objets poétiques (les oeuvres d'arts etc.) ; technique et poétique sont deux manières d'analyser les productions humaines. Si vous voulez dessiner à la manière de van Gogh, vous regarderez ses oeuvres avec un regard technique. Par ailleurs, on peut regarder poétiquement une deux-chevaux Citroën. Technique et poétique sont dans le regard, non dans les choses. Si donc l'intelligence artificielle est de nos jours essentiellement analysée du point de vue technique, un regard poétique, que l'on désigne par le genre de la science-fiction lui fait contrepoint au moins depuis Carel Capek, que l'on crédite de la création du mot robot (travail en tchèque). La Robopoïese ne peut qu'être une manière poétique de regarder l'émergence du Robot Sapiens (Robo sapiens une espèce en voie d'apparition) . Et si advient un jour, une intelligence artificielle dotée d'une pouvoir créateur, c'est que l'homme a perçu en lui-même des aspects mécaniques dans sa propre capacité créatrice. Les neurosciences n'ont pas progressé autrement qu'en comparant de façon de plus en plus subtile les processus informatiques et la biologie du cerveau : neurologie et informatique s'inspirant mutuellement.
Alors si la première inscription matérielle d'une intelligence artificielle réside dans la parole, comme le soutien l'auteur dès le début de son essai, il n'existe peut-être pas vraiment d'intelligence artificielle tout simplement parce qu'il n'existe pas vraiment d'intelligence naturelle.
