Gaspard Koenig

Présenter un visage à haïr, n'était-ce pas la dernière trace d'humanité dans un processus juridique formalisé à l'extrême ?

Maintenant qu’il avait sous la main la clé des champs, comme disait Montaigne, chaque jour devenait une prime offerte par le temps. Rien de tel que de se préparer à la mort pour ne plus la désirer.

Arthur dissertait ainsi (...) avec ce faux désespoir de la vingtaine, quand on peut s’amuser à ne croire à rien parce qu’on croit encore en soi-même.

La nature en sursis les invitait à philosopher. Ils ne refaisaient pas le monde, comme les générations précédentes. Ils le regardaient se défaire et tentaient de se trouver un rôle dans l’effondrement à venir.

Dans ce milieu étudiant tout sauf insouciant, où l’on guettait déjà les esquisses de carrière des uns et des autres, les agros avaient un statut particulier. Ils étaient passés par la même sélection impitoyable que tous leurs camarades de soirée et personne ne disputait leur valeur intellectuelle. Mais ils semblaient condamnés à s’occuper de la formule du lait en poudre ou des rendements du maïs. Alors que les autres acquéraient une forme d’incompétence généraliste qui leur permettrait ensuite d’occuper n’importe quel poste avec assurance, les agros avaient déjà les mains dans la glaise. C’étaient les paysans des ingénieurs, le tiers état des énarques. Ce qui leur valait une sorte d’aura ambiguë.

On a beau lire des dizaines de livres, échanger des centaines d'emails, rien ne vaut de passer cinq heures sous la pluie avec les citoyens de Glaris, les pieds gelés, pour comprendre leur passion démocratique ; ou de subir la surveillance des services chinois pour mieux apprécier la lutte contre ce régime encore et toujours communiste.

Cette tribu avait ses rites. Il fallait d'abord préciser de quel clan on était l'émissaire. Après quelques minutes de conversation, on s'enquérait invariablement, par des voies plus ou moins détournées, de son niveau d'études.
- Agro.
- C'est une grande école, ça ?
Oui, avait-il appris à répondre, c'est une grande école. Pas aussi grande que Centrale, Normale, Polytechnique, l'ENA, HEC, ou le graal, la coiffe à double plume : X-Mines. Mais une grande école quand même, avec une adresse sur le plateau de Saclay et un nom qui devenait très à la mode. C'était le clan venu de la forêt lointaine, dont on enviait le sang frais et les mœurs rustiques, même s'il n'était pas encore tout à fait intégré aux familles régnantes.

- La justice sert les intérêts des pollueurs. L'état détruit ce sur quoi il est fondé. Cette société est pourrie ! fondée sur l'exploitation de l'homme et de la nature, elle sera soit renversée par l'homme, soit anéantie par la nature.
( p 143)

Il faut donc se méfier de notre pulsion naturelle d'anthropomorphisation de l'IA. [...] Entamer une relation affective avec un robot ne représente pas l'avant-garde du progrès, mais au contraire une terrible régression pour notre civilisation. Il suffit de visiter le musée des Arts premiers à Paris pour constater combien les sociétés primitives s'ingéniaient à attribuer une âme, un pouvoir et des sentiments aux objets inanimés (le fameux mana des Polynésiens). On en retrouve les traces dans l'imaginaire médiéval à travers l'idée d'une nature signifiante, largement analysée par Foucault. Il faudra attendre l'essor de la science expérimentale pour libérer les choses de notre ombre portée et constituer un domaine proprement extérieur à l'homme. [...]

Le XXIeme siècle va-t-il retomber dans l'adoration de puces de silicium ? Allons-nous ressusciter les esprits animaux pour des machines que nous avons conçues et fabriquées nous-mêmes ? La maison connectée ressemblera-t-elle à une forêt touffue pleine de spectres et de mystères ? Il serait paradoxal que les progrès de la technique nous fassent perdre l'esprit scientifique.
Cette exigence de rationalité, définie par le recours à l'expérimentation, ne saurait nous priver du sel de l'imagination. [...]. Mais il faut rigoureusement dissocier les deux registres de pensée et d'action. Nulle métaphore ne pourrait se substituer à un raisonnement, et inversement. D'un point de vue purement scientifique, l'IA ne pense pas, l'IA ne souffre pas, l'IA n'aime pas. Cette honnêteté intellectuelle est essentielle à une époque où trop de figures du débat public jouent à se faire peur, et à nous faire peur, avec des rêveries de machine consciente [...]. Si un robot nous offre de trouver l'amour ou de gérer un deuil, tant mieux ; mais à condition de ne pas en faire une entité digne d'amour et de deuil.

Comme le résume la chercheuse chevronnée Leslie Kaelbling, déjà croisée au cours de ces pages, l'anthropomorphisation est une "facilité cognitive". Il est plus facile de s'adresser à une IA en la dotant d'une existence propre. Mais c'est également une faute épistemologique, qu'il serait risqué de laisser envahir nos représentations courantes.
Voilà pourquoi il ne faut surtout pas être poli avec les robots ni avec les objets connectés qui commencent à nous entourer. L'hiver dernier, je me suis trouvé en famille dans un appartement prêté par des amis. Au bout de quelques jours, Alexa, l'assistant vocal mis au point par Amazon, s'est déclenché. Je ne sais comment, nous avions réveillé le génie. Mes enfants se sont amusés à lui demander toutes sortes de tâches : jouer de la musique, annoncer la météo, donner une recette de cuisine. En s'adressant à Alexa, ils utilisaient les formules de politesse dont leur mère et moi nous efforçons de leur inculquer l'usage : « Alexa, peux-tu s'il te plaît nous dire l'heure ? » Je leur ai demandé pourquoi. Dit-on « s'il te plaît » à une machine à laver, une voiture ou à un logiciel de traitement de texte ? Alexa n'est ni plus ni moins que cela. Aussi pour la première fois ai-je demandé à mes enfants, à leur grand étonnement, d'être impolis.
Il faut considérer les robots pour ce qu'ils sont afin de ne pas traiter les humains pour ce qu'ils ne sont pas : évitons de faire de la politesse un réflexe automatique, standardisé et répétitif, alors que toute sa valeur vient de sa sincérité. « Tu ne le penses pas vraiment », s'entend-on parfois répondre après des excuses trop machinales. Non seulement un robot ne mérite pas de politesse, mais il faut éviter que la politesse ne se robotise.
Il ne s'agit pas de traiter Alexa en esclave : un esclave est un être humain à qui l'on refuse toute faculté d'autodétermination, alors qu'Alexa est un être artificiel que nous avons déterminé nous-mêmes, et dont les capacités d'apprentissage restent liées aux algorithmes qui le gouvernent. Il s'agit de différencier très clairement, pour des raisons morales essentielles, un sujet qui, étant une fin en soi, mérite le respect, et un objet purement utilitaire. Les robots ne sont ni des amis ni des ennemis, ni des anges ni des démons. Ce sont des instruments. C'est au prix de cette clarification que nous pourrons cohabiter sereinement avec eux.

Arthur marcha une bonne dizaine de minutes sans trouver personne. La nuit ne lui faisait pas peur. Le temps médiéval des loups et des ogres était révolu, remplacé par la conscience plus ancienne encore de trouver dans cet espace touffu un refuge contre les prédateurs. Réunis par la nuit, les arbres coalesçaient en masses compactes d’où émergeait un moucharabieh de branchages, une architecture complexe qui transformait la forêt en palais oriental. Arthur s’y sentait protégé.

« À quoi pense un ver de terre ? », se demandait Arthur en jetant son butin grouillant dans le seau. Il se trouve plongé dans un monde aveugle, sans odeur, ni forme, ni goût, ni son. Le seul sens qu’il possède, le toucher, doit être formidablement développé. Anneau par anneau, le ver perçoit le moindre changement de température ou d’humidité. Toujours poussant, engagé tête la première dans les concrétions du sol, il balise son territoire selon des zones plus ou moins compactes, plus ou moins friables. Un mètre cube de terre représente un univers dont il connaît les cavités et les recoins. Il sait où il peut se faufiler et quand il doit rebrousser chemin. Il y retrouve même les petites chambres qu’il a aménagées, où il fait macérer ses propres excréments comme des fromages et où il se réunit parfois avec quelques amis choisis, peau contre peau, pour passer les saisons inclémentes. De même que les grands espaces avec leurs géométries figées nous ont appris à raisonner de manière causale, le ver pense selon les catégories de la masse et de la résistance.

Les vers de terre sont des pharaons aveugles. Ils prennent le temps de vivre, souverains d'eux-mêmes et maîtres de leur horloge biologique. Fuyant la lumière, ils sillonnent lentement leur royaume, se rétractant et s'allongeant comme des accordéons. Ils ne risquent pas de s'étouffer : ils respirent par la peau. Pour ne manquer de rien, ils entreposent leurs propres déjections et les réingèrent après fermentation. L'hiver, ils hibernent, roulés en boule dans une léthargie profonde. L'été, ils fuient la chaleur en se regroupant dans des chambres au frais, descendant plus profond à mesure que la température du sol augmente. Ils discutaillent en laissant passer la sécheresse. A leur mort au bout de deux ou trois ans, lorsqu'ils comparaissent devant Osiris qui pèse les cœurs, ils sont les champions : ils en possèdent cinq.

Si mon bien-être est assuré de manière optimale par une myriade d'apps et d'objets connectés, à quoi sert de voter pour un représentant?

En attendant, les gouvernements reconnaissant leur faiblesse font de plus en plus appel aux géants de l'IA. Ils leur demandent de définir eux-mêmes les normes qui gouvernent leurs utilisateurs et par extension l'ensemble de la société. Cette délégation de l'autorité souveraine à des groupes privés représente un extraordinaire bouleversement. Sous couvert de "responsabilité sociale des entreprises", une notion en vogue, l’État demande à ceux qui gèrent nos data de se substituer de facto à la loi.

Angèle Christin a pu constater que de nombreux juges refusent d'utiliser les technologies à leur disposition, ou que les travailleurs sociaux sélectionnent les données qu'ils communiquent à la machine afin de parvenir au résultat souhaité...Les biais algorithmiques entraînent donc cette conséquence paradoxale de réintroduire les biais humains!

En admettant même que l'algorithme soit conçu de manière parfaitement neutre en s'entraînant sur des échantillons indiscutables, il ne peut que reproduire et rigidifier les liais de la société américaine elle-même. De ce point de vue, l'IA apparaît comme une force éminemment conservatrice, jaugeant l'avenir en fonction du passé.

C'est le capitalisme en jean, énième variation sur les drapés noir des Fugger ou les costumes impeccables des Rothschild. Contrairement à ce que nous répètent les génies de la disruption à longueur de TED Talks, le monde ne change pas tant.

Les entrepreneurs font leur pèlerinage à pied, toquant de porte en porte comme des enfants pour Halloween.
(ndc:silicon valley)

Face à lui se tenait à présent un quinquagénaire à l'allure distinguée, mèche poivre et sel assumée, lunettes rondes à fine monture argentée, pochette de couleur sur sa veste en tweed. Il lui avait d'emblée précisé qu'il était « chargé d'affaires, pas banquier : trop vulgaire, sans doute. Il ne se départissait pas d'un sourire ironique et prenait un plaisir visible à tourmenter les jeunes entrepreneurs paumés qui défilaient dans son bureau. Kevin avait déjà appris à connaître ce personnage très parisien : cadre à la carrière linéaire, à l'esprit agile mais étroit ; soutier anonyme du capitalisme n'en récoltant que les miettes, et compensant la médiocrité de son parcours par que la conviction de se trouver à l'avant-garde du progrès social. Révolutionnaires à cing mille euros par mois, ils étaient les hérauts de la disruption, les pythies de la responsabilité d'entreprise, les prophètes du monde de demain, toujours en avance d'une innovation. Là où le grand public découvrait encore l'intelligence artificielle, ils s'enflammaient déjà pour l'ordinateur quantique. A force de s'abonner à des newsletters et d'assister à des conférences, ils finissaient par acquérir un échantillon de références et de citations suffisant pour alimenter un diner en ville. Les plus persévérants avaient passé quelques semaines de retraite déconnectée à élaborer leur propre théorie de l'univers, une centaine de feuillets hélas trop innovants pour intéresser les éditeurs et qui les amenaient à développer une ultime vertu : la modestie. Autant dire que tout ce génie méconnu ne pouvait pas être gâché longtemps à discuter d'un prêt de soixante mille euros pour du lombricompostage.

[...] dans une société automatisée, où les citoyens sont de plus en plus pris en charge dans leurs choix par des robots, ne vont-ils pas simplement se retirer du processus démocratique, laissant le terrain libre aux autocrates ? [...] L'addiction au bien-être ne va-t-elle pas engendrer une indifférence définitive ? C'était déjà l'inquiétude de Tocqueville : dans une société individualiste où le goût des jouissances matérielles éloigne les citoyens de l'intérêt public, les décisions collectives pourraient être confiées avec insouciance au premier qui voudrait bien s'en charger.
[...]
Les citoyens ne se retirent pas du processus démocratique par paresse ou inconscience, mais parce qu'ils ont le sentiment de pouvoir satisfaire leurs volontés par d'autres moyens. Comme si l'IA et les entreprises qui la diffusent leur apportaient suffisamment de valeur d'utilité pour se dispenser de décision collective. Si mon bien-être est assuré de manière optimale par une myriade d'apps et d'objets connectés, à quoi sert de voter pour un représentant ? Si Facebook décide de ma liberté d'expression, pourquoi élire un Congrès pour discuter du Premier Amendement ? Si le ballet bien réglé des véhicules autonomes répond à nos besoins, faut-il encore des transports collectifs ? Parce que l'IA est à la fois personnalisée et collectiviste, parce qu'elle prend soin de moi comme être unique tout en assurant le bon fonctionnement du groupe, elle tend à restreindre la sphère de la délibération en commun, jusqu'au moment où l'on pourra se passer intégralement de politiques publiques.