Réseaux sociaux, marketing et publicité, secteur des transports et secteur bancaire, commerce et santé, arts et sciences en tous genres : elle est absolument partout !
Elle sait écrire, compter, traduire, composer des symphonies et inventer des histoires, reconnaître des voix et des visages, effectuer des prédictions toujours plus précises, elle excelle aux échecs ou au jeu de go, elle est capable de mille autres miracles encore : elle, bien sûr, c'est l'IA.
Très récemment encore, l'Intelligence Artificielle n'excitait pourtant que les auteurs de science-fiction et nourrissait principalement des scénarios de films à grand spectacle. On jouait à se faire peur, à inventer des failles dans la matrice ou à imaginer des robots tueurs venus du futur pour asservir l'humanité. À peine quelques années plus tard la voilà, déjà fermement implantée dans nos vies et transformant le monde à vitesse grand V, pour le meilleur et pour le pire.
Chacun à leur façon,
Isaac Asimov,
Philip K. Dick et autre
James Cameron avaient vu juste, la réalité risque bien de dépasser la fiction. Après les auteurs d'anticipation, c'est à présent au tour du philosophe
Gaspard Koenig de s'emparer du sujet, avec toute la profondeur d'esprit et la qualité d'analyse que requiert sa profession.
Et le résultat est remarquable ! Quel travail ! Quel essai passionnant, édifiant ... et terrifiant aussi, parfois !
Plusieurs mois durant, l'auteur a sillonné la planète de San Francisco à Pékin, d'Oxford à Tel Aviv et de Washington à Copenhague, à la rencontre des plus grands spécialistes de l'IA (universitaires, informaticiens, chercheurs, politologues, startupers et entrepreneurs, etc...) Ensemble, ils dressent un panorama complet et captivant de ce "monde de la data" dans lequel nous sommes déjà entrés et
Gaspard Koenig, en plus de développer brillamment le fruit de ses propres réflexions, synthétise avec clarté les différents points de vue de ses interlocuteurs.
Il y a ceux qui ne jurent que par l'infaillibilité des algorithmes, ceux qui parlent "processus", "optimisation", "rationalisation", ceux pour qui l'IA est LA solution à toutes les problématiques de notre temps et qui appellent de leurs voeux l'avènement de l'Homo-Connecticus.
En face il y a ceux qui freinent des quatre fers, les technophobes sourds et aveugles aux potentialités quasi-infinies de l'IA, cette arme de destruction massive aujourd'hui invisible et familière qui finira forcément par tomber entre de mauvaises mains. ("
Stephen Hawking considérait l'IA comme le pire événement de l'histoire de notre civilisation, et multipliait les interviews et articles pour dénoncer l'imminence du péril. On ne compte plus les tribunes aux signatures prestigieuses, de
Bill Gates au prix Nobel de physique
Frank Wilczek, mettant en garde contre une IA devenue progressivement incontrôlable, ou contre l'éradication de l'humanité "par inadvertance"...")
Et enfin il y a ceux qui s'interrogent. Ceux-là sentent qu'une révolution inédite est à l'oeuvre, qu'elle ouvre des horizons prodigieux mais qu'elle nécessite des garde-fous solides, sous peine de voir les fondements de nos sociétés, ainsi que l'ensemble de nos valeurs et de nos systèmes de pensées voler en éclat à très brève échéance.
Car qu'est-ce que l'IA, sinon une rupture technologique sans précédent, qui influe sans aucun contrôle et souvent à bas bruit sur nos existences ?
N'est-elle pas en train de rebattre de manière irréversible les cartes de nos économies et d'ébranler en profondeur nos structures politiques ?
Sait-on vraiment ce qui se cache derrière ce "label devenu sésame pour vendre n'importe quelle idée à des investisseurs dépassés par la rapidité des mutations qu'il engendre" ?
Quelle est précisément la nature de cette "machine pensante" à l'opacité inquiétante, toujours plus avide de nouvelles données à ingurgiter pour alimenter ses algorithmes et ses réseaux de neurones devenus si complexes que plus personne n'est en mesure de les "cartographier" ni d'en certifier la validité (phénomène de la « boîte noire » : on peut juger des données qui entrent dans la boîte et des résultats qui en sortent, mais sans savoir ce qui se passe à l'intérieur) ?
Doit-on vraiment donner les pleins pouvoirs à cette hydre vorace, la laisser influencer nos choix au nom d'un "bien commun" dont elle serait la seule à même d'établir la pertinence, se goinfrant sans fin de ces fameux "cookies" ou s'abreuvant de statistiques et de probabilités pour muter et s'améliorer de manière autonome (apprentissage automatique autrement nommé "machine learning") ?
Quand nous lui aurons confié tous nos secrets, nos habitudes de consommation, nos coordonnées bancaires ou GPS, nos goûts dans tous les domaines et l'intégralité de nos carnets d'adresses, quand nous lui aurons délégué des tâches toujours plus vitales, quand nous ne serons plus que paramètres et variables noyés dans le grand tourbillon numérique, sera-t-on toujours libres ?
Voilà les interrogations essentielles au coeur de l'ouvrage, qui nous questionne sur la place de l'individu dans le monde de l'IA, sur notre (prétendu) "libre arbitre" et la fin annoncée du concept de "vie privée".
Et qu'il est bon de réfléchir un peu avec
Gaspard Koenig, d'identifier les différences entre "calculer" et "comprendre", d'apprendre à distinguer les véritables progrès promis par ces technologies fabuleuses des mirages et des fausses bonnes idées en préparation dans la Silicon Valley ("Ici on est occupé à make the world better. On ne se pose pas de question, on résout des problèmes. Les tribulations philosophiques, luxe d'un esprit oisif, ne sont pas à l'ordre du jour") ou ailleurs.
Bien sûr la vie ne peut se résumer à un processus purement cognitif, et la somme en apparence infinie des savoirs accumulés par l'IA ne doit pas occulter les notions d'éthique et de morale, ni la place centrale de la conscience et des sentiments ("loin d'entraver notre processus intellectuel de délibération et de décision, ils forment « la musique de fond du vivant » et nous confèrent la faculté de juger : sans eux, pas de plaisir ni de douleur, pas de coopération sociale, pas d'expérience du bien et du mal, pas de culture. [...] Les sentiments sont seuls à même de produire du sens.")
Ainsi il nous faut apprendre à nous méfier du nudge (ensemble des outils de « suggestion » supposés nous aider à faire les bons choix, pour notre propre intérêt ou celui de la société), à préserver autant que faire se peut notre libre arbitre et à ne pas céder systématiquement à l'influence des notifications et des recommandations concoctées pour nous dans les arcanes du cloud (... et c'est là que je réalise avec horreur que c'est précisément l'une de ces recommandations basées sur ce que l'IA sait de moi qui m'a soumis l'idée de lire ce livre, gentiment offert par ma chère marraine que je remercie au passage !)
Pour l'auteur, le risque est donc réel : l'individu est en passe d'être dissous dans le grand tout unitaire.
Trois citations (encore !) pour illustrer cette thèse, et après je vous laisse tranquilles !
➣ "L'IA, en contrôlant nos comportements et en orientant nos pensées les plus intimes, aurait le potentiel de saboter le soubassement libéral de nos sociétés, faisant voler en éclat la notion même d'individualité. Si un algorithme me connaît mieux que moi-même et me propose des choix plus rationnels que je n'aurais jamais pu faire, si une myriade d'objets connectés préempte ma capacité de décision en m'offrant une existence déterminée et confortable, si je cesse peu à peu d'être l'agent de mes propres actions, pourquoi aurais-je besoin d'un droit de vote ou serais-je soumis à la moindre responsabilité pénale ?".
➣ Autre danger de l'IA omnisciente : brider la créativité et l'esprit critique, c'est à dire forcer la répétition des mêmes modèles en réduisant les aléas, la spontanéité, l'imprévu, qui sont précisément ce qui fait avancer la nature, la société et le savoir. "Un monde scrupuleusement soumis à l'IA serait irrémédiablement entropique, tendant vers une forme de stabilité glacée. Répétition des échanges, immutabilité des métiers, irrévocabilité des amours".
➣ Une dernière pour la route : "Le jour où l'IA pourra deviner et orienter nos pensées intimes, elle aura prouvé que la personnalisation la plus précise s'accompagne d'une désindividuation sans retour : si mes processus émotionnels et intellectuels deviennent de simples variables agrégées avec des millions d'autres données et traitées par des algorithmes anonymes, que reste-t-il du « moi » ? Loin de constituer une entité autonome, capable de jugement et de décision, le sujet devient une simple émanation provisoire de flux qui le dépassent."
On se croirait dans un épisode de Black-Mirror, non ?
Il y aurait encore beaucoup à dire sur ce livre, mais je doute que vous soyez encore avec moi à l'issue de cet interminable billet.
Retenez simplement qu'il s'agit là d'un texte d'une grande richesse, étayé de nombreux exemples, dont la clarté et la simplicité n'empêchent pas la profondeur. Avec une belle érudition doublée d'une écriture très vivante et très accessible,
Gaspard Koenig nous invite à "ouvrir les doubles fonds" et à ne jamais confondre l'intelligence humaine et sa copie contrefaite.
Et si l'IA n'était, comme son nom l'indique pourtant bien, qu'un artifice ?