Deux étudiants en agronomie, angoissés comme toute leur génération par la crise écologique, refusent le défaitisme et se mettent en tête de changer le monde. A la fois cynique et grinçant, drôle et angoissant, miroir fidèle de notre époque et de ses contradictions, le roman de Gaspard Koenig est aussi une histoire d'amitié, de fidélité et de solidarité.
Prix Interallié 2023
Coup de Coeur Web TV Culture !
L'émission intégrale sur https://www.web-tv-culture.com
Gaspard Koenig/5
34 notes
Résumé :
Quel avenir pour l'individu et ses libertés à l'ère de l'intelligence artificielle ? Pour répondre à cette question urgente, Gaspard Koenig a entrepris un tour du monde de San Francisco à Pékin, d'Oxford à Tel Aviv et de Washington à Copenhague. Il a rencontré plus de 120 professeurs, entrepreneurs, intellectuels, politiques, économistes, artistes, et même un magicien. Au fil de ce périple émerge une véritable philosophie de l'intelligence artificielle (IA). Celle-c... >Voir plus
étiquettes
Ajouter des étiquettes
Que lire après La fin de l'individuVoir plus
Critiques, Analyses et Avis (8)
Voir plus
Ajouter une critique
Réseaux sociaux, marketing et publicité, secteur des transports et secteur bancaire, commerce et santé, arts et sciences en tous genres : elle est absolument partout !
Elle sait écrire, compter, traduire, composer des symphonies et inventer des histoires, reconnaître des voix et des visages, effectuer des prédictions toujours plus précises, elle excelle aux échecs ou au jeu de go, elle est capable de mille autres miracles encore : elle, bien sûr, c'est l'IA.
Très récemment encore, l'Intelligence Artificielle n'excitait pourtant que les auteurs de science-fiction et nourrissait principalement des scénarios de films à grand spectacle. On jouait à se faire peur, à inventer des failles dans la matrice ou à imaginer des robots tueurs venus du futur pour asservir l'humanité. À peine quelques années plus tard la voilà, déjà fermement implantée dans nos vies et transformant le monde à vitesse grand V, pour le meilleur et pour le pire.
Chacun à leur façon, Isaac Asimov, Philip K. Dick et autre James Cameron avaient vu juste, la réalité risque bien de dépasser la fiction. Après les auteurs d'anticipation, c'est à présent au tour du philosophe Gaspard Koenig de s'emparer du sujet, avec toute la profondeur d'esprit et la qualité d'analyse que requiert sa profession.
Et le résultat est remarquable ! Quel travail ! Quel essai passionnant, édifiant ... et terrifiant aussi, parfois !
Plusieurs mois durant, l'auteur a sillonné la planète de San Francisco à Pékin, d'Oxford à Tel Aviv et de Washington à Copenhague, à la rencontre des plus grands spécialistes de l'IA (universitaires, informaticiens, chercheurs, politologues, startupers et entrepreneurs, etc...) Ensemble, ils dressent un panorama complet et captivant de ce "monde de la data" dans lequel nous sommes déjà entrés et Gaspard Koenig, en plus de développer brillamment le fruit de ses propres réflexions, synthétise avec clarté les différents points de vue de ses interlocuteurs.
Il y a ceux qui ne jurent que par l'infaillibilité des algorithmes, ceux qui parlent "processus", "optimisation", "rationalisation", ceux pour qui l'IA est LA solution à toutes les problématiques de notre temps et qui appellent de leurs voeux l'avènement de l'Homo-Connecticus.
En face il y a ceux qui freinent des quatre fers, les technophobes sourds et aveugles aux potentialités quasi-infinies de l'IA, cette arme de destruction massive aujourd'hui invisible et familière qui finira forcément par tomber entre de mauvaises mains. ("Stephen Hawking considérait l'IA comme le pire événement de l'histoire de notre civilisation, et multipliait les interviews et articles pour dénoncer l'imminence du péril. On ne compte plus les tribunes aux signatures prestigieuses, de Bill Gates au prix Nobel de physique Frank Wilczek, mettant en garde contre une IA devenue progressivement incontrôlable, ou contre l'éradication de l'humanité "par inadvertance"...")
Et enfin il y a ceux qui s'interrogent. Ceux-là sentent qu'une révolution inédite est à l'oeuvre, qu'elle ouvre des horizons prodigieux mais qu'elle nécessite des garde-fous solides, sous peine de voir les fondements de nos sociétés, ainsi que l'ensemble de nos valeurs et de nos systèmes de pensées voler en éclat à très brève échéance.
Car qu'est-ce que l'IA, sinon une rupture technologique sans précédent, qui influe sans aucun contrôle et souvent à bas bruit sur nos existences ?
N'est-elle pas en train de rebattre de manière irréversible les cartes de nos économies et d'ébranler en profondeur nos structures politiques ?
Sait-on vraiment ce qui se cache derrière ce "label devenu sésame pour vendre n'importe quelle idée à des investisseurs dépassés par la rapidité des mutations qu'il engendre" ?
Quelle est précisément la nature de cette "machine pensante" à l'opacité inquiétante, toujours plus avide de nouvelles données à ingurgiter pour alimenter ses algorithmes et ses réseaux de neurones devenus si complexes que plus personne n'est en mesure de les "cartographier" ni d'en certifier la validité (phénomène de la « boîte noire » : on peut juger des données qui entrent dans la boîte et des résultats qui en sortent, mais sans savoir ce qui se passe à l'intérieur) ?
Doit-on vraiment donner les pleins pouvoirs à cette hydre vorace, la laisser influencer nos choix au nom d'un "bien commun" dont elle serait la seule à même d'établir la pertinence, se goinfrant sans fin de ces fameux "cookies" ou s'abreuvant de statistiques et de probabilités pour muter et s'améliorer de manière autonome (apprentissage automatique autrement nommé "machine learning") ?
Quand nous lui aurons confié tous nos secrets, nos habitudes de consommation, nos coordonnées bancaires ou GPS, nos goûts dans tous les domaines et l'intégralité de nos carnets d'adresses, quand nous lui aurons délégué des tâches toujours plus vitales, quand nous ne serons plus que paramètres et variables noyés dans le grand tourbillon numérique, sera-t-on toujours libres ?
Voilà les interrogations essentielles au coeur de l'ouvrage, qui nous questionne sur la place de l'individu dans le monde de l'IA, sur notre (prétendu) "libre arbitre" et la fin annoncée du concept de "vie privée".
Et qu'il est bon de réfléchir un peu avec Gaspard Koenig, d'identifier les différences entre "calculer" et "comprendre", d'apprendre à distinguer les véritables progrès promis par ces technologies fabuleuses des mirages et des fausses bonnes idées en préparation dans la Silicon Valley ("Ici on est occupé à make the world better. On ne se pose pas de question, on résout des problèmes. Les tribulations philosophiques, luxe d'un esprit oisif, ne sont pas à l'ordre du jour") ou ailleurs.
Bien sûr la vie ne peut se résumer à un processus purement cognitif, et la somme en apparence infinie des savoirs accumulés par l'IA ne doit pas occulter les notions d'éthique et de morale, ni la place centrale de la conscience et des sentiments ("loin d'entraver notre processus intellectuel de délibération et de décision, ils forment « la musique de fond du vivant » et nous confèrent la faculté de juger : sans eux, pas de plaisir ni de douleur, pas de coopération sociale, pas d'expérience du bien et du mal, pas de culture. [...] Les sentiments sont seuls à même de produire du sens.")
Ainsi il nous faut apprendre à nous méfier du nudge (ensemble des outils de « suggestion » supposés nous aider à faire les bons choix, pour notre propre intérêt ou celui de la société), à préserver autant que faire se peut notre libre arbitre et à ne pas céder systématiquement à l'influence des notifications et des recommandations concoctées pour nous dans les arcanes du cloud (... et c'est là que je réalise avec horreur que c'est précisément l'une de ces recommandations basées sur ce que l'IA sait de moi qui m'a soumis l'idée de lire ce livre, gentiment offert par ma chère marraine que je remercie au passage !)
Pour l'auteur, le risque est donc réel : l'individu est en passe d'être dissous dans le grand tout unitaire.
Trois citations (encore !) pour illustrer cette thèse, et après je vous laisse tranquilles !
➣ "L'IA, en contrôlant nos comportements et en orientant nos pensées les plus intimes, aurait le potentiel de saboter le soubassement libéral de nos sociétés, faisant voler en éclat la notion même d'individualité. Si un algorithme me connaît mieux que moi-même et me propose des choix plus rationnels que je n'aurais jamais pu faire, si une myriade d'objets connectés préempte ma capacité de décision en m'offrant une existence déterminée et confortable, si je cesse peu à peu d'être l'agent de mes propres actions, pourquoi aurais-je besoin d'un droit de vote ou serais-je soumis à la moindre responsabilité pénale ?".
➣ Autre danger de l'IA omnisciente : brider la créativité et l'esprit critique, c'est à dire forcer la répétition des mêmes modèles en réduisant les aléas, la spontanéité, l'imprévu, qui sont précisément ce qui fait avancer la nature, la société et le savoir. "Un monde scrupuleusement soumis à l'IA serait irrémédiablement entropique, tendant vers une forme de stabilité glacée. Répétition des échanges, immutabilité des métiers, irrévocabilité des amours".
➣ Une dernière pour la route : "Le jour où l'IA pourra deviner et orienter nos pensées intimes, elle aura prouvé que la personnalisation la plus précise s'accompagne d'une désindividuation sans retour : si mes processus émotionnels et intellectuels deviennent de simples variables agrégées avec des millions d'autres données et traitées par des algorithmes anonymes, que reste-t-il du « moi » ? Loin de constituer une entité autonome, capable de jugement et de décision, le sujet devient une simple émanation provisoire de flux qui le dépassent."
On se croirait dans un épisode de Black-Mirror, non ?
Il y aurait encore beaucoup à dire sur ce livre, mais je doute que vous soyez encore avec moi à l'issue de cet interminable billet.
Retenez simplement qu'il s'agit là d'un texte d'une grande richesse, étayé de nombreux exemples, dont la clarté et la simplicité n'empêchent pas la profondeur. Avec une belle érudition doublée d'une écriture très vivante et très accessible, Gaspard Koenig nous invite à "ouvrir les doubles fonds" et à ne jamais confondre l'intelligence humaine et sa copie contrefaite.
Et si l'IA n'était, comme son nom l'indique pourtant bien, qu'un artifice ?
Elle sait écrire, compter, traduire, composer des symphonies et inventer des histoires, reconnaître des voix et des visages, effectuer des prédictions toujours plus précises, elle excelle aux échecs ou au jeu de go, elle est capable de mille autres miracles encore : elle, bien sûr, c'est l'IA.
Très récemment encore, l'Intelligence Artificielle n'excitait pourtant que les auteurs de science-fiction et nourrissait principalement des scénarios de films à grand spectacle. On jouait à se faire peur, à inventer des failles dans la matrice ou à imaginer des robots tueurs venus du futur pour asservir l'humanité. À peine quelques années plus tard la voilà, déjà fermement implantée dans nos vies et transformant le monde à vitesse grand V, pour le meilleur et pour le pire.
Chacun à leur façon, Isaac Asimov, Philip K. Dick et autre James Cameron avaient vu juste, la réalité risque bien de dépasser la fiction. Après les auteurs d'anticipation, c'est à présent au tour du philosophe Gaspard Koenig de s'emparer du sujet, avec toute la profondeur d'esprit et la qualité d'analyse que requiert sa profession.
Et le résultat est remarquable ! Quel travail ! Quel essai passionnant, édifiant ... et terrifiant aussi, parfois !
Plusieurs mois durant, l'auteur a sillonné la planète de San Francisco à Pékin, d'Oxford à Tel Aviv et de Washington à Copenhague, à la rencontre des plus grands spécialistes de l'IA (universitaires, informaticiens, chercheurs, politologues, startupers et entrepreneurs, etc...) Ensemble, ils dressent un panorama complet et captivant de ce "monde de la data" dans lequel nous sommes déjà entrés et Gaspard Koenig, en plus de développer brillamment le fruit de ses propres réflexions, synthétise avec clarté les différents points de vue de ses interlocuteurs.
Il y a ceux qui ne jurent que par l'infaillibilité des algorithmes, ceux qui parlent "processus", "optimisation", "rationalisation", ceux pour qui l'IA est LA solution à toutes les problématiques de notre temps et qui appellent de leurs voeux l'avènement de l'Homo-Connecticus.
En face il y a ceux qui freinent des quatre fers, les technophobes sourds et aveugles aux potentialités quasi-infinies de l'IA, cette arme de destruction massive aujourd'hui invisible et familière qui finira forcément par tomber entre de mauvaises mains. ("Stephen Hawking considérait l'IA comme le pire événement de l'histoire de notre civilisation, et multipliait les interviews et articles pour dénoncer l'imminence du péril. On ne compte plus les tribunes aux signatures prestigieuses, de Bill Gates au prix Nobel de physique Frank Wilczek, mettant en garde contre une IA devenue progressivement incontrôlable, ou contre l'éradication de l'humanité "par inadvertance"...")
Et enfin il y a ceux qui s'interrogent. Ceux-là sentent qu'une révolution inédite est à l'oeuvre, qu'elle ouvre des horizons prodigieux mais qu'elle nécessite des garde-fous solides, sous peine de voir les fondements de nos sociétés, ainsi que l'ensemble de nos valeurs et de nos systèmes de pensées voler en éclat à très brève échéance.
Car qu'est-ce que l'IA, sinon une rupture technologique sans précédent, qui influe sans aucun contrôle et souvent à bas bruit sur nos existences ?
N'est-elle pas en train de rebattre de manière irréversible les cartes de nos économies et d'ébranler en profondeur nos structures politiques ?
Sait-on vraiment ce qui se cache derrière ce "label devenu sésame pour vendre n'importe quelle idée à des investisseurs dépassés par la rapidité des mutations qu'il engendre" ?
Quelle est précisément la nature de cette "machine pensante" à l'opacité inquiétante, toujours plus avide de nouvelles données à ingurgiter pour alimenter ses algorithmes et ses réseaux de neurones devenus si complexes que plus personne n'est en mesure de les "cartographier" ni d'en certifier la validité (phénomène de la « boîte noire » : on peut juger des données qui entrent dans la boîte et des résultats qui en sortent, mais sans savoir ce qui se passe à l'intérieur) ?
Doit-on vraiment donner les pleins pouvoirs à cette hydre vorace, la laisser influencer nos choix au nom d'un "bien commun" dont elle serait la seule à même d'établir la pertinence, se goinfrant sans fin de ces fameux "cookies" ou s'abreuvant de statistiques et de probabilités pour muter et s'améliorer de manière autonome (apprentissage automatique autrement nommé "machine learning") ?
Quand nous lui aurons confié tous nos secrets, nos habitudes de consommation, nos coordonnées bancaires ou GPS, nos goûts dans tous les domaines et l'intégralité de nos carnets d'adresses, quand nous lui aurons délégué des tâches toujours plus vitales, quand nous ne serons plus que paramètres et variables noyés dans le grand tourbillon numérique, sera-t-on toujours libres ?
Voilà les interrogations essentielles au coeur de l'ouvrage, qui nous questionne sur la place de l'individu dans le monde de l'IA, sur notre (prétendu) "libre arbitre" et la fin annoncée du concept de "vie privée".
Et qu'il est bon de réfléchir un peu avec Gaspard Koenig, d'identifier les différences entre "calculer" et "comprendre", d'apprendre à distinguer les véritables progrès promis par ces technologies fabuleuses des mirages et des fausses bonnes idées en préparation dans la Silicon Valley ("Ici on est occupé à make the world better. On ne se pose pas de question, on résout des problèmes. Les tribulations philosophiques, luxe d'un esprit oisif, ne sont pas à l'ordre du jour") ou ailleurs.
Bien sûr la vie ne peut se résumer à un processus purement cognitif, et la somme en apparence infinie des savoirs accumulés par l'IA ne doit pas occulter les notions d'éthique et de morale, ni la place centrale de la conscience et des sentiments ("loin d'entraver notre processus intellectuel de délibération et de décision, ils forment « la musique de fond du vivant » et nous confèrent la faculté de juger : sans eux, pas de plaisir ni de douleur, pas de coopération sociale, pas d'expérience du bien et du mal, pas de culture. [...] Les sentiments sont seuls à même de produire du sens.")
Ainsi il nous faut apprendre à nous méfier du nudge (ensemble des outils de « suggestion » supposés nous aider à faire les bons choix, pour notre propre intérêt ou celui de la société), à préserver autant que faire se peut notre libre arbitre et à ne pas céder systématiquement à l'influence des notifications et des recommandations concoctées pour nous dans les arcanes du cloud (... et c'est là que je réalise avec horreur que c'est précisément l'une de ces recommandations basées sur ce que l'IA sait de moi qui m'a soumis l'idée de lire ce livre, gentiment offert par ma chère marraine que je remercie au passage !)
Pour l'auteur, le risque est donc réel : l'individu est en passe d'être dissous dans le grand tout unitaire.
Trois citations (encore !) pour illustrer cette thèse, et après je vous laisse tranquilles !
➣ "L'IA, en contrôlant nos comportements et en orientant nos pensées les plus intimes, aurait le potentiel de saboter le soubassement libéral de nos sociétés, faisant voler en éclat la notion même d'individualité. Si un algorithme me connaît mieux que moi-même et me propose des choix plus rationnels que je n'aurais jamais pu faire, si une myriade d'objets connectés préempte ma capacité de décision en m'offrant une existence déterminée et confortable, si je cesse peu à peu d'être l'agent de mes propres actions, pourquoi aurais-je besoin d'un droit de vote ou serais-je soumis à la moindre responsabilité pénale ?".
➣ Autre danger de l'IA omnisciente : brider la créativité et l'esprit critique, c'est à dire forcer la répétition des mêmes modèles en réduisant les aléas, la spontanéité, l'imprévu, qui sont précisément ce qui fait avancer la nature, la société et le savoir. "Un monde scrupuleusement soumis à l'IA serait irrémédiablement entropique, tendant vers une forme de stabilité glacée. Répétition des échanges, immutabilité des métiers, irrévocabilité des amours".
➣ Une dernière pour la route : "Le jour où l'IA pourra deviner et orienter nos pensées intimes, elle aura prouvé que la personnalisation la plus précise s'accompagne d'une désindividuation sans retour : si mes processus émotionnels et intellectuels deviennent de simples variables agrégées avec des millions d'autres données et traitées par des algorithmes anonymes, que reste-t-il du « moi » ? Loin de constituer une entité autonome, capable de jugement et de décision, le sujet devient une simple émanation provisoire de flux qui le dépassent."
On se croirait dans un épisode de Black-Mirror, non ?
Il y aurait encore beaucoup à dire sur ce livre, mais je doute que vous soyez encore avec moi à l'issue de cet interminable billet.
Retenez simplement qu'il s'agit là d'un texte d'une grande richesse, étayé de nombreux exemples, dont la clarté et la simplicité n'empêchent pas la profondeur. Avec une belle érudition doublée d'une écriture très vivante et très accessible, Gaspard Koenig nous invite à "ouvrir les doubles fonds" et à ne jamais confondre l'intelligence humaine et sa copie contrefaite.
Et si l'IA n'était, comme son nom l'indique pourtant bien, qu'un artifice ?
Un excellent travail d'enquête et d'analyse pour ce sujet d'actualité et de préoccupation: l'IA; rigoureux et intéressant (les entreprises et les têtes pensantes).
Qui ne nécessite pas de connaissances informatiques ou techniques préalables.
Les exemples sont didactiques et illustrent les potentialités. Une réflexion sur les les risques.
Un Tocqueville des temps modernes (en Amérique ET en Asie). Un parcours dense, que l'on savoure étape par étape....
Qui ne nécessite pas de connaissances informatiques ou techniques préalables.
Les exemples sont didactiques et illustrent les potentialités. Une réflexion sur les les risques.
Un Tocqueville des temps modernes (en Amérique ET en Asie). Un parcours dense, que l'on savoure étape par étape....
Avant de commenter ce livre, cet extrait de – de l'autre côté de la machine- de Aurélie Jean et dont la préface est de Gaspard Koenig :
« Les philosophes réfléchissent sur un monde qui leur échappe, alors que les scientifiques construisent un monde sur lequel ils ne réfléchissent pas « .
Pour écrire son livre, Gaspard Koenig a fait le tour du monde : la Silicon Valley, Pékin, New-York, Washington, Tel Aviv, Copenhague. Il s'est entretenu avec plus de 120 acteurs directs ou indirects de l'intelligence artificielle, des informaticiens, des chercheurs, des chefs d'entreprises, des hommes politiques, des artistes. Il a rencontré notamment Aurélie Jean, Dominique Cardon, Yann lecun, Harari, Kai Fu Lee , Cédric Villani , Nick bostrom dont je présenterai les ouvrages plus tard. Il a approché des chercheurs de Cambridge, Stanford, MIT, Oxford, Grenoble ainsi que des employés de grandes sociétés telles que Airbus, Microsoft, IBM, Uber, Google, Alibaba, Facebook, Tencent. Pour mieux cerner son sujet, il convoque également de nombreux philosophes : Alexis de Tocqueville, Sartre, Leibniz, Fernand Braudel, Aristote, Pascal, Descartes, Spinoza et bien d'autres encore, qu'ils soient de l'antiquité ou contemporains.
C'est vous dire que ce philosophe essaie de réfléchir sur un monde qui ne lui échappe pas tout à fait.
En six chapitres, tout en faisant le tour des notions et concepts classiques de l'intelligence artificielle, Gaspard Koenig analyse tour à tour :
• le caractère illusoire de l'intelligence artificielle.
• le mythe de la super intelligence.
• Les algorithmes et le libre arbitre.
• Les effets divers de l'intelligence artificielle.
• La géo politique de l'intelligence artificielle en Chine, en Europe et aux Etats Unis.
• Comment reprendre le contrôle.
Le livre pose des questions cruciales et tente de savoir ce qu'il adviendra de l'art, des sciences, du droit, de l'économie, des moeurs, de la politique et de la philosophie, avec nos libertés « menacées d'obsolescence programmée ».
L'individu restera-t-il libre de ses choix et responsable de ses actions ?
Le big data et l'intelligence artificielle risquent-ils de niveler les différences et uniformiser les sociétés ?
Les réponses restent partagées entre « l'espoir du progrès et l'inquiétude de l'avenir. »
Kourde Yacine. 31 mars 2020.
Lien : https://blogdeyacine.wordpre..
« Les philosophes réfléchissent sur un monde qui leur échappe, alors que les scientifiques construisent un monde sur lequel ils ne réfléchissent pas « .
Pour écrire son livre, Gaspard Koenig a fait le tour du monde : la Silicon Valley, Pékin, New-York, Washington, Tel Aviv, Copenhague. Il s'est entretenu avec plus de 120 acteurs directs ou indirects de l'intelligence artificielle, des informaticiens, des chercheurs, des chefs d'entreprises, des hommes politiques, des artistes. Il a rencontré notamment Aurélie Jean, Dominique Cardon, Yann lecun, Harari, Kai Fu Lee , Cédric Villani , Nick bostrom dont je présenterai les ouvrages plus tard. Il a approché des chercheurs de Cambridge, Stanford, MIT, Oxford, Grenoble ainsi que des employés de grandes sociétés telles que Airbus, Microsoft, IBM, Uber, Google, Alibaba, Facebook, Tencent. Pour mieux cerner son sujet, il convoque également de nombreux philosophes : Alexis de Tocqueville, Sartre, Leibniz, Fernand Braudel, Aristote, Pascal, Descartes, Spinoza et bien d'autres encore, qu'ils soient de l'antiquité ou contemporains.
C'est vous dire que ce philosophe essaie de réfléchir sur un monde qui ne lui échappe pas tout à fait.
En six chapitres, tout en faisant le tour des notions et concepts classiques de l'intelligence artificielle, Gaspard Koenig analyse tour à tour :
• le caractère illusoire de l'intelligence artificielle.
• le mythe de la super intelligence.
• Les algorithmes et le libre arbitre.
• Les effets divers de l'intelligence artificielle.
• La géo politique de l'intelligence artificielle en Chine, en Europe et aux Etats Unis.
• Comment reprendre le contrôle.
Le livre pose des questions cruciales et tente de savoir ce qu'il adviendra de l'art, des sciences, du droit, de l'économie, des moeurs, de la politique et de la philosophie, avec nos libertés « menacées d'obsolescence programmée ».
L'individu restera-t-il libre de ses choix et responsable de ses actions ?
Le big data et l'intelligence artificielle risquent-ils de niveler les différences et uniformiser les sociétés ?
Les réponses restent partagées entre « l'espoir du progrès et l'inquiétude de l'avenir. »
Kourde Yacine. 31 mars 2020.
Lien : https://blogdeyacine.wordpre..
Un livre à soumettre à toutes nos consciences, qui jour après jour, perdent de leur substance au profit du dirigisme insidieux (de moins en moins), voire insolent (de plus en plus) de nos Gafa et autres manipulateurs de nos vies quotidiennes. Brillant exposé, qui permet de mesurer les tenants et aboutissants de l'IA et nous pousse à réfléchir à notre devenir en tant qu'individu, doté ou non de la possibilité d'arbitrer nos décisions, dans un modèle de société ou la vision collective, défini par un acteur privé ou un pouvoir politique est en passe de tout emporter. Livre écrit par un philosophe, donc particulièrement exigeant en terme de lecture, mais avec un degré appréciable de vulgarisation. C'est probablement plus l'enjeu des différentes thématiques qui m'a imposé une lecture posée. Je m'en servirai par la suite de livre de référence tant les sources, réparties au travers du monde acteur de cette IA, sont riches.
Excellent livre qui passe en revue à peu près tout ce qu'il faut savoir, comprendre, penser sur l'IA.
La diversité des sources ainsi que la qualité des commentaires "philosophiques" m'ont permis de me faire une idée précise sur ce sujet hautement actuel qui nous touchera tous à un moment où à un autre tellement le numérique et Internet sont entrés dans nos vies.
Le bien être que ces outils nous apportent ne doit pas nous empêcher d'user de notre "arbitre libre"...
La diversité des sources ainsi que la qualité des commentaires "philosophiques" m'ont permis de me faire une idée précise sur ce sujet hautement actuel qui nous touchera tous à un moment où à un autre tellement le numérique et Internet sont entrés dans nos vies.
Le bien être que ces outils nous apportent ne doit pas nous empêcher d'user de notre "arbitre libre"...
Citations et extraits (26)
Voir plus
Ajouter une citation
On croit toujours que les addicts, ce sont les autres. En rentrant à mon hôtel, je me disais : pas moi, quand même. [...] Moi, avec mon désir de contradiction, je n'obéirai pas aux messages doucereux conçus par l'IA. Moi, avec mon esprit critique, je vaux mieux que de grossiers émoticônes. Moi, je suis autonome.
Jusqu'à ce que je connaisse ma propre épiphanie. Tout a commencé par la lecture du dernier livre de Jaron Lanier, acheté par hasard dans une librairie de San Francisco. Jaron Lanier, geek libertaire aux dreadlocks légendaires, est ma référence sur les sujets technologiques. Icône de la contre-culture et en même temps chercheur chez Microsoft, il est idéalement placé pour critiquer de l'intérieur l'évolution d'un monde numérique qu'il a contribué à créer. Il m'avait déjà persuadé, dans son précédent ouvrage, que la rémunération des données personnelles était une nécessité conomique et morale pour échapper à la domination des grandes plateformes. Ses « dix arguments pour quitter les réseaux sociaux immédiatement », court et puissant pamphlet, ont été une révélation similaire. Lanier dénonce la logique de l'« engagement » inscrite dans les algorithmes des réseaux sociaux. Leur business model repose sur l'accumulation de données. Pour extraire de la donnée, il faut générer de l'activité. Pour générer de l'activité, il faut créer une addiction. Pour créer une addiction, il faut jouer sur nos instincts les plus primaires : récompense (« likes »), conflit (« tweet clashes »), compétition (« nombre de followers »). L'abêtissement du débat public, l'hystérie partisane, la dictature de l'émotion, le retour de la morale publique et la désinformation de masse sont des conséquences directes du titillement permanent que les réseaux sociaux exercent sur nos circuits neuronaux. Trump n'est pas un président qui twitte, mais un twitto élu président par la logique même du retweet. Les esprits les plus fins s'abîment à proférer des jugements définitifs en 280 signes. La palette des sentiments humains se résume au smiley et à l'insulte, les deux faces d'une même régression infantile. Les réseaux sociaux, tels qu'ils sont conçus aujourd'hui, minent nos démocraties. Nous devenons comme l'écrit Lanier, des zombies. La solution est si simple : se déconnecter.
J'étais convaincu théoriquement. Mais je n'allais quand même pas abandonner mes 20 000 followers sur Twitter, laborieusement fidélisés au fil des années, avec lesquels je communiquais quotidiennement. Il s'agissait pour moi d'un véritable outil de travail pour diffuser mes idées, partager mes articles, annoncer mes publications. Comment changer l'opinion publique si l'on n'est pas présent là où elle se forme ? C'est ce que j'expliquai à Jaron lors de notre déjeuner.
Il a suffi d'un regard. Mordant dans son quatrième bagel, Jaron a poliment gardé le silence. Combien de fois n'avait-il pas entendu des justifications semblables ? Tous les collabos ont de bonnes raisons.
Cela devenait une question d'honneur, ou du moins d'amour-propre. J'ai donc rassemblé mon courage et, en Californie, j'ai supprimé définitivement de mes écrans mes comptes Facebook et Twitter, décidé à ne plus jamais y revenir. C'est là que j'ai moi-même senti les effets de l'addiction, en particulier s'agissant de Twitter que j'utilisais tous les jours, voire toutes les heures, voire toutes les minutes, bref à chaque moment libre. Quand je dînais en famille, les notifications pouvaient sonner à tout moment. Quand je travaillais sur mon ordinateur, le compte restait ouvert en arrière-plan; un message me détournait immédiatement de mon travail. J'étais devenu, sans m'en rendre compte, accroc au nombre de likes ou de retweets, incapable de vivre sans prendre à intervalles de plus en plus rapprochés ma dose d'amour et de haine. Twitter me maintenait dans un état artificiel de surexcitation. Ayant appris mes goûts et mes dégoûts, l'IA me proposait au moment opportun les posts qui allaient me faire réagir. Alors même que je me targuais de promouvoir la liberté, j'étais comme un rat de laboratoire, réagissant de manière parfaitement normée aux signaux qu'on m'envoyait, le tout pour enrichir d'obscurs fonds de capital risque. N'était-ce pas absurde ?
Jusqu'à ce que je connaisse ma propre épiphanie. Tout a commencé par la lecture du dernier livre de Jaron Lanier, acheté par hasard dans une librairie de San Francisco. Jaron Lanier, geek libertaire aux dreadlocks légendaires, est ma référence sur les sujets technologiques. Icône de la contre-culture et en même temps chercheur chez Microsoft, il est idéalement placé pour critiquer de l'intérieur l'évolution d'un monde numérique qu'il a contribué à créer. Il m'avait déjà persuadé, dans son précédent ouvrage, que la rémunération des données personnelles était une nécessité conomique et morale pour échapper à la domination des grandes plateformes. Ses « dix arguments pour quitter les réseaux sociaux immédiatement », court et puissant pamphlet, ont été une révélation similaire. Lanier dénonce la logique de l'« engagement » inscrite dans les algorithmes des réseaux sociaux. Leur business model repose sur l'accumulation de données. Pour extraire de la donnée, il faut générer de l'activité. Pour générer de l'activité, il faut créer une addiction. Pour créer une addiction, il faut jouer sur nos instincts les plus primaires : récompense (« likes »), conflit (« tweet clashes »), compétition (« nombre de followers »). L'abêtissement du débat public, l'hystérie partisane, la dictature de l'émotion, le retour de la morale publique et la désinformation de masse sont des conséquences directes du titillement permanent que les réseaux sociaux exercent sur nos circuits neuronaux. Trump n'est pas un président qui twitte, mais un twitto élu président par la logique même du retweet. Les esprits les plus fins s'abîment à proférer des jugements définitifs en 280 signes. La palette des sentiments humains se résume au smiley et à l'insulte, les deux faces d'une même régression infantile. Les réseaux sociaux, tels qu'ils sont conçus aujourd'hui, minent nos démocraties. Nous devenons comme l'écrit Lanier, des zombies. La solution est si simple : se déconnecter.
J'étais convaincu théoriquement. Mais je n'allais quand même pas abandonner mes 20 000 followers sur Twitter, laborieusement fidélisés au fil des années, avec lesquels je communiquais quotidiennement. Il s'agissait pour moi d'un véritable outil de travail pour diffuser mes idées, partager mes articles, annoncer mes publications. Comment changer l'opinion publique si l'on n'est pas présent là où elle se forme ? C'est ce que j'expliquai à Jaron lors de notre déjeuner.
Il a suffi d'un regard. Mordant dans son quatrième bagel, Jaron a poliment gardé le silence. Combien de fois n'avait-il pas entendu des justifications semblables ? Tous les collabos ont de bonnes raisons.
Cela devenait une question d'honneur, ou du moins d'amour-propre. J'ai donc rassemblé mon courage et, en Californie, j'ai supprimé définitivement de mes écrans mes comptes Facebook et Twitter, décidé à ne plus jamais y revenir. C'est là que j'ai moi-même senti les effets de l'addiction, en particulier s'agissant de Twitter que j'utilisais tous les jours, voire toutes les heures, voire toutes les minutes, bref à chaque moment libre. Quand je dînais en famille, les notifications pouvaient sonner à tout moment. Quand je travaillais sur mon ordinateur, le compte restait ouvert en arrière-plan; un message me détournait immédiatement de mon travail. J'étais devenu, sans m'en rendre compte, accroc au nombre de likes ou de retweets, incapable de vivre sans prendre à intervalles de plus en plus rapprochés ma dose d'amour et de haine. Twitter me maintenait dans un état artificiel de surexcitation. Ayant appris mes goûts et mes dégoûts, l'IA me proposait au moment opportun les posts qui allaient me faire réagir. Alors même que je me targuais de promouvoir la liberté, j'étais comme un rat de laboratoire, réagissant de manière parfaitement normée aux signaux qu'on m'envoyait, le tout pour enrichir d'obscurs fonds de capital risque. N'était-ce pas absurde ?
Il faut donc se méfier de notre pulsion naturelle d'anthropomorphisation de l'IA. [...] Entamer une relation affective avec un robot ne représente pas l'avant-garde du progrès, mais au contraire une terrible régression pour notre civilisation. Il suffit de visiter le musée des Arts premiers à Paris pour constater combien les sociétés primitives s'ingéniaient à attribuer une âme, un pouvoir et des sentiments aux objets inanimés (le fameux mana des Polynésiens). On en retrouve les traces dans l'imaginaire médiéval à travers l'idée d'une nature signifiante, largement analysée par Foucault. Il faudra attendre l'essor de la science expérimentale pour libérer les choses de notre ombre portée et constituer un domaine proprement extérieur à l'homme. [...]
Le XXIeme siècle va-t-il retomber dans l'adoration de puces de silicium ? Allons-nous ressusciter les esprits animaux pour des machines que nous avons conçues et fabriquées nous-mêmes ? La maison connectée ressemblera-t-elle à une forêt touffue pleine de spectres et de mystères ? Il serait paradoxal que les progrès de la technique nous fassent perdre l'esprit scientifique.
Cette exigence de rationalité, définie par le recours à l'expérimentation, ne saurait nous priver du sel de l'imagination. [...]. Mais il faut rigoureusement dissocier les deux registres de pensée et d'action. Nulle métaphore ne pourrait se substituer à un raisonnement, et inversement. D'un point de vue purement scientifique, l'IA ne pense pas, l'IA ne souffre pas, l'IA n'aime pas. Cette honnêteté intellectuelle est essentielle à une époque où trop de figures du débat public jouent à se faire peur, et à nous faire peur, avec des rêveries de machine consciente [...]. Si un robot nous offre de trouver l'amour ou de gérer un deuil, tant mieux ; mais à condition de ne pas en faire une entité digne d'amour et de deuil.
Comme le résume la chercheuse chevronnée Leslie Kaelbling, déjà croisée au cours de ces pages, l'anthropomorphisation est une "facilité cognitive". Il est plus facile de s'adresser à une IA en la dotant d'une existence propre. Mais c'est également une faute épistemologique, qu'il serait risqué de laisser envahir nos représentations courantes.
Voilà pourquoi il ne faut surtout pas être poli avec les robots ni avec les objets connectés qui commencent à nous entourer. L'hiver dernier, je me suis trouvé en famille dans un appartement prêté par des amis. Au bout de quelques jours, Alexa, l'assistant vocal mis au point par Amazon, s'est déclenché. Je ne sais comment, nous avions réveillé le génie. Mes enfants se sont amusés à lui demander toutes sortes de tâches : jouer de la musique, annoncer la météo, donner une recette de cuisine. En s'adressant à Alexa, ils utilisaient les formules de politesse dont leur mère et moi nous efforçons de leur inculquer l'usage : « Alexa, peux-tu s'il te plaît nous dire l'heure ? » Je leur ai demandé pourquoi. Dit-on « s'il te plaît » à une machine à laver, une voiture ou à un logiciel de traitement de texte ? Alexa n'est ni plus ni moins que cela. Aussi pour la première fois ai-je demandé à mes enfants, à leur grand étonnement, d'être impolis.
Il faut considérer les robots pour ce qu'ils sont afin de ne pas traiter les humains pour ce qu'ils ne sont pas : évitons de faire de la politesse un réflexe automatique, standardisé et répétitif, alors que toute sa valeur vient de sa sincérité. « Tu ne le penses pas vraiment », s'entend-on parfois répondre après des excuses trop machinales. Non seulement un robot ne mérite pas de politesse, mais il faut éviter que la politesse ne se robotise.
Il ne s'agit pas de traiter Alexa en esclave : un esclave est un être humain à qui l'on refuse toute faculté d'autodétermination, alors qu'Alexa est un être artificiel que nous avons déterminé nous-mêmes, et dont les capacités d'apprentissage restent liées aux algorithmes qui le gouvernent. Il s'agit de différencier très clairement, pour des raisons morales essentielles, un sujet qui, étant une fin en soi, mérite le respect, et un objet purement utilitaire. Les robots ne sont ni des amis ni des ennemis, ni des anges ni des démons. Ce sont des instruments. C'est au prix de cette clarification que nous pourrons cohabiter sereinement avec eux.
Le XXIeme siècle va-t-il retomber dans l'adoration de puces de silicium ? Allons-nous ressusciter les esprits animaux pour des machines que nous avons conçues et fabriquées nous-mêmes ? La maison connectée ressemblera-t-elle à une forêt touffue pleine de spectres et de mystères ? Il serait paradoxal que les progrès de la technique nous fassent perdre l'esprit scientifique.
Cette exigence de rationalité, définie par le recours à l'expérimentation, ne saurait nous priver du sel de l'imagination. [...]. Mais il faut rigoureusement dissocier les deux registres de pensée et d'action. Nulle métaphore ne pourrait se substituer à un raisonnement, et inversement. D'un point de vue purement scientifique, l'IA ne pense pas, l'IA ne souffre pas, l'IA n'aime pas. Cette honnêteté intellectuelle est essentielle à une époque où trop de figures du débat public jouent à se faire peur, et à nous faire peur, avec des rêveries de machine consciente [...]. Si un robot nous offre de trouver l'amour ou de gérer un deuil, tant mieux ; mais à condition de ne pas en faire une entité digne d'amour et de deuil.
Comme le résume la chercheuse chevronnée Leslie Kaelbling, déjà croisée au cours de ces pages, l'anthropomorphisation est une "facilité cognitive". Il est plus facile de s'adresser à une IA en la dotant d'une existence propre. Mais c'est également une faute épistemologique, qu'il serait risqué de laisser envahir nos représentations courantes.
Voilà pourquoi il ne faut surtout pas être poli avec les robots ni avec les objets connectés qui commencent à nous entourer. L'hiver dernier, je me suis trouvé en famille dans un appartement prêté par des amis. Au bout de quelques jours, Alexa, l'assistant vocal mis au point par Amazon, s'est déclenché. Je ne sais comment, nous avions réveillé le génie. Mes enfants se sont amusés à lui demander toutes sortes de tâches : jouer de la musique, annoncer la météo, donner une recette de cuisine. En s'adressant à Alexa, ils utilisaient les formules de politesse dont leur mère et moi nous efforçons de leur inculquer l'usage : « Alexa, peux-tu s'il te plaît nous dire l'heure ? » Je leur ai demandé pourquoi. Dit-on « s'il te plaît » à une machine à laver, une voiture ou à un logiciel de traitement de texte ? Alexa n'est ni plus ni moins que cela. Aussi pour la première fois ai-je demandé à mes enfants, à leur grand étonnement, d'être impolis.
Il faut considérer les robots pour ce qu'ils sont afin de ne pas traiter les humains pour ce qu'ils ne sont pas : évitons de faire de la politesse un réflexe automatique, standardisé et répétitif, alors que toute sa valeur vient de sa sincérité. « Tu ne le penses pas vraiment », s'entend-on parfois répondre après des excuses trop machinales. Non seulement un robot ne mérite pas de politesse, mais il faut éviter que la politesse ne se robotise.
Il ne s'agit pas de traiter Alexa en esclave : un esclave est un être humain à qui l'on refuse toute faculté d'autodétermination, alors qu'Alexa est un être artificiel que nous avons déterminé nous-mêmes, et dont les capacités d'apprentissage restent liées aux algorithmes qui le gouvernent. Il s'agit de différencier très clairement, pour des raisons morales essentielles, un sujet qui, étant une fin en soi, mérite le respect, et un objet purement utilitaire. Les robots ne sont ni des amis ni des ennemis, ni des anges ni des démons. Ce sont des instruments. C'est au prix de cette clarification que nous pourrons cohabiter sereinement avec eux.
[ l'auteur sort d'un copieux repas en compagnie d'une amie. Tous deux ont longuement débattu autour de l'IA et son incompatibilité avec la philosophie des Lumières ]
Et c'est empli d'une mélancolie tranquille, d'un pessimisme repu, que je m'engouffrai sans crier gare dans une longue jérémiade sur l'avenir de l'humanité, à la plus grande joie de Kathy qui trouvait tout cela "so french" et qui me relançait en me taquinant. Je vous propose de reproduire ici ce monologue plaintif, sans doute excessif, mais qui vous fera peut-être sentir dans quel désespoir la fin des Lumières pourrait nous plonger.
«... Nous aurons donc vécu deux, trois siècles en imaginant que l'individu avait des droits, que ses choix lui appartenaient. En croyant être raisonnables, nous avons été fous. L'esprit dont nous nous vantions, la liberté dont nous jouissions, la civilité que nous entretenions, l'art que nous invoquions n'ont jamais été que l'apanage d'une élite. Pourquoi certains avaient-ils le droit d'être des individus, des personnalités pleines et entières, et pas les autres ? L'IA va mettre fin à hypocrisie. Elle va araser nos différences, nos caprices, nos singularités. Nous allons redevenir une société bien réglée, une tribu homogène, une fourmilière laborieuse où chacun s'affaire au bonheur de tous et où tous contribuent au bonheur de chacun.
«... L'officier dit : Ne raisonnez pas, exécutez ! Le percepteur: Ne raisonnez pas, payez ! Le prêtre : Ne raisonnez pas, croyez ! Voilà comment Kant décrivait les âges sombres de soumission et d'ignorance, que les Lumières devaient dissiper en donnant à chacun le courage de se servir de son propre entendement. "Sapere aude !" Ose penser ! Voilà qui augurait d'un avenir meilleur. Sauf qu'aujourd'hui à nouveau le psychologue dit : Ne raisonnez pas, vous vous trompez ! Le neuroscientifique : Ne raisonnez pas, vous vous illusionnez ! L'économiste : Ne raisonnez pas, vous vous ruinez ! Et finalement l'informaticien : Ne raisonnez pas, laissez-moi faire. Tous ont d'excellents arguments. C'est d'ailleurs le cœur du paradoxe : la machine a ses raisons que la raison ne connaît plus.
«... Nous sommes en train d'inventer une forme raffinée et supérieure de servitude volontaire. Du temps de La Boétie, on était enchaîné au tyran : mais soyez résolu à ne plus servir, et vous voilà libre. Du temps de Tocqueville, on se soumettait paresseuse à un pouvoir immense le tutélaire, celui de l'État : mais le goût de l'indépendance suffisait à nous sortir de notre torpeur. Même dans le temps dystopique du "Meilleur des mondes", où l'on se laisserait guider par le principe de jouissance, il existerait encore un gouvernement central auquel certains héros hors norme oseraient demander des comptes. Mais du temps de I'IA, nous ne sommes plus assujettis qu'à nous-mêmes, à nos opinions, à nos goûts, à nos comportements et à nos amours, inlassablement répétés, imperceptiblement modifiés, immodérément magnifiés. En acceptant cookies et conditions d'utilisation, en partageant une infinité de données personnelles, nous fournissons de nous-mêmes les fers qui nous entravent. Nous sommes devenus nos propres despotes. Qui voudra, en s'affranchissant de lui-même, prendre le risque de l'altérité ?
«... Que vont devenir les fous, les génies, les errants, les clochards célestes, tous ceux qui faisaient le sel de l'humanité ? Ils seront pris à leur tour dans l'orbite de l'utilité. Au début, ils renâcleront. Certains feront marche arrière. Mais comment et surtout pourquoi résister ? D'une main lasse, ils pousseront le premier tourniquet. Et ils trouveront à leur tour le chemin, si simple et si commode, si logique au fond."
Je regardai Kathy : elle était écroulée de rire.
Et c'est empli d'une mélancolie tranquille, d'un pessimisme repu, que je m'engouffrai sans crier gare dans une longue jérémiade sur l'avenir de l'humanité, à la plus grande joie de Kathy qui trouvait tout cela "so french" et qui me relançait en me taquinant. Je vous propose de reproduire ici ce monologue plaintif, sans doute excessif, mais qui vous fera peut-être sentir dans quel désespoir la fin des Lumières pourrait nous plonger.
«... Nous aurons donc vécu deux, trois siècles en imaginant que l'individu avait des droits, que ses choix lui appartenaient. En croyant être raisonnables, nous avons été fous. L'esprit dont nous nous vantions, la liberté dont nous jouissions, la civilité que nous entretenions, l'art que nous invoquions n'ont jamais été que l'apanage d'une élite. Pourquoi certains avaient-ils le droit d'être des individus, des personnalités pleines et entières, et pas les autres ? L'IA va mettre fin à hypocrisie. Elle va araser nos différences, nos caprices, nos singularités. Nous allons redevenir une société bien réglée, une tribu homogène, une fourmilière laborieuse où chacun s'affaire au bonheur de tous et où tous contribuent au bonheur de chacun.
«... L'officier dit : Ne raisonnez pas, exécutez ! Le percepteur: Ne raisonnez pas, payez ! Le prêtre : Ne raisonnez pas, croyez ! Voilà comment Kant décrivait les âges sombres de soumission et d'ignorance, que les Lumières devaient dissiper en donnant à chacun le courage de se servir de son propre entendement. "Sapere aude !" Ose penser ! Voilà qui augurait d'un avenir meilleur. Sauf qu'aujourd'hui à nouveau le psychologue dit : Ne raisonnez pas, vous vous trompez ! Le neuroscientifique : Ne raisonnez pas, vous vous illusionnez ! L'économiste : Ne raisonnez pas, vous vous ruinez ! Et finalement l'informaticien : Ne raisonnez pas, laissez-moi faire. Tous ont d'excellents arguments. C'est d'ailleurs le cœur du paradoxe : la machine a ses raisons que la raison ne connaît plus.
«... Nous sommes en train d'inventer une forme raffinée et supérieure de servitude volontaire. Du temps de La Boétie, on était enchaîné au tyran : mais soyez résolu à ne plus servir, et vous voilà libre. Du temps de Tocqueville, on se soumettait paresseuse à un pouvoir immense le tutélaire, celui de l'État : mais le goût de l'indépendance suffisait à nous sortir de notre torpeur. Même dans le temps dystopique du "Meilleur des mondes", où l'on se laisserait guider par le principe de jouissance, il existerait encore un gouvernement central auquel certains héros hors norme oseraient demander des comptes. Mais du temps de I'IA, nous ne sommes plus assujettis qu'à nous-mêmes, à nos opinions, à nos goûts, à nos comportements et à nos amours, inlassablement répétés, imperceptiblement modifiés, immodérément magnifiés. En acceptant cookies et conditions d'utilisation, en partageant une infinité de données personnelles, nous fournissons de nous-mêmes les fers qui nous entravent. Nous sommes devenus nos propres despotes. Qui voudra, en s'affranchissant de lui-même, prendre le risque de l'altérité ?
«... Que vont devenir les fous, les génies, les errants, les clochards célestes, tous ceux qui faisaient le sel de l'humanité ? Ils seront pris à leur tour dans l'orbite de l'utilité. Au début, ils renâcleront. Certains feront marche arrière. Mais comment et surtout pourquoi résister ? D'une main lasse, ils pousseront le premier tourniquet. Et ils trouveront à leur tour le chemin, si simple et si commode, si logique au fond."
Je regardai Kathy : elle était écroulée de rire.
De même, le site de rencontre Meetic propose aujourd'hui le chatbot Lara pour permettre à ses clients d'exprimer leurs préférences amoureuses en toute confiance et sans passer par des formulaires en ligne: aujourd'hui connectée sur Google Home, Lara peut vous mettre en contact avec "une petite brune piquante" ou "un homme passionné", puis en discuter avec vous. Lara est programmée pour apprendre et s'améliorer au fil de ses conversations, de manière à devenir une véritable confidente davantage qu'une entremetteuse. Ce n'est pas une fantaisie de geek: plus d'un million de clients utilisent aujourd'hui les services de Lara. Le but est bien, selon l'un des dirigeants de Meetic, de "créer de l'empathie".
[...] dans une société automatisée, où les citoyens sont de plus en plus pris en charge dans leurs choix par des robots, ne vont-ils pas simplement se retirer du processus démocratique, laissant le terrain libre aux autocrates ? [...] L'addiction au bien-être ne va-t-elle pas engendrer une indifférence définitive ? C'était déjà l'inquiétude de Tocqueville : dans une société individualiste où le goût des jouissances matérielles éloigne les citoyens de l'intérêt public, les décisions collectives pourraient être confiées avec insouciance au premier qui voudrait bien s'en charger.
[...]
Les citoyens ne se retirent pas du processus démocratique par paresse ou inconscience, mais parce qu'ils ont le sentiment de pouvoir satisfaire leurs volontés par d'autres moyens. Comme si l'IA et les entreprises qui la diffusent leur apportaient suffisamment de valeur d'utilité pour se dispenser de décision collective. Si mon bien-être est assuré de manière optimale par une myriade d'apps et d'objets connectés, à quoi sert de voter pour un représentant ? Si Facebook décide de ma liberté d'expression, pourquoi élire un Congrès pour discuter du Premier Amendement ? Si le ballet bien réglé des véhicules autonomes répond à nos besoins, faut-il encore des transports collectifs ? Parce que l'IA est à la fois personnalisée et collectiviste, parce qu'elle prend soin de moi comme être unique tout en assurant le bon fonctionnement du groupe, elle tend à restreindre la sphère de la délibération en commun, jusqu'au moment où l'on pourra se passer intégralement de politiques publiques.
[...]
Les citoyens ne se retirent pas du processus démocratique par paresse ou inconscience, mais parce qu'ils ont le sentiment de pouvoir satisfaire leurs volontés par d'autres moyens. Comme si l'IA et les entreprises qui la diffusent leur apportaient suffisamment de valeur d'utilité pour se dispenser de décision collective. Si mon bien-être est assuré de manière optimale par une myriade d'apps et d'objets connectés, à quoi sert de voter pour un représentant ? Si Facebook décide de ma liberté d'expression, pourquoi élire un Congrès pour discuter du Premier Amendement ? Si le ballet bien réglé des véhicules autonomes répond à nos besoins, faut-il encore des transports collectifs ? Parce que l'IA est à la fois personnalisée et collectiviste, parce qu'elle prend soin de moi comme être unique tout en assurant le bon fonctionnement du groupe, elle tend à restreindre la sphère de la délibération en commun, jusqu'au moment où l'on pourra se passer intégralement de politiques publiques.
Videos de Gaspard Koenig (56)
Voir plusAjouter une vidéo
autres livres classés : intelligence artificielleVoir plus
Les plus populaires : Non-fiction
Voir plus
Les Dernières Actualités
Voir plus
Autres livres de Gaspard Koenig (18)
Voir plus
Quiz
Voir plus
Philo pour tous
Jostein Gaarder fut au hit-parade des écrits philosophiques rendus accessibles au plus grand nombre avec un livre paru en 1995. Lequel?
Les Mystères de la patience
Le Monde de Sophie
Maya
Vita brevis
10 questions
440 lecteurs ont répondu
Thèmes :
spiritualité
, philosophieCréer un quiz sur ce livre440 lecteurs ont répondu