Sur l'ensemble, un livre stimulant qui pose les bonnes questions ; (je n'ai pas lu homo deus, donc pour moi pas de redondance).
Ci-dessous un choix d'extraits portants sur : l'IA, le libre arbitre, le lavage de cerveau, la propriété des données personnelles, le revenu universel.
L'IA versus le libre arbitre
« Qu'adviendra-t-il si nous laisserons de plus en plus l'IA choisir pour nous ? Pour l'heure nous faisons confiance aux choix [ ] de Netflix et de Google Maps.
[ ]
Imaginez Anna Karénine prenant son smartphone et demander à l'algorithme de Facebook si elle doit rester avec Karénine ou s'enfuir avec le fringant comte Vronski. Ou imaginez votre pièce de
Shakespeare préférée ou toutes les décisions capitales seront prises par l'algorithme. » p 74
« L'inquisition et le KGB cédant place à Google et Baidu, le libre arbitre apparaîtra probablement comme un mythe. » p 66
L'IA et la lutte des classes
La science-fiction imagine « une guerre potentielle entre robots et humains, quand nous devrions plutôt craindre un conflit opposant une élite de surhommes servis par des algorithmes et un immense sous-prolétariat démuni. Quand on songe à l'avenir de l'IA,
Karl Marx reste un meilleur guide que
Steven Spielberg ». page 266
L'IA et la voiture autonome : la voiture égoïste et la voiture altruiste
Imaginez deux enfants imprudents qui traverseraient la rue à la poursuite de leur ballon.
Imaginez maintenant que, sur la voie de gauche, un camion arrive en même temps en sens inverse. L'algorithme, qui aura analysé les trajectoires et les vitesses, estimera que le propriétaire du véhicule (profondément endormi à ce moment-là sur la banquette arrière) aura 70% de chances d'être tué dans la collision. Quelle décision l'IA va-t-elle prendre ?
Si elle a été programmée pour éviter les victimes, elle le fera. Mais si elle a été programmée pour sauver la vie du propriétaire, les deux enfants seront percutés à coup sûr. Ce qui veut dire que, lorsque le constructeur du véhicule autonome concevra le logiciel, les problématiques d'ingénierie vont se doubler de problématiques éthiques. On pourrait même imaginer qu'il y aura deux modèles au choix. le constructeur XY mettra sur le marché deux modèles : la XY égoïste et la XY altruiste. page 77
Media et lavage de cerveau
« Imaginez qu'un milliardaire louche vous propose ce marché :
‘Je vais vous verser 30 Euro par mois et, en échange, vous me laissez vous bourrer le crâne une heure par jour de tous les partis pris politiques et commerciaux de mon choix.‘
Accepteriez-vous le marché ? Peu d'esprits sains le feront.
Le milliardaire véreux vous offre alors un marché légèrement différent :
‘Vous me laissez vous laver le cerveau une heure par jour, et, en échange de ce service, je ne vous demanderai rien'.
Et voici que, soudain, des centaines de millions de gens trouvent la proposition alléchante.» p263
Etre piégé dans une bulle / conditionnement
« Les gens ont peur d'être piégé dans une bulle, mais ils ne se rendent pas compte qu'ils le sont déjà : leur cerveau, lequel est enfermé dans une bulle plus vaste, la société humaine avec sa myriade de fictions. Quand vous sortez de la matrice, vous ne découvrez jamais qu'une matrice plus grande. [ ] quand vous commencez à explorer les multiples façons dont le monde vous manipule, vous finissez par vous rendre compte que votre identité fondamentale est une illusion complexe créée par vos réseaux de neurones. [ ]
Peut-être vivons-nous tous à l'intérieur d'une simulation informatique géante à la Matrix. » P 268
Qui possède les data ?
« Si nous voulons empêcher la concentration de la richesse et du pouvoir entre les mains d'une petite élite, la clé est de réglementer la propriété des data. [ Les GAFAM] accumulent sur nous d'énormes quantités de données qui valent bien plus que n'importe quelles recettes publicitaires. [ ] le nouveau modèle repose sur le transfert de l'autorité des hommes aux algorithmes. [ ] du jour où les algorithmes choisiront et achèteront pour nous, le secteur de la publicité fera faillite. [ ]
Le flux de data allant de votre corps et de votre cerveau aux machines intelligentes via des capteurs biométriques, il deviendra facile aux sociétés et aux organismes publics de vous connaître, de vous manipuler et de prendre les décisions à votre place. [ ]
Si nous voulons empêcher une petite élite de monopoliser ces pouvoirs divins, et éviter la scission de l'humanité en castes biologiques, la question est de savoir qui possède les data. Les données sur mon ADN, mon cerveau et ma vie sont-elles mon bien ou celui de l'Etat, d'une société ou d'un collectif humain ? [ ]
Nous gagnerons à demander à nos [experts] de se pencher sur cette énigme : comment réglementer la propriété des data ? » p 95-98
Revenu universel, compétition sociale
« du jour où les besoins humains fondamentaux seront satisfaits gratuitement pour tout le monde, ils passeront pour acquis ; les compétitions sociales et les luttes politiques acharnées se focaliseront sur les produits de luxe non fondamentaux : voitures chic autonomes, accès aux parcs de réalité virtuelle ou corps améliorés par le génie biologique. [ ] L'écart entre les riches et les pauvres pourrait devenir infranchissable. » p 59