Cathy O`Neil

L'ouvrage est sous-titré Médecine, santé, technologies : ce qui va changer dans nos vies. Rappelons que l'intelligence artificielle a pour objectif d'apprendre à une machine à réfléchir, alors qu'un banal ordinateur n'est programmé que pour réaliser des actions particulières. Dans le second chapitre " L'engagement de l'État français " on évoque un rapport rédigé par le mathématicien et candidat malheureux à la mairie de Paris, à savoir Cédric Villani. Ses grandes lignes en furent présentées au Collège de France en mars 2018 par Emmanuel Macron. « Outre les domaines de la santé et de la médecine prédictive, dans lesquels on trouve quelques start-up prometteuses (Qynapse, Cardiologs, Therapixel, etc…), le plan cible trois autres filières en raison de leur potentiel technologique et des atouts industriels de la France : la mobilité autour de la voiture autonome, l'environnement et la défense, trois secteurs dans lesquels la France compte des grands groupes leaders mondiaux » (page 26).



Dans le troisième chapitre intitulé " L'étoffe des neurones : quand l'IA rencontre la neuroscience ", on relève : « Un réseau de neurones artificiels n'a rien à voir avec un cerveau, qu'il soit humain on non. Les "neurones" du premier sont, au niveau fondamental, des fonctions mathématiques, alors que les neurones biologiques sont des cellules complexes, des transmetteurs de signaux bioélectriques, dont on n'a pas encore percé tous les secrets. Certains chercheurs rechignent même à parler d'intelligence artificielle et préfèrent des termes aux consonances plus techniques comme "apprentissage statistique". » (page 31)



Le quatrième chapitre s'intéresse aux usages divers et importants des robots au Japon, revenant en particulier à l'achat massif du chien robot Aibo développé et commercialisé par Sony depuis 1999 ; avec ses différentes versions, on approche du nombre de 200000 exemplaires vendus. Les quatre premiers chapitres sont dans un ensemble intitulé "L'intelligence artificielle aujourd'hui : état des lieux", cette partie est divisé en deux fractions l'une rédigé par divers auteurs et l'autre reprend trois textes de spécialistes des sujets traités là.



Les trois autres parties sont bâties sur le même modèle : deux à quatre chapitres de la plume de journalistes tel Christophe Alix chef du service économie au journal Libération et deux à quatre textes d'experts ou d'artistes ou écrivains comme Alain Damasio. Ces trois derniers ensembles s'intitulent : Santé connectée : les innovations dans le domaine médical, Transhumanisme : le fantasme de l'homme augmenté, Liberté, conscience, vie privée : faut-il craindre l'IA. Dans le domaine médical, les utilisations de l'intelligence artificielle permettent entre autre d'une part de décrypter les mammographies, observer les rétines, scruter les cerveaux et comparer les symptômes et par ailleurs l'accès à un e-dossier médical.



C'est l'historien des sciences Yuval Noah Harari qui se charge de la conclusion. Notons que le contenu de cet ouvrage fut copublié en 2018, par Libération et Radio-France sous le titre L'intelligence artificielle au coeur de l'humain.

Cet essai sur les algorithmes n'a rien d'un ouvrage de mathématiques mais relève plutôt de la mise en garde face à la prolifération des big data et surtout des programmes automatiques qui les exploitent pour déterminer de plus en plus d'aspects cruciaux de notre vie. Sélection à l'université, recherche d'emploi, offres de crédit bancaire, justice, assurances… tous ces domaines – et d'autres – utilisent des algorithmes, ce que l'auteure qualifie d'ADM (Armes de destruction mathématique).



Dans chacun des chapitres, elle illustre par des exemples concrets et documentés - en partant d'un cas traité en détail – les (mauvaises) utilisations qui en sont faites dans un domaine précis et leurs conséquences sur notre vie. Ou en tout cas sur la vie de ceux qui se retrouvent pris dans un cercle vicieux : un habitant d'un quartier pauvre où les taux de criminalité sont plus élevés aura par exemple des assurances plus chères, des crédits bancaires moins intéressants et au final se verra mal noté par de nombreux modèles mathématiques de masse même si son comportement individuel est irréprochable.



Si plusieurs exemples montrent des usages malveillants des big data (comme ces universités privées essayant de dénicher des étudiants sans argent pour leur faire payer une fortune pour des études sans avenir), beaucoup de cas relèvent plutôt de la méconnaissance des données et des interactions entre elles, qui faussent les modèles. Ainsi, sous le couvert souvent de souci d'équité, des programmes déterminent les risques bancaires ou les performances des professeurs, avec des critères rigoureux et scientifiques, mais au final les résultats sont souvent soit absurdes (ces profs passant d'une année sur l'autre d'excellent à nul) soit discriminatoires (sous prétexte d'habiter tel quartier ou d'avoir dans ses relations Facebook des gens ayant eu affaire à la police, une personne peut être classée à risque pour un crédit bancaire).



Les cas présentés sont typiquement américains (notamment les universités déjà citées, ou les démarcheurs pour les élections) et souvent assez impensables en France, où les fichiers de données personnelles sont heureusement mieux encadrés par la loi. Et même si des algorithmes sèment la pagaille dans les inscriptions universitaires, au moins n'est-ce pas dans le but d'extorquer de l'argent selon le profil social et fiscal des gens. C'est le reproche que je ferais à ce livre, d'être écrit par une Américaine sur des cas américains qui ne nous parlent pas forcément et dont on peut minimiser la gravité, alors que des mauvaises utilisations (volontaires ou accidentelles) se produisent en France aussi. Je salue les efforts de l'éditeur et du traducteur pour avoir ajouté des notes explicitant le fonctionnement américain ainsi que quelques mises à jour et comparaisons françaises, mais ça ne suffit pas, il aurait vraiment fallu un livre européen pour être pertinent, alors que seules quelques lignes en conclusion évoquent l'Europe… pour dire justement que c'est très différent. Mais peut-être que ce livre existe !



Toujours est-il que toutes ces réflexions sur ces modèles mathématiques sont très intéressantes. Il y a parfois des répétitions d'un chapitre à l'autre, mais c'est assez parlant pour retenir que, si des algorithmes peuvent parfois être utile pour se simplifier la vie, il est primordial de bien les comprendre et il vaudra toujours mieux laisser les décisions à des humains.

Tout le monde évoque le très bon livre de Aurélie Jean mais celui-ci est loin d’être obsolète et pose, via une approche beaucoup plus politique, le problème de l’usage des algorithmes et de leur obscurité.



Je copie colle un extrait que j’ai trouvé d’emblée ultra pertinent et qui devrait vous inviter à jeter un œil (voire deux !!) dans les pages de ce livre.



« Pourtant, beaucoup d’entreprises s’efforcent par tous les moyens de dissimuler les résultats de leurs modèles, voire le fait même qu’ils existent.

**Elles se justifient souvent en objectant que l’algorithme utilisé relève d’une « recette secrète » vitale pour leur activité. C’est leur propriété intellectuelle et elle doit être défendue, mobilisant au besoin des légions d’avocats et de lobbyistes.**

Dans le cas de géants du Web comme Google, Amazon et Facebook, ces algorithmes sur mesure et ajustés avec précision valent à eux seuls des centaines de milliards de dollars. Les ADM constituent par principe d’impénétrables boîtes noires.

**Il n’en est donc que plus ardu d’offrir une réponse définitive à la seconde question : le modèle agit-il contre l’intérêt du sujet ? En un mot, est-il déloyal ? A-t-il pour effet de nuire ou de détruire des vies ?** »



Bref, vous savez ce qu’il vous reste à faire… lire !

Cathy O’Neil est une mathématicienne avec une expérience en finance. Ancienne analyste à Wall Street, elle a étudié et programmé de nombreux outils permettant l’optimisation (de marchés financiers, des choix sociétaux, des êtres humains…). Avec Algorithmes, la bombe à retardement, elle nous livre une analyse personnelle de l’évolution et des conséquences des outils mathématiques de plus en plus nombreux dans notre société. Un livre intéressant, interpellant et sonnant comme une alarme que l’on ne peut omettre d’entendre.
Lien : https://branchesculture.com/..

Une démonstration claire et pertinente des dérives que peuvent apporter les algorithmes "black box" dans la société. Le propos est parfois légèrement partial avec un ton à charge qui gagnerait à être pondéré, mais ce livre reste très instructif.

Un livre sur l'omniprésence des data et leur rôle dans l'agencement du monde contemporain. Il est presque déjà un peu daté aujourd'hui. La balance entre critique constructive et techno-scepticisme est dur à maintenir. On lit néanmoins avec plaisir cet essai très anglosaxon dans le ton et la construction.

Ou comment un livre assez mal fait se révèle assez ... passionnant.



Mal fait car il ne fait guère d'état des lieux, d'effort de définition, de hiérarchisation, ... Il se contente de picorer avec une sur-représentation de la santé. Et il aborde largement le transhumanisme avant même d'avoir traité "complétement" son cœur de sujet.



Passionnant car il montre sur ce sujet combien il est difficile (impossible) de se faire un début d'opinion (sur un domaine que l'on ne connait pas) sans confronter les points de vue. Et les différences d’approches sont stupéfiantes.



A titre personnel j'en retire la conviction que ceux qui savent vraiment de quoi ils parlent (en l’occurrence ici ceux qui fabriquent) ne sont pas ceux qui posent les bonnes questions.

Pour illustrer : dans l'effort pour définir ce qu'il y a d'intelligent et comparer humains et machines , Stanley Durreleman distingue puissance statistique et facultés cognitives alors que Cathy O'Neil fait la distinction par l'utilisation de l'intelligence par l'homme dans un cas à dans l'autre cas l'utilisation contrainte inféodée à des intérêts (privés ..).



Ce livre est très accessible aux béotiens de mon genre.

J'ai été conforté dans mon intuition que l'intelligence artificielle confère de super-pouvoirs mais suis resté très frustré quand à la réflexion sur les contre-pouvoirs à instituer.

Une succession de banalités.

Je m'attendais à une vision de ce qu'étaient les algorithmes, le "machine learning", leurs forces, leurs faiblesses, leur avenir.

Non ce ne sont que les mêmes exemples ressassés pour dire que cela ne marche pas toujours bien. Heureusement d'ailleurs.

Avec un ton mordant, Cathy O’Neil fait un plaidoyer brillamment vulgarisé en faveur de l’esprit humain dans toute sa complexité.
Lien : https://lactualite.com/cultu..

Bien écrit et bien documenté, l’ouvrage est tout de même un peu long et comprend quelques répétitions entre l’introduction, la conclusion et la postface, qui auraient sans doute pu être raccourcies. On pourrait regretter qu’il ne traite d’aucun exemple français ou européen, et ne mentionne quasi aucuns travaux universitaires sur le sujet. Cela laisse en tout cas un vaste champ d’exploration pour des travaux et des livres futurs.
Lien : http://www.nonfiction.fr/art..