AccueilMes livresAjouter des livres
Découvrir
LivresAuteursLecteursCritiquesCitationsListesQuizGroupesQuestionsPrix Babelio
EAN : 9782352049807
Éditeur : Les Arènes (07/11/2018)

Note moyenne : 3.81/5 (sur 26 notes)
Résumé :
« Ce livre est un manuel de survie pour le citoyen du XXIe siècle. » Financial Time.
Les données que nous laissons chaque jour sur Internet nourrissent des modèles mathématiques. Éducation, emploi, crédit, vie amoureuse, nos habitudes sont codées. De nombreux algorithmes ont même modélisé nos préjugés ! Ces algorithmes contrôlent de plus en plus d'aspects de notre existence sans que nous le sachions. Les fondations de notre société sont insensiblement modifi... >Voir plus
Acheter ce livre sur

FnacAmazonRakutenCulturaMomox
Critiques, Analyses et Avis (5) Ajouter une critique
CineKino
  02 septembre 2020
Cet essai sur les algorithmes n'a rien d'un ouvrage de mathématiques mais relève plutôt de la mise en garde face à la prolifération des big data et surtout des programmes automatiques qui les exploitent pour déterminer de plus en plus d'aspects cruciaux de notre vie. Sélection à l'université, recherche d'emploi, offres de crédit bancaire, justice, assurances… tous ces domaines – et d'autres – utilisent des algorithmes, ce que l'auteure qualifie d'ADM (Armes de destruction mathématique).
Dans chacun des chapitres, elle illustre par des exemples concrets et documentés - en partant d'un cas traité en détail – les (mauvaises) utilisations qui en sont faites dans un domaine précis et leurs conséquences sur notre vie. Ou en tout cas sur la vie de ceux qui se retrouvent pris dans un cercle vicieux : un habitant d'un quartier pauvre où les taux de criminalité sont plus élevés aura par exemple des assurances plus chères, des crédits bancaires moins intéressants et au final se verra mal noté par de nombreux modèles mathématiques de masse même si son comportement individuel est irréprochable.
Si plusieurs exemples montrent des usages malveillants des big data (comme ces universités privées essayant de dénicher des étudiants sans argent pour leur faire payer une fortune pour des études sans avenir), beaucoup de cas relèvent plutôt de la méconnaissance des données et des interactions entre elles, qui faussent les modèles. Ainsi, sous le couvert souvent de souci d'équité, des programmes déterminent les risques bancaires ou les performances des professeurs, avec des critères rigoureux et scientifiques, mais au final les résultats sont souvent soit absurdes (ces profs passant d'une année sur l'autre d'excellent à nul) soit discriminatoires (sous prétexte d'habiter tel quartier ou d'avoir dans ses relations Facebook des gens ayant eu affaire à la police, une personne peut être classée à risque pour un crédit bancaire).
Les cas présentés sont typiquement américains (notamment les universités déjà citées, ou les démarcheurs pour les élections) et souvent assez impensables en France, où les fichiers de données personnelles sont heureusement mieux encadrés par la loi. Et même si des algorithmes sèment la pagaille dans les inscriptions universitaires, au moins n'est-ce pas dans le but d'extorquer de l'argent selon le profil social et fiscal des gens. C'est le reproche que je ferais à ce livre, d'être écrit par une Américaine sur des cas américains qui ne nous parlent pas forcément et dont on peut minimiser la gravité, alors que des mauvaises utilisations (volontaires ou accidentelles) se produisent en France aussi. Je salue les efforts de l'éditeur et du traducteur pour avoir ajouté des notes explicitant le fonctionnement américain ainsi que quelques mises à jour et comparaisons françaises, mais ça ne suffit pas, il aurait vraiment fallu un livre européen pour être pertinent, alors que seules quelques lignes en conclusion évoquent l'Europe… pour dire justement que c'est très différent. Mais peut-être que ce livre existe !
Toujours est-il que toutes ces réflexions sur ces modèles mathématiques sont très intéressantes. Il y a parfois des répétitions d'un chapitre à l'autre, mais c'est assez parlant pour retenir que, si des algorithmes peuvent parfois être utile pour se simplifier la vie, il est primordial de bien les comprendre et il vaudra toujours mieux laisser les décisions à des humains.
+ Lire la suite
Commenter  J’apprécie          10
urbanbike
  02 avril 2020
Tout le monde évoque le très bon livre de Aurélie Jean mais celui-ci est loin d'être obsolète et pose, via une approche beaucoup plus politique, le problème de l'usage des algorithmes et de leur obscurité.
Je copie colle un extrait que j'ai trouvé d'emblée ultra pertinent et qui devrait vous inviter à jeter un oeil (voire deux !!) dans les pages de ce livre.
« Pourtant, beaucoup d'entreprises s'efforcent par tous les moyens de dissimuler les résultats de leurs modèles, voire le fait même qu'ils existent.
**Elles se justifient souvent en objectant que l'algorithme utilisé relève d'une « recette secrète » vitale pour leur activité. C'est leur propriété intellectuelle et elle doit être défendue, mobilisant au besoin des légions d'avocats et de lobbyistes.**
Dans le cas de géants du Web comme Google, Amazon et Facebook, ces algorithmes sur mesure et ajustés avec précision valent à eux seuls des centaines de milliards de dollars. Les ADM constituent par principe d'impénétrables boîtes noires.
**Il n'en est donc que plus ardu d'offrir une réponse définitive à la seconde question : le modèle agit-il contre l'intérêt du sujet ? En un mot, est-il déloyal ? A-t-il pour effet de nuire ou de détruire des vies ?** »
Bref, vous savez ce qu'il vous reste à faire… lire !
+ Lire la suite
Commenter  J’apprécie          20
Nympha86
  21 juin 2019
Une démonstration claire et pertinente des dérives que peuvent apporter les algorithmes "black box" dans la société. le propos est parfois légèrement partial avec un ton à charge qui gagnerait à être pondéré, mais ce livre reste très instructif.
Commenter  J’apprécie          10
toto
  28 mai 2019
Une succession de banalités.
Je m'attendais à une vision de ce qu'étaient les algorithmes, le "machine learning", leurs forces, leurs faiblesses, leur avenir.
Non ce ne sont que les mêmes exemples ressassés pour dire que cela ne marche pas toujours bien. Heureusement d'ailleurs.
Commenter  J’apprécie          00
MSophieBC
  14 août 2019
Cathy O'Neil est une mathématicienne avec une expérience en finance. Ancienne analyste à Wall Street, elle a étudié et programmé de nombreux outils permettant l'optimisation (de marchés financiers, des choix sociétaux, des êtres humains…). Avec Algorithmes, la bombe à retardement, elle nous livre une analyse personnelle de l'évolution et des conséquences des outils mathématiques de plus en plus nombreux dans notre société. Un livre intéressant, interpellant et sonnant comme une alarme que l'on ne peut omettre d'entendre.
Lien : https://branchesculture.com/..
Commenter  J’apprécie          10


critiques presse (2)
LActualite   09 avril 2019
Avec un ton mordant, Cathy O’Neil fait un plaidoyer brillamment vulgarisé en faveur de l’esprit humain dans toute sa complexité.
Lire la critique sur le site : LActualite
NonFiction   13 décembre 2018
Bien écrit et bien documenté, l’ouvrage est tout de même un peu long et comprend quelques répétitions entre l’introduction, la conclusion et la postface, qui auraient sans doute pu être raccourcies. On pourrait regretter qu’il ne traite d’aucun exemple français ou européen, et ne mentionne quasi aucuns travaux universitaires sur le sujet. Cela laisse en tout cas un vaste champ d’exploration pour des travaux et des livres futurs.
Lire la critique sur le site : NonFiction
Citations et extraits (5) Ajouter une citation
urbanbikeurbanbike   02 avril 2020
La troisième question concerne la capacité ou non d’un modèle à s’étendre de manière exponentielle. Comme le dirait un statisticien : peut-il changer d’échelle ? Ce n’est pas une chicane de mathématicien : si les ADM (à l’origine de simples nuisances localisées) peuvent devenir de véritables tsunamis, capables de définir notre existence et d’en fixer les limites, c’est bien à cause de leur échelle. Comme nous l’observerons par la suite, les ADM qui se développent aujourd’hui dans les secteurs des ressources humaines, de la santé et de la banque, pour ne citer que ceux-là, **sont rapidement en train d’établir des normes généralisées qui exercent une autorité proche de celle de la loi.** Si l’algorithme d’une banque vous attribue par exemple le profil d’un emprunteur à haut risque, le monde entier vous traitera comme un mauvais payeur – même si cela découle d’un horrible malentendu. Et quand ce modèle change d’échelle, à l’instar de celui des scores de crédit, toute votre vie s’en trouve alors affectée – qu’il s’agisse d’obtenir un appartement, un emploi, ou une voiture pour aller de l’un à l’autre.
+ Lire la suite
Commenter  J’apprécie          10
poupoumafiapoupoumafia   04 novembre 2019
Je me demandais à quoi pourrait ressembler l'équivalent de la crise du crédit dans le domaine du Big Data. Au lieu d'un effondrement, j'entrevoyais une dystopie croissante, avec un accroissement des inégalités. Les algorithmes s'assureraient que les gens désignés comme des "ratés" le restent. Une minorité de chanceux acquerrait toujours plus d'emprise sur l'économie des données et amasserait des fortunes scandaleuses tout en se persuadant de l'avoir mérité.
+ Lire la suite
Commenter  J’apprécie          10
poupoumafiapoupoumafia   01 novembre 2019
Les mathématiciens et les statisticiens étudiaient nos désirs, nos déplacements et notre pouvoir d'achat. Ils prédisaient le niveau de confiance que l'on pouvait nous accorder et calculaient notre potentiel en tant qu'étudiants, travailleurs, amants ou criminels.
Commenter  J’apprécie          10
shafanshafan   14 janvier 2021
Les processus reposant sur le Big Data n'inventent pas le futur, ils codifient le passé.
Commenter  J’apprécie          00
xiaomengxiaomeng   04 juin 2019
&&&
Commenter  J’apprécie          00

Videos de Cathy O'Neil (2) Voir plusAjouter une vidéo
Vidéo de Cathy O'Neil
La mathématicienne Cathy O'Neal nous alerte sur les algorithmes
autres livres classés : AlgorithmesVoir plus
Acheter ce livre sur

FnacAmazonRakutenCulturaMomox

Autres livres de Cathy O'Neil (1) Voir plus




Quiz Voir plus

Retrouvez le bon adjectif dans le titre - (5 - essais )

Roland Barthes : "Fragments d'un discours **** "

amoureux
positiviste
philosophique

20 questions
563 lecteurs ont répondu
Thèmes : essai , essai de société , essai philosophique , essai documentCréer un quiz sur ce livre