Dominique Cardon

Comme l'ont souligné beaucoup de travaux d'histoire et de sociologie, les objets techniques ne fonctionnent que parce qu'ils opérèrent dans un "milieu associé" qui les rend efficaces et pertinents. Les calculs ne calculent vraiment que dans une société qui a pris des plis spécifiques pour se rendre calculable. Aussi faut-il comprendre comment nos sociétés sécrètent certaines manières de se chiffrer plutôt que d'autres. Que valorisent-elles dans leur façon de compter et de classer ?

Internet pousse les murs tout en enlevant le plancher.

Il est encore temps de dire aux algorithmes que nous ne sommes pas la somme imprécise et incomplète de nos comportements.
(p.103)

« Le comportementalisme radical joue ce rôle à la fois lucide et démoralisant de montrer à des sujets qui pensaient s'être émancipés des déterminations que, en ce qu'ils pensent être des singularités inassignables, ils continuent à être prévisibles, petites souris mécaniques dans les griffes des calculateurs. Vue depuis les algorithmes, la société ne repose plus sur de grands systèmes de déterminations, mais elle est une sorte de micro-physique des comportements et des interactions que des capteurs placés à bas niveau savent décoder. » (p. 69)

[...] les technologies trament notre monde depuis si longtemps qu'il est erroné de séparer les humains de leur environnement sociotechnique. Des premiers outils préhistoriques à l'invention de l'écriture, de la mécanisation de l'imprimerie à la numérisation de l'information, de la création des listes et des tableaux comptables au calcul scientifique, la longue histoire des technologies intellectuelles est au cœur de l'évolution de l'humanité. Il serait naïf de croire qu'elles n'ont pas transformé profondément ce que nous sommes, ce que nous savons, nos manières de penser et les représentations que nous avons de nous-mêmes.

Face à ces grands systèmes techniques qui capturent nos habiletés, il est de plus en plus nécessaire d'apprendre à ne pas désapprendre.
(p.102)

La prédiction est une probabilité qui comporte toujours une marge d'erreur créant des "faux positifs". Si un algorithme était capable de détester un comportement terroriste sur le réseau avec une marge d'erreur de 1%, ce qui constituerait déjà une prouesse, l'algorithme identifieraient 600 000 personnes sur les 60 millions de Français. Si en réalité, il n'y a que 60 terroristes, la surveillance des 599 940 autres semble totalement disproportionnée. Sans doute est il plus raisonnable d'obtenir de bons signaux au moyen de renseignements humains, pour ensuite se mettre à l'écoute des suspects.

A l'heure des big data, il est de moins en moins possible de connaître à l'avance le sens et la nature des calculs qui vont être conduits à partir des données collectées.
(p.79)

Mais ils (les algorithmes) contribuent aussi à assujettir l'internaute à cette route calculée, efficace, automatique, qui s'adapte à nos désirs en se réglant secrètement sur le trafic des autres. Avec la carte, nous avons perdu le paysage. Le chemin que nous suivons est le " meilleur" pour nous.
Mais nous ne savons plus bien identifier ce qu'il représente pa rapport aux autres trajets possibles, aux routes alternatives et peu empruntées, à la manière dont la carte compose un ensemble. Nous allons pas en revenir aux voyages de groupe et à leur guide omniscient. En revanche, nous devons nous méfier du guidage automatique. Nous pouvons le comprendre et soumettre ceux qui le conçoivent à une critique vigilante. Il faut demander aux algorithmes de nous montrer et la route, et le paysage.

L'obligation de loyauté interroge non pas une vaine objectivité ou vérité de la représentation des informations , mais l'alignement, ou le désalignement, entre le service que la plateforme prétend rendre et la réalité de ce qu'elle offre. Que Google privilégie ses propres services dans son classement (alors que ceux-ci ont moins d'"autorité" que d'autres), que Facebook donne une forte visibilité à certains contenus (alors que l'utilisateur n'a pas un fort "engagement" avec eux), qu'Amazone ajoute des livres à promouvoir dans ses recommandations (alors qu'ils ne correspondent pas à des utilisateurs ayant un profil d'achat similaire), et le service rendu par les algorithmes apparaîtra "déloyal". Les algorithmes hiérarchises les informations, et c'est pour cela qu'ils sont utiles et mêmes essentiels. Mais il est indispensable que les services puissent expliquer à l'utilisateur les priorités qui président aux décisions de leurs calculateurs; et qu'on puisse vérifier, en toute indépendance, que des intérêts cachés, des déformations clandestines ou des favoritismes n'altèrent pas le service rendu.

Ce livre ne propose pas de critiquer les algorithmes de l'extérieur, en en faisant les reflets des intérêts de leurs concepteurs, mais de comprendre de l'intérieur la manière dont ils produisent des effets (plus ou moins critiquables) sur nos sociétés.

Il faut souhaiter qu'une analyse critique des algorithmes se développe, afin de maintenir en vie la "longue traîne" des contenus à faible audience, le phénomène le plus radicalement démocratique de l'Internet, qui a depuis longtemps disparu dans l'espace public traditionnel.

Les mesures fixent des règles pour calculer les événements qu'elles enregistrent. Elles leur donne une forme. Twitter a décidé que les mouvements d'opinion devraient être immédiats et simultanés, associant ainsi la culture du direct télévisuel à celle de la viralité sur Internet. Comprendre et critiquer cette culture du "pic" attentionnel, c'est aussi encourager d'autres manières de mesurer et de donner de la visibilité à la circulation des opinions sur la Toile. Le développement d'une éducation et d'une culture partagées des algorithmes devrait nous aider à décoder et interpréter la manière dont ils façonnent nos représentations. A la suite de protestations des mouvements féministes, Amazone a retiré en mai 2015 de l'interface de son site la possibilités de rechercher des jouets " garçons" ou des jouets " filles. Sous la pression des utilisateurs, Facebook a dû revenir sur plusieurs de ses initiatives visant à introduire dans le fil d'actualité des informations qui n'étaient pas associées aux conversations des utilisateurs. C'est en soumettant les modèles à des audits indépendants qu'il est à la fois possible de prendre de la distance à l'égard des verdict des algorithmes et de leur opposer des calculs alternatifs.

Le commun est le projet politique – l'utopie – des mondes numériques. Par commun on entend l'idée que certains biens numériques, notamment ceux qui ont été reproduits, rassemblés ou édités par les communautés du web, doivent être accessibles, partageables et transformables par tous et par quiconque, et que c'est la communauté qui définit elle-même les règles de gestion des bien communs qu'elle fabriquent.

« Les nouveaux systèmes publicitaires sur le web sont des automates fonctionnant sur la base d'un système d'enchères en temps réel (real-time bidding). Pendant que l'internaute est en train de charger la page web qu'il désire consulter, son profil est mis aux enchères par un automate afin que des robots programmés par les annonceurs se disputent le meilleur prix pour placer leur bandeau publicitaire. L'opération dure moins de 100 millisecondes. […] Les informations livrées aux robots des annonceurs sont les traces des navigations antérieures de l'internaute que les cookies ont enregistrées. À la vitesse de l'éclair, les robots des annonceurs vont proposer un prix d'achat en estimant la probabilité que l'internaute clique sur le bandeau publicitaire à partir des données d'activités d'autres internautes. » (p. 49)

« Pour justifier le développement de ces outils prédictifs, les promoteurs des big data ont entrepris de disqualifier la sagesse et la pertinence des jugements humains. Les individus, soutiennent-ils, ne cessent de faire des erreurs d'évaluation. Ils manquent de discernement, font des estimations systématiquement trop optimistes, anticipent mal les effets futurs en préférant toujours le présent, se laissent déborder par leurs émotions, s'influencent mutuellement et ne raisonnent pas de façon probabiliste. […]
Les régularités globales observées sur de grandes masses de traces doivent permettre d'estimer ce que l'utilisateur risque de faire réellement. Les algorithmes prédictifs ne donnent pas de réponse à ce que les gens disent vouloir faire, mais à ce qu'ils font sans vouloir vraiment se le dire. » (p. 34)

Ce terme d'informatique [algorithme] a une signification bien plus large qu'on ne le croit. Comme la recette de cuisine, un algorithme est une série d'instructions permettant d'obtenir un résultat. A très grande vitesse, il opère un ensemble de calculs à partir de gigantesques masses de données (les " big data"). Il hiérarchise l'information, devine ce qui nous intéresse , sélectionne les biens que nous préférons et s'efforce de nous suppléer dans de nombreuses tâches. Nous fabriquons ces calculateurs, mais en retour ils nous construisent.

Plutôt que de dramatiser le conflit entre les humains et les machines; il est plus judicieux de les considérer comme un couple qui ne cesse de rétroagir et de s'influencer mutuellement. La société des calculs réalise un couplage nouveau entre une puissance d'agir de plus en plus forte des individus et des systèmes sociotechniques imposant, eux aussi, des architectures de plus en plus fortes. Il est encore temps de dire aux algorithmes que nous ne sommes pas la somme imprécise et incomplète de nos comportements.

La thèse de ce livre est que, si les logiques de personnalisation s'installent aujourd'hui dans nos vies, c'est parce qu'elles calculent une nouvelle forme du social, la société des comportements, où se recompose la relation entre le centre de la société et des individus de plus en plus autonomes.

Le service de vidéo de Netflix a ainsi créé près de 77 000 micro-genres pour classer les goûts de ses utilisateurs dans une suite de cases à la précision surréaliste : "Drames sentimentaux européens des années 1970 avec paysages et couchers de soleil", "Comédie post-apocalyptique portant sur l'amitié", "Thrillers violents au sujet des chats pour les 8-10 ans", etc.