A quoi rêvent les algorithmes : Nos vies à l'heure des big data

Les mesures fixent des règles pour calculer les événements qu'elles enregistrent. Elles leur donne une forme. Twitter a décidé que les mouvements d'opinion devraient être immédiats et simultanés, associant ainsi la culture du direct télévisuel à celle de la viralité sur Internet. Comprendre et critiquer cette culture du "pic" attentionnel, c'est aussi encourager d'autres manières de mesurer et de donner de la visibilité à la circulation des opinions sur la Toile. Le développement d'une éducation et d'une culture partagées des algorithmes devrait nous aider à décoder et interpréter la manière dont ils façonnent nos représentations. A la suite de protestations des mouvements féministes, Amazone a retiré en mai 2015 de l'interface de son site la possibilités de rechercher des jouets " garçons" ou des jouets " filles. Sous la pression des utilisateurs, Facebook a dû revenir sur plusieurs de ses initiatives visant à introduire dans le fil d'actualité des informations qui n'étaient pas associées aux conversations des utilisateurs. C'est en soumettant les modèles à des audits indépendants qu'il est à la fois possible de prendre de la distance à l'égard des verdict des algorithmes et de leur opposer des calculs alternatifs.

« Les nouveaux systèmes publicitaires sur le web sont des automates fonctionnant sur la base d'un système d'enchères en temps réel (real-time bidding). Pendant que l'internaute est en train de charger la page web qu'il désire consulter, son profil est mis aux enchères par un automate afin que des robots programmés par les annonceurs se disputent le meilleur prix pour placer leur bandeau publicitaire. L'opération dure moins de 100 millisecondes. […] Les informations livrées aux robots des annonceurs sont les traces des navigations antérieures de l'internaute que les cookies ont enregistrées. À la vitesse de l'éclair, les robots des annonceurs vont proposer un prix d'achat en estimant la probabilité que l'internaute clique sur le bandeau publicitaire à partir des données d'activités d'autres internautes. » (p. 49)

« Pour justifier le développement de ces outils prédictifs, les promoteurs des big data ont entrepris de disqualifier la sagesse et la pertinence des jugements humains. Les individus, soutiennent-ils, ne cessent de faire des erreurs d'évaluation. Ils manquent de discernement, font des estimations systématiquement trop optimistes, anticipent mal les effets futurs en préférant toujours le présent, se laissent déborder par leurs émotions, s'influencent mutuellement et ne raisonnent pas de façon probabiliste. […]
Les régularités globales observées sur de grandes masses de traces doivent permettre d'estimer ce que l'utilisateur risque de faire réellement. Les algorithmes prédictifs ne donnent pas de réponse à ce que les gens disent vouloir faire, mais à ce qu'ils font sans vouloir vraiment se le dire. » (p. 34)

Ce terme d'informatique [algorithme] a une signification bien plus large qu'on ne le croit. Comme la recette de cuisine, un algorithme est une série d'instructions permettant d'obtenir un résultat. A très grande vitesse, il opère un ensemble de calculs à partir de gigantesques masses de données (les " big data"). Il hiérarchise l'information, devine ce qui nous intéresse , sélectionne les biens que nous préférons et s'efforce de nous suppléer dans de nombreuses tâches. Nous fabriquons ces calculateurs, mais en retour ils nous construisent.

Plutôt que de dramatiser le conflit entre les humains et les machines; il est plus judicieux de les considérer comme un couple qui ne cesse de rétroagir et de s'influencer mutuellement. La société des calculs réalise un couplage nouveau entre une puissance d'agir de plus en plus forte des individus et des systèmes sociotechniques imposant, eux aussi, des architectures de plus en plus fortes. Il est encore temps de dire aux algorithmes que nous ne sommes pas la somme imprécise et incomplète de nos comportements.

La thèse de ce livre est que, si les logiques de personnalisation s'installent aujourd'hui dans nos vies, c'est parce qu'elles calculent une nouvelle forme du social, la société des comportements, où se recompose la relation entre le centre de la société et des individus de plus en plus autonomes.

Le service de vidéo de Netflix a ainsi créé près de 77 000 micro-genres pour classer les goûts de ses utilisateurs dans une suite de cases à la précision surréaliste : "Drames sentimentaux européens des années 1970 avec paysages et couchers de soleil", "Comédie post-apocalyptique portant sur l'amitié", "Thrillers violents au sujet des chats pour les 8-10 ans", etc.

Comme un sparadrap collé au doigt, le retargeting est aujourd'hui une des formes dominantes de la publicité numérique.

Plutôt que de dramatiser le conflit entre les humains et les machines, il est plus judicieux de les considérer comme un couple qui ne cesse de rétroagir et de s'influencer mutuellement. La société des calculs réalise un couplage nouveau entre une puissance d'agir de plus en plus forte des individus et des systèmes sociotechniques imposant, eux aussi, des architectures de plus en plus fortes. Il est encore temps de dire aux algorithmes que nous ne sommes pas la somme imprécise et incomplète de nos comportements.

Sans doute le rêve ultime des nouveaux calculs est-il d'installer un environnement technique invisible permettant partout et pour tout de nous orienter sans nous contraindre. Amatrice de science-fiction, la critique des algorithmes dramatise à l'envi des risques totalitaires d'une rationalisation des existences. La diversité des informations, l'exposition à des connaissances multiples, la variété des choix ont connu une explosion si massive avec Internet qu'il est toujours surprenant d'entendre certains soutenir que nous serions enfermés dans la prison des algorithmes et des plateformes. Non sans contradiction, ce sont souvent les mêmes qui s'indignent qu'Internet permette aux idées extrémistes, aux thèses conspirationnistes et aux prêches fondamentalistes de rencontrer un public sur le réseau. Cette crainte révèle plutôt les contradictions que rencontre l'expansion du projet d'autonomie et de liberté individuelle face à la multiplication des opportunités de réalisation de soi.