Les sociétés du profilage : Évaluer, optimiser, prédire

La question de la donnée – comment est-elle définie, captée, structurée, stockée et exploitée ? – est une des clés de voûte pour comprendre le monde moderne. Entre le fait que le sujet évolue de mois en mois, et qu'il soulève toujours de nouveaux enjeux sociaux, politiques et éthiques, il faut sans cesse y revenir et l'aborder pas des prismes différents. Après « la société disciplinaire » conceptualisée par Michel Foucault, et « la société de contrôle » conceptualisée par Gilles Deleuze et Antonio Negri, Philippe Huneman décrypte dans cet essai le passage vers « les sociétés du profilage ». Son essai se présente à la fois comme une synthèse limpide – et naturellement édifiante – de notre rapport à l'évaluation, l'optimisation et la prédiction sur la base des données consolidées, mais aussi comme une réflexion philosophique, dénuée de partis pris, sur le devenir de l'homme face à son double numérique.

« Il n'y a pas d'existence optimale ; il n'y a que des profits optimaux », écrit Philippe Huneman. Une maxime qui touche tous les pans de notre vie, notamment notre rapport aux oeuvres. La logique d'optimisation des recommandations, fondée sur un profilage toujours plus précis, modifie les perceptions des spectateurs et des spectatrices, non seulement en les enfermant dans une bulle, mais en limitant l'expérience artistique qui se retrouve partiellement vidée de la probabilité d'être déçu, et donc de l'enjeu de savoir si on va aimer ou non telle oeuvre. Chacun vit sa meilleure expérience, alors que la vie se construit en grande partie sur nos expériences ratées, et ce qu'elles nous apprennent de nous-mêmes.

Les sociétés du profilage démontre que plus un service est dystopique, plus il a de chance de devenir leader de son marché, entraînant notre adhésion complète, vu que nous sommes captifs des systèmes qui nous connaissent le mieux, et nous font les meilleures préconisations. Très « up to date » – GPT-3 et Dall-E sont de la partie (il manque ChatGPT, mais sa présence ne changerait rien à l'analyse – l'essai explore, en long et en large, le sujet de la standardisation, des biais psychologiques et des incitations de la machine pour nous faire prendre des décisions. Enfin Philippe Huneman aborde un paradoxe essentiel dans nos sociétés modernes : la volonté de garantir l'anonymat – qui par nature gomme les différences et les spécificités – tout en développant une vision inclusive du monde.

Bref, un essentiel, à lire dans la foulée de L'Enfer numérique de Guillaume Pitron (Les liens qui libèrent, 2021), Les algorithmes font-ils la loi ? d'Aurélie Jean (Éditions de l'Observatoire, 2021), ou encore Flux de Mathieu Quet (La Découverte, 2022).
Lien : https://www.playlistsociety...

Sommes-nous passés des sociétés de disciplines aux sociétés de contrôle, et entrons-nous dans des sociétés de profilage, plus que de surveillance ? On serait très légitime à être d'accord avec cette thèse, qui se veut le coeur du livre de Philippe Huneman, "Les sociétés du profilage". Reste que cette lecture ne m'a pas convaincu, d'abord parce que le profilage est bien moins puissant que le contrôle ou la discipline, et surtout parce que nous sommes loin de consentir au profilage. La discipline, le contrôle et la surveillance peuvent être des fantasmes d'ordres puissants, mais le profilage, lui, fait plutôt fuir tout le monde. le calcul reste fait par devers nous, bien masqué aux utilisateurs qui se débattent avec leurs effets. Bien souvent, nous ne savons rien des profils qui sont produits sur nous et surtout de leur efficacité, très discutable.

Pour Huneman, l'enjeu des technologies de collectes et de traitements n'est pas tant de surveiller que de prédire. C'est effectivement, avec le tri et le matching, l'un des moteurs, mais c'est oublier combien ces tris et prédictions sont surtout fausses. Leur efficacité est pourtant bien suffisante pour nous faire croire le contraire, qu'importe si le tri ou la prédiction se font sur des éléments abscons, sans réalité autre que celle d'un calcul approximatif, imprécis et surtout injuste. La prédiction calcule depuis ses biais et ses lacunes pour trouver des prédicteurs (de dépression ou d'achat par exemple) suffisamment efficaces pour nous le faire croire, mais qui sont surtout extrêmement contextuels et volatiles et qui produisent des “vérités” problématiques.

Nous voici à l'ère des traces et données massives, qui, pour les faire parler, sont comparées les unes aux autres. Cet extractivisme sans limite nous dépossède de nos données, que nous sommes incapables, nous, de faire parler, parce qu'elles ne parlent que comparées à d'autres. La plus-value est dans le traitement et dans sa rétroaction sur nos propres profils et jusqu'à nos comportements, ce “surplus comportemental” dont parlait Zuboff. Pourtant, la fiabilité n'est pas tant le fait de la quantité de données recueillie, de leur véracité ou de leur précision, que de la prévalence des calculs, c'est-à-dire du fait qu'ils imposent avec eux leur monde. L'essentiel du profilage sert à produire de la publicité sans que l'efficacité de celle-ci ne soit jamais démontrée. Certes, les images et les termes auxquels nous sommes confrontés ont une influence, mais laquelle ? Quelle est leur force ? Leur impact ? Leur résistance ? Bien souvent, les chiffres de l'impact publicitaire, même numérique, restent extrêmement bas, ce qui devrait nous rappeler que cela ne marche massivement pas.
Lien : https://hubertguillaud.wordp..