La vie algorithmique

L'époque où on stockait péniblement une dizaine de documents texte sur une disquette est bien lointaine. Disposant d'une capacité de stockage croissant de manière exponentielle, les entreprises sont désormais entrées dans l'ère du « Big data », ces données en tout genre en quantités tellement colossales qu'il a fallu développer des outils spéciaux pour en extraire les tendances intéressantes.

Disposer d'autant d'informations permet des prédictions d'une précision jamais atteinte. Quel que soit le phénomène étudié, il y a désormais un nombre presque illimité de précédents auxquels se référer. Les futurologues nous prédisent des « compagnons » s'occupant de nos besoins du moment : en rentrant du travail, un programme vous avertit du chemin à prendre pour éviter les bouchons, vous conseille un repas léger en vue du mariage de ce week-end, passe lui-même la commande en fonction du meilleur rapport qualité/prix des magasins des environs et vous propose quelques tenues de bon goût qui vous irait parfaitement bien.

L'auteur de cet essai nous met pourtant en garde contre cette situation. Mais pourquoi exactement ? Défendrait-on le droit à rester coincé dans les embouteillages, à une santé défaillante et à perdre son temps à éplucher des articles qui ne nous intéresseront pas ? Pas vraiment ! On peut dégager trois arguments principaux.

Tout d'abord, il existe un décalage énorme entre ce que l'utilisateur pense offrir comme données sur lui, et ce que les entreprises peuvent réellement en tirer. Prenons la carte de fidélité de votre magasin préféré : vous pensez qu'elle n'indique que votre goût pour les biscuits au chocolat et le thé au citron. le magasin peut cependant connaître votre état de santé en fonction des produits que vous achetez/évitez, votre situation familiale (achat régulier de lange, de jouets), votre fidélité amoureuse (achat soudain de préservatif ou produits de séduction), votre situation financière (tendance à se rabattre sur des produits discount, ou au contraire de plus grande qualité, …), etc., etc. Et comme personne ne peut être hors-norme dans tous les domaines, vous finirez quoi qu'il arrive dans la bonne case. Est-ce que ce sont des informations que vous auriez données si on vous les avait demandées à l'inscription ? Probablement pas.

Les entreprises utilisent-elles vraiment ces données personnelles, ou se contentent-elles d'en tirer des tendances générales ? Difficile à dire. Quelques unes ont attiré les foudres du public en déduisant un peu trop bien des choses qu'on aurait voulu tenir secrètes. D'autres les dévoilent par accident, comme ce comparateur de consommation d'énergie/eau entre amis, qui a été retiré en catastrophe quand quelques personnes ont réalisés que leur conjoint était à la maison pendant ses supposées heures de travail, pour une activité qui nécessitait une consommation d'eau équivalente à une douche pour deux personnes. Mais dans tous les cas, même si ce n'est pas utilisé aujourd'hui, les idées finiront bien par éclore, et les données seront à disposition, car la philosophie du Big Data est « dans le doute, stockons tout, on en aura peut-être besoin un jour. »

Deuxième argument, l'enfermement dans la moyenne. Une fois que les algorithmes auront déterminés qui vous êtes, ils ne vous proposeront que ce que vous êtes censés aimer (c'est-à-dire, ce que la majorité de votre groupe socio-culturel aime) et rendent ainsi invisibles tout le reste. On pourrait alors assister à une normalisation des individus, bien rangés dans le bon compartiment.

Dernier point, même si l'aspect désincarné de ces programmes les font passer pour neutres, c'est loin d'être le cas en réalité. Les aspects de la vie quotidienne à optimiser, la manière dont on va procéder, les informations jugées pertinentes pour déterminer la meilleure solution, tous ces éléments sont des choix arbitraires des concepteurs. Ces choix sont souvent invisibles pour l'utilisateur, qui ne les remettra donc jamais en cause.

L'ère du Big data ouvre la voie à plein de possibilités passionnantes, mais a besoin de garde-fous qui peinent à se mettre en place. Côté utilisateur, on ne réalise pas ce qu'on fournit comme information et on n'a pas encore pris conscience du principe « Si vous utilisez un service gratuitement, c'est que le produit, c'est vous. » Les quelques dérives constatées font scandale sur le moment, mais sont vite oubliées. Et du côté politique, on n'est un peu dépassé par les événements, d'autant que le problème nécessite une solution internationale : une entreprise américaine peut récolter des données sur des clients européens et les stocker en Asie, toute initiative locale est donc vouée à l'échec.

Ce livre fait partie d'une trilogie dont l'objectif est très clair : remettre le débat politique au coeur de nos sociétés et de leurs devenirs. le constat est assez simple : le techno-pouvoir, c'est-à-dire le pouvoir d'un certain nombre d'entreprises et acteurs de ce qu'on appelle communément les nouvelles technologies, élabore depuis les années 90 nos sociétés sans aucune légitimité politique ni démocratique : le droit de facto absolu à l'innovation technologique, masquant mal des objectifs commerciaux et financiers à l'échelle planétaire, et sans la moindre limitation déontologique (éthique pourrait-on dire) sous directive du monde politique ou des acteurs de la société, ce droit absolu jamais vraiment énoncé clairement mais dont quiconque peut constater les conséquences dans son quotidien, ce droit que d'aucuns vont appeler la « révolution numérique », usurpant le terme de révolution quand la révolution est un mouvement venant du peuple confronté à des conditions d'existence misérables et insoutenables, ce droit sans aucune valeur juridique est en train de faire de notre vie quotidienne ce qu'elle est, « qu'on le veuille ou non ».
Jusqu'au début des années 90, l'informatique de gestion dans les entreprises et l'informatique industrielle dans les chaines de production automatisées, informatique qui était destinée à automatiser des processus hautement automatisables, ont bénéficié pleinement des analyses des systèmes d'information et des algorithmes découlant de ces méthodes d'analyse. On ne parle pas de ça ici. L'informatique du XXI ème siècle a porté ces principes algorithmiques (donc déterministes) dans notre vie quotidienne. Ce changement de société s'est fait sans aucune légitimité.
Après un « état des lieux » critique particulièrement détaillé et précis, Eric Sadin, dans le chapitre VII et la conclusion, milite pour une réappropriation des décisions sociétales par le politique, aux antipodes de l'avenir « start-up nation » que l'on nous impose.
Un livre engagé, militant, politique. Une lecture éclairante et vivifiante.
Mon premier livre d'Eric Sadin… à suivre…