L'époque où on stockait péniblement une dizaine de documents texte sur une disquette est bien lointaine. Disposant d'une capacité de stockage croissant de manière exponentielle, les entreprises sont désormais entrées dans l'ère du « Big data », ces données en tout genre en quantités tellement colossales qu'il a fallu développer des outils spéciaux pour en extraire les tendances intéressantes.
Disposer d'autant d'informations permet des prédictions d'une précision jamais atteinte. Quel que soit le phénomène étudié, il y a désormais un nombre presque illimité de précédents auxquels se référer. Les futurologues nous prédisent des « compagnons » s'occupant de nos besoins du moment : en rentrant du travail, un programme vous avertit du chemin à prendre pour éviter les bouchons, vous conseille un repas léger en vue du mariage de ce week-end, passe lui-même la commande en fonction du meilleur rapport qualité/prix des magasins des environs et vous propose quelques tenues de bon goût qui vous irait parfaitement bien.
L'auteur de cet essai nous met pourtant en garde contre cette situation. Mais pourquoi exactement ? Défendrait-on le droit à rester coincé dans les embouteillages, à une santé défaillante et à perdre son temps à éplucher des articles qui ne nous intéresseront pas ? Pas vraiment ! On peut dégager trois arguments principaux.
Tout d'abord, il existe un décalage énorme entre ce que l'utilisateur pense offrir comme données sur lui, et ce que les entreprises peuvent réellement en tirer. Prenons la carte de fidélité de votre magasin préféré : vous pensez qu'elle n'indique que votre goût pour les biscuits au chocolat et le thé au citron. le magasin peut cependant connaître votre état de santé en fonction des produits que vous achetez/évitez, votre situation familiale (achat régulier de lange, de jouets), votre fidélité amoureuse (achat soudain de préservatif ou produits de séduction), votre situation financière (tendance à se rabattre sur des produits discount, ou au contraire de plus grande qualité, …), etc., etc. Et comme personne ne peut être hors-norme dans tous les domaines, vous finirez quoi qu'il arrive dans la bonne case. Est-ce que ce sont des informations que vous auriez données si on vous les avait demandées à l'inscription ? Probablement pas.
Les entreprises utilisent-elles vraiment ces données personnelles, ou se contentent-elles d'en tirer des tendances générales ? Difficile à dire. Quelques unes ont attiré les foudres du public en déduisant un peu trop bien des choses qu'on aurait voulu tenir secrètes. D'autres les dévoilent par accident, comme ce comparateur de consommation d'énergie/eau entre amis, qui a été retiré en catastrophe quand quelques personnes ont réalisés que leur conjoint était à la maison pendant ses supposées heures de travail, pour une activité qui nécessitait une consommation d'eau équivalente à une douche pour deux personnes. Mais dans tous les cas, même si ce n'est pas utilisé aujourd'hui, les idées finiront bien par éclore, et les données seront à disposition, car la philosophie du Big Data est « dans le doute, stockons tout, on en aura peut-être besoin un jour. »
Deuxième argument, l'enfermement dans la moyenne. Une fois que les algorithmes auront déterminés qui vous êtes, ils ne vous proposeront que ce que vous êtes censés aimer (c'est-à-dire, ce que la majorité de votre groupe socio-culturel aime) et rendent ainsi invisibles tout le reste. On pourrait alors assister à une normalisation des individus, bien rangés dans le bon compartiment.
Dernier point, même si l'aspect désincarné de ces programmes les font passer pour neutres, c'est loin d'être le cas en réalité. Les aspects de la vie quotidienne à optimiser, la manière dont on va procéder, les informations jugées pertinentes pour déterminer la meilleure solution, tous ces éléments sont des choix arbitraires des concepteurs. Ces choix sont souvent invisibles pour l'utilisateur, qui ne les remettra donc jamais en cause.
L'ère du Big data ouvre la voie à plein de possibilités passionnantes, mais a besoin de garde-fous qui peinent à se mettre en place. Côté utilisateur, on ne réalise pas ce qu'on fournit comme information et on n'a pas encore pris conscience du principe « Si vous utilisez un service gratuitement, c'est que le produit, c'est vous. » Les quelques dérives constatées font scandale sur le moment, mais sont vite oubliées. Et du côté politique, on n'est un peu dépassé par les événements, d'autant que le problème nécessite une solution internationale : une entreprise américaine peut récolter des données sur des clients européens et les stocker en Asie, toute initiative locale est donc vouée à l'échec.
Commenter  J’apprécie         252
Une analyse socio-philosophique des conséquences de la numérisation de nos sociétés contemporaines.
Lire la critique sur le site : NonFiction
Registres de principes qui appellent à être confronté à un enjeu présent et futur majeur, celui de la puissance indéfiniment croissante acquise par l'intelligence artificielle, vouée à modifier de part en part nos conditions d'existence, par sa capacité à nous délester de notre capacité de jugement et plus encore de celle de notre décision.
Spoutnik, lancé par les soviétiques le 4 octobre 1957 , fut le premier satellite artificiel de l'histoire à être placé en orbite autour de la terre. L'événement inaugura " la conquête spatiale " et engagea une compétition entre les États-Unis et l'URSS, ayant progressivement conduit à la victoire des premiers notamment par l'achèvement d'une constellation intégrale : le G.P.S
[N]ous continuons de penser la collecte des données en termes de surveillance, suivant une configuration binaire, en nous offusquant au gré des événements de certains procédés à l'œuvre, sans saisir que ce qui contribue à l'instauration d'un nouveau paradigme tendanciellement totalisant, c'est l'entrecroisement fatal entre le témoignage passif du quotidien, via des capteurs à terme omniprésents, et le dévoilement intentionnel des individus de tous les pans de leur existence. Composé corrosif qui redéfinit la tension liant le citoyen et le corps social, notamment fondée sur l'agrément partagé octroyant à chacun une part située en retrait, au profit d'une socialité qui prend son fondement même dans l'affichage régulier des actes de la vie, recouvrant nombre de dimensions qui étaient supposées, pour le respect de l'intégrité de tous, relever de l'inviolable.
[...]
Attitude schizophrène des individus, qui d'un côté prétendent à juste titre vouloir bénéficier du droit inaliénable à vivre une part de leur existence à l'abri des regards, et qui d'un autre côté adossent des pans de cette même existence à des systèmes conçus pour la divulguer sous diverses modalités aux yeux du monde.
La marque américaine de distribution Target cherche à identifier les femmes enceintes, dans l'objectif de leur proposer avant l'accouchement des produits pour nouveau-nés. Un système traite des masses d'informations récoltées via les navigations Internet, l'usage des cartes de crédit et de fidélité, et repère des corrélations à valeur significative. Par exemple, l'ouverture d'une liste de cadeaux dédiée à la naissance et parallèlement l'achat d'une crème sans parfum conseillée dès le quatrième mois de grossesse, ou de certains suppléments alimentaires appropriés aux différents stades, établiront par recoupement un «diagnostic automatisé». Modalités qui ont été à l'origine d'un scandale, dû à ce qu'un père découvre des publicités de produits pour nourrissons envoyées à sa fille mineure, et qui se révéla être effectivement enceinte.
La collusion à l’œuvre depuis plus d’un siècle entre un mode de rationalité prioritairement fonctionnaliste et les techniques computationnelles est aujourd’hui non seulement patente, mais atteint son acmé, imposant une raison numérique fondée sur le découpage d’une mémorisation de tous les actes de la vie. Acceptons-nous d’être toujours plus intégralement régentés par ce mouvement qui s’intensifie et se perfectionne à des vitesses exponentielles, ou sommes-nous décidés à opposer des logiques fondées sur de toutes autres exigences aptes à favoriser la faculté humaine de libre choix et la subjectivation des existences ? Il s’agit là d’un enjeu et d’un défi pratique décisifs, dont notre degré de réponse individuelle et collective définit d’ores et déjà la nature de notre présent et déterminera celle de l’humanité à venir.
p.261
Diffusée en direct le 19 oct. 2023.
Éric Sadin nous annonce l'avenir terrifiant de la société du "promptisme" (sic).
D'ici 2 à 3 ans, les informations écrites, les images et les vidéos générées par IA seront probablement majoritaires sur la toile.
Sur demande, l'IA pourra générer en une fraction de seconde une image de notre cher voisin en train d'agresser une femme, qu'il ne restera plus qu'à balancer "philanthropiquement" sur les réseaux a-sociaux...
Babelio ne manquera pas d'être touché lui aussi par le phénomène IA, à mon avis . Il ne faut donc pas seulement préparer sa retraite du monde du travail, mais aussi, et promptement, la retraite des réseaux en tout genre...
+ Lire la suite