Marius Bertolucci

Une entreprise comme Zenus propose de "l'analyse faciale éthique" à l'aide d'une caméra reliée à une IA qui évalue en temps réel les caractéristiques démographiques des clients déambulant dans les magasins, leurs émotions et leur engagement, et ce même s'ils portent des masques de protection sanitaire, des lunettes ou encore un chapeau. Ces IA proposant de lire nos états mentaux à distance sont utilisées dans des domaines aussi variés que le contrôle des élèves dans des classes en Chine, les contrôles aux frontières, la vidéosurveillance de l'espace public, les entretiens d'embauche, les analyses marketing, etc. Rappelons que la différence entre un système politique autoritaire et un système totalitaire réside dans l'exigence du second dans un engagement total pour l'idéologie en place, alors que le premier se contentera a minima de votre neutralité. Avec ce type de système, par exemple, le management d'une entreprise de services peut évaluer en continu l'investissement émotionnel de ses collaborateurs derrière les tentatives feintes de sourire...L'empire du management s'est saisi de cette possibilité technique avec enthousiasme pour s'exporter hors les murs de l'entreprise privée. C'est le cas de la ville de Nice qui a souhaité recourir au service de l'entreprise Two-i et de ses caméras intelligentes, afin de réaliser une cartographie émotionnelle en temps réel pour mesurer la satisfaction des utilisateurs, ainsi que pour déceler les situations potentiellement dangereuses comme l'affirmait son PDG. Devant ces évolutions, le slogan "souriez, vous êtes filmés" mérite d'être actualisé pour devenir "pensez positivement, vous êtes filmés".

Bergson appelait à un supplément d'âme pour que l'humanité courbée par la mécanique puisse se redresser vers le ciel. Nous, être du XXIe siècle, sommes courbés sur nos smartphones avec un désir absolu pour l'écran et sans plus aucun désir pour le ciel. Le ciel étoilé au-dessus de nous, obscurci par les lumières artificielles et éclairé de satellites artificiels, n'offre plus ce paysage mystique pour l'éveil de l'âme. L'âme ne désire plus. Les algorithmes avancés décident pour elle comme le rail décide pour le train.

La dysmorphie Snapchat est apparue en 2018 à la suite d'un article de The Independant relatant les alarmes des chirurgiens esthétiques voyant débouler dans leurs cabinets des patientes désirant ressembler à leur égoportraits (selfies) modifiés par les filtres numériques de la célèbre application. L'image offre ainsi un double numérique idéalisé et irréaliste qui devient pour ces patientes l'image de soi désirée. Ce ne sont plus tant les stars du grand écran qui servent de modèle que l'image de soi agrémentée par quelques traitements algorithmiques. La distance entre ce soi augmenté et le soi réel provoque une dépréciation narcissique. Les influenceurs des réseaux sociaux en abusent comme tout un chacun. Il faut dire que l'utilisation est simplifiée à l'extrême et que l'usage est monnaie courante. Le réel n'y est pas simplement filtré, il sert de base à la construction d'un simulacre auquel s'adonnent des millions de personnes tous les jours. Les applications comme Snapchat ou Instagram, fortement axés sur la communauté, permettent à ces images une large diffusion. Et pour cause, les utilisateurs, souvent jeunes, partagent leurs égoportraits à la recherche de likes et de commentaires, qui servent à la fois à la construction de leur capital social et à leur image de soi. Ces utilisateurs doivent jongler entre entre leur vie réelle et leur double numérique parfois très éloignés l'un de l'autre.

La temporalité algorithmique est inconcevable pour notre entendement. La connaissance du Go par l'humanité s'est accumulée sur des milliers d'années et s'est transmise par la culture orale, les livres et autres proverbes. Pour devenir un joueur de Go de niveau international, il faut dédier son existence à son étude pendant de longues années.
AlphaGo Zero n'a eu besoin que de quelques jours pour absorber cet héritage et balayer les années de travail pour l'acquérir. En sus, l'IA a développé des pratiques nouvelles et parfois contradictoires avec le savoir que nous avions sur l'art de jouer au Go. Force est de constater que le facteur limitant d'AlphaGO est d'avoir été contraint d'étudier à partir de l'Homme. Dès lors qu'AlphaGo Zero n'a joué que contre lui-même, l'IA n'a plus été inhibé dans son apprentissage par le facteur humain.

[A propos de la capacité de ChatGPT à créer du texte:]
Pour certains, les inquiétudes ne sont que passagères et s'apaiseront le temps que nous nous habituions. C'est le cas du PDG d'OpenAI Sam Altman qui fait l'analogie avec les calculatrices: selon lui, nous nous sommes adaptés jusque dans les cours de mathématiques. D'aucuns ne trouveront rien à redire sur l'utilité et la présence des calculatrices dans les mains des élèves depuis la primaire jusqu'à l'université. Une différence de taille sépare pourtant la capacité de calcul et la capacité du langage dans sa relation à la pensée. Pour reprendre les mots de Wittgenstein, "les limites de mon langage signifient les limites de mon propre monde". Nous ne disons pas que nos faibles capacités en mathématiques ne sont pas inquiétantes pour aborder le monde, mais nous affirmons que la diminution de nos capacités langagières signifie la diminution de notre humanité, de notre capacité à configurer des mondes possibles, et plus largement à faire société entre semblables au sein d'une société démocratique.

[A propos de l'IA dans le secteur public:]
La question des données se pose immédiatement en termes d'acquisition, de stockage et de qualité. Des données de mauvaise qualité peuvent engendrer des analyses erronées, biaisées ou discriminatoires. La sécurité du stockage est cruciale pour garantir la vie privée des citoyens et le respect de leurs droits. [...] L'anonymat demeure une promesse vaine. Des chercheurs ont montré qu'avec 16 attributs démographiques, il est possible d'identifier n'importe qui, partout dans le monde. Les data brokers possèdent donc la capacité d'identifier tout individu. L'un des défis majeurs réside dans la dimension organisationnelle, puisque l'IA bouleverse, de manière disruptive, la culture bureaucratique et administrative. Le déploiement à grande échelle se heurte à divers obstacles, tels que le partage des données entre administrations et les confrontations de logiques institutionnelles, limitant la collaboration. Il incombe aux décideurs et aux gestionnaires de maintenir une veille constante pour suivre les avancées techniques et les retours du terrain.
En ce sens, les compétences techniques requises pour maîtriser l'IA aux niveaux stratégique et opérationnel seront cruciales alors même que le secteur public fait face à une pénurie d'experts en IA et à un déficit d'attractivité pour les recruter. Les enjeux juridiques se dessinent, notamment en ce qui concerne l'impossibilité de justifier les interprétations effectuées par les réseaux de neurones. L'IA présente ainsi un défi pour la transparence due aux citoyens. Plus généralement, les questions d'éthique et de légitimité se posent, en particulier lorsque les décisions affectent directement les individus.

Une nouvelle humanité se prépare. Nos affinités ne sont plus les nôtres puisqu'elles sont sélectionnées pour nous par des processus automatisés de quelques acteurs économiques aux pouvoirs démesurés sans que les législateurs interviennent. La Technique gouverne tandis que le Politique regarde ailleurs. L'automatisation de notre cognition sous le joug des algorithmes prédictifs qui monétisent nos pensées transforme la société à tous les niveaux, depuis la neurochimie de nos cerveaux jusqu'à nos rapports sociaux. [...] Le poids des données massives referme la porte du temple de la liberté politique et économique. La technologie ne façonne pas seulement le monde matériel qui nous entoure, elle refaçonne notre intériorité psychique. La gouvernementalité algorithmique se déroule en plusieurs phases: extraction de données, analyse prédictive, et action sur les comportements. L'extraction est une transmutation du monde humain (symbolisé) sous la forme de données décontextualisées (hors-monde) qui sont ensuite injectées dans les calculateurs. [...] Ce hors-monde envahit le monde symbolisé par l'imposition de ses diktats, participant à le désymboliser et donc le déshumaniser.

...Kant distingue sans ambigüité le prix qu'on attribue aux diverses choses et la dignité qu'on attribue exclusivement à l'Homme. Il convient d'attribuer un prix marchand aux choses échangées [...]. Quant à l'Homme, il détient une valeur absolue, intrinsèque, inaliénable et sans équivalent: la dignité. [...] Bien entendu, le salariat a institué l'échange d'un prix contre des activités humaines. Kant en a conscience, puisqu'il indique précisément que la dignité s'effectue dans le champ des qualités morales. Penser moralement et agir moralement sont les constituants de la dignité. En cela, autrui ne doit jamais être tenu comme un simple moyen, même dans le cas d'un salarié. [...] S'il est possible d'attribuer un prix à un Homme comme dans le cas de l'esclavage, du point de vue moral c'est inacceptable et ce, peu importe la somme versée et peu importe la volonté de celui qui accepterait de se vendre lui-même. Pourtant, force est de constater que le capitalisme de cybcogisation nous considère uniquement à l'aune de ce que nous lui rapportons. La considération d'autrui comme une chose et la privation de son autonomie de jugement par l'insertion d'une volonté qui lui est extérieure sont autant de refus de traiter autrui comme un être raisonnable, capable d'autonomie et de moralité. In fine, la dignité d'une personne n'est pas considérée quand des acteurs économiques provoquent l'addiction par le truchement des algorithmes de recommandation qui rendent l'Homme monétisable.

L'IA ne saurait se réduire à une simple évolution linéaire de la technique informatique ; elle porte en elle un potentiel révolutionnaire de tout ce que nous connaissons et de tout ce que nous sommes. En ce sens, faisant écho à Freud, qui voit dans les avancées de la science trois blessures narcissiques portées à l'humanité, le philosophe Mark Alizart en entrevoit une quatrième avec l'émergence de ces machines pensantes en mesure de nous dépasser.
Rappelons les trois premières pour saisir l'ampleur de la menace. La première faille narcissique fut la découverte pour l'Homme de ne pas être au centre de l'Univers, grâce à Copernic. La deuxième faille narcissique fut la découverte pour l'Homme de ne pas être une espèce à part dans le règne du vivant, mais seulement le fruit de l'évolution, grâce à Darwin. La troisième faille fut la découverte pour l'Homme, ou plus précisément pour le moi, de ne pas être maître dans sa propre maison, selon la célèbre formule de Freud.

Parmi les nouveaux-nés post-2010, une bonne part est issue d'une rencontre orchestrée par un algorithme. Plus largement, ce sont les désirs individuels et collectifs (ou propension collective dans le vocabulaire de Stiegler) qui sont le produit d'un algorithme. [...]
Le monde se dessine à partir de l'image d'un puzzle dont chaque pièce serait le fruit d'un algorithme: nos désirs sexuels (Tinder), nos lectures (Amazon), nos fictions (Netflix), nos actualités (Twitter), nos amis (Facebook), nos images (Instagram). Le monde est orchestré.