L'Homme diminué par l'IA

L'IA dépasse l'ingéniosité humaine…Pour le meilleur et pour le pire…

« Celui qui maitrisera l'intelligence artificielle sera le maître du monde » telle est la conviction de Vladimir Poutine déjà en 2017 tant l'IA est devenue une question géopolitique de premier ordre au vu de ses applications dans tous les domaines, notamment militaires.
Les IA rivalisent voire surpassent les êtres humaines dans de nombreux domaines au point que l'attribution à une IA ou à un être humain de l'origine de nombreuses productions est rendues difficiles.

Notre rapport à l'IA devient de plus en plus ambivalent. D'un côté elle est fascinante, tant elle semble de plus en plus omniprésente, progressant à une vitesse exponentielle et prenant de multiples visages qui peuvent apparaitre comme de véritables progrès : découvertes de médicaments, interventions chirurgicales en totale autonomie, conduite autonome, découverte de milliers d'amas de galaxies, analyse vidéo en temps réel, identification par la voix, entre autres.
D'un autre côté, l'apprentissage par renforcement, sans passer forcément par l'analyse de données massives (apprentissage surpervisé) réalisé en des temps records afin d'atteindre des performances surhumaines ouvre de nouvelles voies dans de multiples domaines et posent de nombreuses questions éthiques, voire inquiètent franchement. Si on pense à la surveillance de masse qu'elle permet, au développement d'armes autonomes, aux biais et aux discriminations dont elle peut être à l'origine, à son influence sur la vie démocratique et à la manipulation de l'opinion publique qu'elle peut engendrer, à son influence sur les jeunes qui sont nés avec l'IA en termes de construction personnelle et de réflexion, ou encore à son impact sur le marché du travail l'IA fait beaucoup, beaucoup, moins rêver…


Alors, l'IA nous rend-elle plus puissante ? Ou au contraire nous asservit-elle ? En sortons-nous indemnes ? Bien entendu, au vu du titre de ce livre, la réponse à ces questions par l'auteur est clairement en faveur de la diminution, de l'asservissement et du déclassement. Même si toutes ces avancées de l'IA ne sont pas négatives, il faut qu'elles soient plus strictement encadrées et réfléchies. D'où l'importance de cette ouvrage pour nous aider à mener à bien cette réflexion.

L'auteur met tout d'abord en valeur les différentes domaines d'application de l'IA, en en soulignant à la fois les effets positifs et les effets qui posent question, et en étayant son argumentaire au moyen de sources variées et sérieuses, ainsi que d'exemples intéressants, voire passionnants. de nombreuses sources proviennent de travaux scientifiques, certaines s'appuient sur des réflexions philosophiques connues, tandis que d'autres sont issues de films grand public que nous connaissons tel que Her de Spike Jonze en 2013 ou la série Black Mirror. Je trouve l'entrelacement de ces sources de différents niveaux d'accessibilité bien amenées pour faciliter la compréhension. Les domaines d'application mentionnés vont de la science, en passant par les relations humaines, le langage humain, les jeux, etc. jusqu'à la résurrection algorithmique post-mortem…

« La psychologie du deuil entre dans une nouvelle ère. Une histoire parue en 2021 dans le San Francisco Chronicle relate avec pudeur comment Joshua Barbea, qui n'est jamais arrivé à faire son deuil, a « ressuscité » numériquement sa petite amie Jessica Pereira décédée en 2012 : « au début, il a été impressionné par la capacité du logiciel à imiter la vraie Jessica Pereira. En 15 minutes, il s'est retrouvé à se confier au charbot. Après quelques heures, il a fondu en larmes. Puis, émotionnellement épuisé, il s'endormit ». de nouvelles questions apparaissent pour tout un chacun sur l'utilisation post-mortem des traces numériques de son existence (photos, SMS, réseaux sociaux, etc.) pouvant servir à le ressusciter algorithmiquement. Si cette possibilité de continuer à partager la vie d'êtres chers par-delà la séparation et la mort est une possibilité unique, il n'en demeure pas moins qu'elle soulève des questions éthiques majeures. Comme pour le don d'organes, faut-il que le législateur encadre ces pratiques ? Tout un chacun doit-il émettre son désir durant son vivant d'être réanimé algorithmiquement ou non après sa mort ? Comment assurer la dignité d'un défunt et éviter les abus ? ».


L'auteur vise ensuite à montrer l'impact de cette IA à la puissance démesurée qui dépasse notre entendement.
La réflexivité est la marque de distinction entre l'Homme et l'animal nous rappelle-t-il, mais cette frontière tend à s'amenuiser par l'écrasement de la conscience sous les stimuli des écrans. le maillage numérique sous-jacent à l'IA nous entoure sans cesse, nous enveloppe, nous enserre…au point d'étouffer et d'atrophier nos consciences.
« L'arasement architectural de la personnalité « cathédrale » laisse derrière lui un esprit sans originalité, ni profondeur, ni ambiguïtés. L'adaptation à ce temps algorithmique, où règnent les réseaux sociaux, implique la limitation de la pensée réflexive, laquelle a besoin du temps long pour se façonner. le zapping de la télécommande de télévision s'est accéléré avec le petit écran du smartphone qui n'exige plus cette médiation. le temps long de la construction de l'esprit critique par des lectures ardues rencontre là des difficultés insurmontables ».

L'auteur propose ainsi le terme de « cybcogisation » pour évoquer ce processus du capitalisme de la surveillance constante qui ne se contente pas de nous surveiller mais qui opère une transformation de notre être pour pouvoir fonctionner et nous faire accepter les conditions de son processus de production. Ce processus de diminution affecte la conscience et le cerveau humain qui se soumet alors aux diktats des algorithmes. Une véritable transformation de l'homme qui règle nos vie, nos choix, qui orchestre et détermine nos existences, sorte d'asservissement que nous alimentons nous-même en alimentant les réseaux sociaux.
« le monde se dessine à partir de l'image d'un puzzle dont chaque pièce serait le fruit d'un algorithme : nos désirs sexuels (Tinder), nos lectures (Amazon), nos fictions (Netflix), nos actualités (Twitter), nos amis (Instagram) ».

Pour Marius Bertolucci, nous sommes en effet passés du cyborg (cybernetic organism) au cybcog (cybernetic cognition), notion très intéressante qu'il propose dans cet ouvrage pour décrire cet être diminué et soumis aux algorithmes.
Le cyborg est cet être composite amélioré qui transgresse les limites de sa condition biologique initiale. La science-fiction s'est beaucoup emparée de ce sujet, certaines parties du corps humain étant remplacées ou augmentées par des dispositifs techniques. Cela en faisait un être plus fort, plus adapté. le cybcog est le fait que ce soit la psyché, la conscience qui est modifiée par les algorithmes et non l'être biologique, physique. Si le cyborg augmentait l'homme, le cybcog, via la machinisation mentale qu'il induit, le diminue.


Et l'auteur de nous dérouler tout un ensemble de conséquences de cette cybcogisation dont certaines font littéralement frémir. Citons en quelques-unes. Je vous invite bien entendu à aller les découvrir dans leur exhaustivité dans ce livre, tant elles sont bien appréhendées.
J'ai par exemple trouvé très intéressante cette comparaison faite entre la génération IGen, la génération qui n'a pas de souvenir d'un monde sans internet, et la génération des Milleniaux qui a n'a connu Internet qu'à un âge plus avancé, comparaison faite en termes de dépression, d'épanouissement, de vie amoureuse, d'entrée dans la vie adulte.
Ou encore les conséquences sur la construction de l'image de soi, des normes d'apparence étant produites par certaines applications ; la façon dont l'économie du divertissement rend leurs services addictifs afin de pouvoir obtenir plusieurs heures par jour de cerveau disponible ; les évolutions du management vers un « management par les algorithmes » et la violence psychologique induite du fait de la surveillance constante, de l'évaluation permanente, le manque d'interaction sociale notamment.
L'impact sur l'emploi, qui tend à changer radicalement avec l'IA, est également approché dans ses problématiques de remplacement, de perte de sens du travail. Enfin le dernier chapitre du livre fait enfin le focus sur l'IA et ses impacts sur la société : élections sous influence (avec l'exemple bien développé de Cambridge analytica ou encore du Brexit), montée des thèses complotistes, attaques de l'étranger, IA dans le secteur public sont, en autres, abordés. Et c'est vraiment très intéressant.


« L'homme diminué par l'IA » est un livre sombre qui peut faire très peur tant il semble que nous soyons cernés, tous les aspects de notre vie tant intime, professionnelle que sociétale étant touchés par l'IA. C'est un ouvrage cependant nécessaire car nous avons besoin de prendre conscience du phénomène dans lequel nous sommes plongés et auquel nous ne pouvons échapper, de mener une véritable réflexion, de se poser les bonnes questions. le livre est fouillé, argumenté, alimenté par des sources diverses et de nombreux exemples, qui en rendent la lecture agréable, instructive

Lors de la dernière opération Masse Critique « non fiction » de Babelio, j'avais choisi deux ou trois livres abordant des sujets très différents. L'algorithme de Babelio m'a attribué celui-ci, dont le titre m'avait interpellée. Jusque là j'étais consciente de ce que les facilités amenées par la technologie nous rendaient fainéants et modifiaient nos comportements, mais de là à dire qu'elles nous diminuaient...

Hasard ou pas, à quelques jours d'intervalle, j'apprends, au détour d'un bruit d'un des longs couloirs de l'administration qui m'emploie, que le management réfléchirait à l'implémentation d'une intelligence artificielle en vue « d'aider à la prise de décision ». Je me suis aussitôt empressée de remonter le couloir précité jusqu'à mon bureau et mon ordinateur. Après un bref farfouillage dans l'un et l'autre, je retrouve mon « descriptif de fonction » (le même depuis au moins les dix ans que je travaille pour ladite administration), et devinez quoi : ma tâche principale, comme celle de dizaines de collègues (tous au moins Bac+5 dans le domaine juridique), consiste à préparer, analyser, rechercher, proposer, rédiger, soutenir, conseiller, etc, mon supérieur, bref l' « aider à la prise de décision ». le bruit de couloir susmentionné n'ayant encore fait l'objet d'aucune communication « vers la base », j'ignore si mes collègues et moi-même allons être, et dans quel délai, remplacés par un logiciel.

Panique irrationnelle, pensée dystopique et catastrophiste ?

C'est là que Marius Bertolucci ne me rassure pas : « Les effets de ChatGPT sur le remplacement de l'emploi sont inédits. de fait, les cols blancs qui jusque-là n'avaient pas été directement menacés sont dans le collimateur. Plus particulièrement, les cols blancs de niveau intermédiaire comme les rédacteurs de textes juridiques, de communiqués, de résumés, de courriels, etc. » Et dans la mesure où « le travail offre l'une des dernières sources d'identité et de rôle social dans nos sociétés de production », les travailleurs ainsi « remplacés » devront affronter « les conséquences négatives, voire destructrices » de cette perte de sens, le bore-out par exemple.

Evidemment, l'utilisation de l'IA dans le monde du travail n'est pas neuve : elle trie déjà les CV (et recrute en réalité des profils « stéréotypés et proches de ceux déjà existants dans l'entreprise »), elle surveille les travailleurs et les licencie s'ils ne sont pas assez productifs (les livreurs d'Amazon, par exemple), elle prétend même mesurer leur niveau de sourire (filiale chinoise de Canon) ou leurs ondes cérébrales (société Emotiv) pour « informer sur le bien-être, la sécurité et la productivité au travail ».

« Productivité », le mot est lâché et déborde largement le cadre professionnel. Il va de pair avec efficacité et rapidité. le temps n'est plus que de l'argent. Dans cet univers impitoyable, l'Homme n'est même plus une ressource humaine*, mais un agrégat de données (data) monétisables, phagocytées par l'IA à l'oeuvre derrière les écrans auxquels il est devenu accro et auxquels il abdique toute capacité réflexive pour se contenter de comportements (achats, votes) prédits et produits à un niveau infra-conscient par les algorithmes. Les premiers à foncer dans ce mur cybernétique sont les jeunes nés à partir de 1995, qui n'ont pas connu le monde sans internet.

Pour Marius Bertolucci, l'humanité telle que nous la connaissons est en voie de disparition, plus précisément en voie de cybcogisation, un processus affectant la conscience et le cerveau humains qui aboutit à transformer l'Homme en un « être diminué en voie de machination mentale ». Tout bénéf pour le capitalisme algorithmique, puisque le cerveau cybcogisé ne se rebellera pas mais se comportera « selon les diktats des algorithmes ». Et à ce tarif, c'est toute la civilisation des Lumières qui passe par la case pertes-et-profits de l'IA : si « pour mener une vie bonne, l'Homme doit être capable de penser, de promettre, d'agir, de choisir et d'initier », alors grande est l'inquiétude éthique pour « l'Homme-objet-prédictible », dont la conscience réflexive rétrécit et l'enferme dans le présent, sans plus de capacité à se projeter dans le futur.

Toutes les avancées de l'IA ne sont pas forcément négatives, encore faudrait-il les encadrer strictement et réfléchir sérieusement à leurs conséquences à long terme. Ce qui n'est pas le cas actuellement.

Le tableau de ce futur algorithmique et déshumanisé que dépeint l'auteur est sombre, pour ne pas dire noir, et est porteur de peu d'espoir : « nous n'entrevoyons pas d'autres saluts que celui d'un retour à la fiction de l'humanisme ou la création d'une nouvelle fiction à même d'orienter le soi, les autres et le monde. L'obstacle principal d'un retour aux textes passés ou l'écriture de textes à venir est notre rapport à la langue. Les IA de production du langage anémient en nous la capacité langagière et sapent notre motivation à la lecture ».

Etat des lieux, mise en garde et plaidoyer pour la sauvegarde des fondements de notre humanité, « L'Homme diminué par l'IA » est un ouvrage dense, exigeant, très documenté, interpellant et très intéressant, même si je dois reconnaître que je n'ai pas les bases suffisantes en philo et en technologie pour en appréhender toutes les subtilités. Je n'ai sans doute pas tout compris et à ce titre, je ne me sens pas légitime pour en critiquer le contenu, et notamment pour juger de son degré d'alarmisme. Je me contente donc de rendre compte du propos tel que je l'ai perçu (voyez aussi les citations que j'ai recopiées), et de constater que le livre est convaincant par son argumentation, son raisonnement et les exemples qui l'illustrent.

Qui sait les « prodiges » que nous réserve le développement exponentiel de l'IA, mais ce qui est évident, c'est que, s'il se prive de sa capacité de penser, de réfléchir, de raisonner, d'écrire, de juger, de décider, en s'abandonnant à une technologie aux effets imprévus et imprévisibles, l'Humain se prive de sa liberté.

(Chronique générée par ma seule intelligence naturelle, garantie 100% artisanale et humaine (et donc faillible)).

En partenariat avec les Editions Hermann via une opération Masse Critique de Babelio.

*j'ai toujours détesté ce vocable : comme si les travailleurs étaient comparables à du charbon, du pétrole ou d'autres ressources naturelles, exploitables jusqu'à épuisement des stocks. En ce qui me concerne, j'estime AVOIR des ressources, pas en ETRE une. Voilà, ça n'a rien à voir, mais j'avais envie de l'écrire haut et fort.
Lien : https://voyagesaufildespages..

Marius Bertolucci est un universitaire et scientifique en sciences de gestion. À ce titre, il a déjà rédigé de nombreux articles dont l'un, accessible sur le Cairn, traite de l'IA dans l'entreprise.
Son essai "L'homme diminué par l'IA" est le prolongement. Au travers de cet ouvrage, Marius Bertolucci nous donne à réfléchir sur les conséquences dues au développement de l'algorithme au quotidien. Que ce soit dans l'éducation, l'art, la science, la médecine, les médias ou la politique...
En s'appuyant sur de nombreuses références philosophiques et scientifiques, Marius Bertolucci démontre que l'intelligence artificielle est partout aujourd'hui. Elle règne sur l'homme, le cybcog comme le nomme l'auteur, limitant sa pensée critique. le "cybcog" (cybernetic cognition) est un être diminué dans sa psyché : ses capacités d'attention, de jugement, de compréhension et volonté d'apprendre sont diminuées par l'usage des écrans.

l'usage quasi total des IA révolutionne la société. Il est à noter que l'homme moderne a déjà rencontré des révolutions techniques au 19e siècle, médiatiques avec l'avènement d'internet au 20e siecle. L'homme, l'homo érectus, s'est adapté.
Mais l'usage des IA donne l'impression aux êtres humains de mieux connaître un domaine alors qu'il n'en est rien. C'est l'humain qui devient une marchandise convoitée pour ses données ! Pour exemple, nous sommes ciblés par les algorithmes des GAFAM lors de campagnes publicitaires. L'homme est devenu monetisable !
Les pouvoirs publics commencent juste à comprendre les dangers de l'IA. Il devient urgent de créer un cadre juridique pour protéger l'être humain et continuer à stimuler ses capacités cognitives.

Essai sur l'impact de l'IA sur l'homme.
Comment notre société peut-elle utiliser l'IA pour grandir et non se faire écraser par les dérives inévitables liées à cette technologie qui ne fait que grandir.
Nos inquiétudes sont-elles fondées ? Est-ce un avantage ou un handicape ? Quel niveau de vigilance devons-nous adopter face à cette évolution ?
Qualifiée comme bouleversement paradigmatique pour les civilisations humaines, l'IA n'est pas une évolution mais plus une révolution.
Sommes-nous déjà dans la Matrice ?
Travaillant dans l'informatique et intéressée par ce type de sujet, lorsque j'ai vu que ce livre était disponible dans la Mass Critique de Babelio je n'ai pas hésité.
C'est un livre exigeant par son thème et par la richesse des recherches qui ont été faites pour essayer d'apporter des réponses ou tout du moins aider à ouvrir le questionnement du lecteur. Les références citées par l'auteur donne envie de pousser plus loin le sujet.
A lire et à méditer...