James Bridle

Si nous avons tant de mal à comprendre en quoi pourrait consister l'intelligence des plantes, c'est précisément parce qu'elle est très différente de la nôtre.

Tous les processus stables, nous les prévoirons. Tous les processus instables, nous les contrôlerons.

Réduire les travailleurs à des algorithmes de chair et d'os, dont l'utilité se résume à leur capacité à se déplacer et à suivre les ordres, les rend plus faciles à embaucher, à licencier et à maltraiter.

Une pression cognitive plus profonde est également à l'œuvre : la croyance en une réponse unique et inviolable, produite, avec ou sans intervention humaine, par la prétendue neutralité de la machine. Tandis que la science se technologise, il en va de même pour tous les domaines de la pensée et de l'action humaine, ce qui révèle peu à peu l'étendue de notre inconnaissance, tout en dévoilant de nouvelles possibilités.

L'abondance d'informations et la pluralité des points de vue sur le monde qui nous sont désormais accessibles via Internet ne produisent pas une réalité cohérente et consensuelle, mais une réalité marquée par une obstination intégriste envers les récits simplistes, les théories du complot et la politique post-vérité.

Tout n'est pas perdu : si nous sommes réellement capables de réinventer nos manières de penser, nous pouvons alors repenser le monde, le comprendre et y vivre différemment.

Vous pouvez même configurer le site en mode "lecture automatique", de sorte que lorsqu'une vidéo se termine, la suivante dans la liste recommandée se lance, et ainsi de suite ad vitam aeternam. Les gamins génèrent assez vite des profils de recommandation qui ne tardent pas à s'intensifier lorsque les enfants se focalisent sur un type particulier de vidéos et les relancent encore et encore. Les algorithmes adorent ça : ils identifient un besoin précis et tentent de le satisfaire.

La coopération entre l'homme et la machine s'avère une stratégie plus efficace que celle qui repose sur un ordinateur seul, même le plus puissant.

Le fonctionnement régulier de Wikipédia repose sur une armée d'agents logiciels - des bots - chargés de faire respecter et de maintenir un formatage correct, de créer des liens entre les articles et de modérer les conflits et les actes de vandalisme. Selon la dernière enquête, les bots représentaient dix-sept des vingt contributeurs les plus prolifiques et effectuaient à eux seuls 16% de toutes les modifications apportées à l'encyclopédie : une contribution, concrète et mesurable, du code lui-même à la production de connaissances.

La circulation continue d'informations sans date ni source dans les bandeaux d'actualité et les flux numériques a ruiné notre capacité à raconter des histoires cohérentes sur le monde.

La technologie reflète le monde réel , et non un monde idéal.

Il apparaissait clairement que la nature internationale d'Internet rendait impossible toute restriction à sa surveillance, toute objection à ce que les gouvernants espionnent leurs propres citoyens.

Le passé est un endroit très raciste. Et nous n'avons que des données du passé pour former l'intelligence artificielle.

Nous sommes en train d'insérer des systèmes computationnels opaques et mal maîtrisés à la base même de la pyramide des besoins de Maslow - respiration, nourriture, sommeil et homéostasie - autrement dit, exactement là où nous sommes les plus vulnérables.

"L'iPhone a besoin de refroidir avant de pouvoir être réutilisé", supplie un message d'erreur du dernier téléphone d'Apple lorsque la température ambiante grimpe au-dessus de 45° C. Aujourd'hui, en Europe, cette alerte peut se déclencher en laissant l'appareil dans une voiture au soleil...

Les ordinateurs ne sont pas là pour nous donner des réponses, ce sont des outils qui servent à poser des questions.

Élargir notre vision en nous intéressant aux formes d’intelligences non humaines constitue le thème central de ce livre. Cela s’inscrit dans une prise de conscience plus large et plus profonde de la réalité de plus en plus évidente, et impérieuse, de notre total entrelacement avec le monde plus qu’humain. C’est toute la signification de cette phrase, et les répercussions que cela a sur nous-mêmes, nos technologies et nos relations avec toutes les choses et tous ceux avec qui nous partageons la planète, que je vais explorer dans ce qui suit. Cette entreprise est à la fois urgente et fascinante. Si nous voulons répondre au saccage de la Terre à grande échelle et remédier à notre impuissance croissante face à la force des ordinateurs, nous devons trouver les moyens de réconcilier nos prouesses technologiques et l’idée de l’exceptionnalisme humain avec une sensibilité terrestre et une attention à l’interconnexion de toutes les choses. Nous devons apprendre à vivre avec le monde, plutôt que chercher à le dominer. En somme, c’est vers une écologie des technologies que nous devons nous orienter.

Une manière de changer la nature de ces relations passe donc par une révision de notre manière de penser l’intelligence : ce qu’elle est, comment elle agit sur le monde et qui en est doué. Au-delà du cadre étroit établi à la fois par les entreprises technologiques et par la doctrine de l’exceptionnalisme humain (l’idée que, parmi tous les êtres, l’intelligence des humains est singulière et supérieure), il existe toute une série d’autres façons de penser et de pratiquer l’intelligence. Les approcher et se les approprier nécessite de réinventer notre imaginaire. C’est la tâche à laquelle ce livre entend contribuer : regarder au-delà de nos propres personnes et de nos propres créations pour découvrir les nombreuses et diverses intelligences qui ont toujours été là, sous nos yeux, et qui, dans bien des cas, nous ont précédés. C’est peut-être ainsi que nous pourrons changer notre façon de penser le monde, et tracer un chemin vers un avenir qui soit moins extractiviste, destructeur et inégalitaire, et plus équitable, convivial et régénérateur.

Ce qui ressort de ce sombre constat, c’est que notre conception de l’intelligence artificielle – et donc, puisqu’elle est calquée sur la nôtre, de l’intelligence en général – est fondamentalement erronée et limitée. Lorsque nous parlons d’IA, nous parlons essentiellement de ce type d’intelligence d’entreprise sans penser à tout ce que l’IA – ou toute autre forme d’intelligence – pourrait être d’autre.
C’est ce qui se passe, de toute évidence, lorsque le développement de l’IA est essentiellement le fait d’entreprises technologiques financées par des fonds à capital-risque. La définition de l’intelligence qui est établie, adoptée et finalement intégrée dans les machines est axée sur la recherche du profit et l’extractivisme. Ce schéma se retrouve ensuite dans la littérature et au cinéma, dans les médias et dans l’imaginaire du grand public – à travers des récits de science-fiction mettant en scène des robots dominateurs et des algorithmes tout-puissants et incontrôlables –, et finit par régenter notre pensée et notre compréhension. Nous semblons incapables d’imaginer l’intelligence autrement, ce qui nous condamne non seulement à vivre avec cet imaginaire, mais aussi à le reproduire et à l’incarner, au détriment de nos intérêts et de la planète. Nous ressemblons de plus en plus aux machines que nous imaginons, ce qui a des effets profondément négatifs sur les relations que nous entretenons entre humains et avec le reste du monde.

Il y a véritablement quelque chose qui cloche dans l’utilisation des outils que nous avons à notre disposition. Cette idée a fait son chemin dans mon esprit ces dernières années, à mesure que j’observais comment l’utilisation des nouvelles technologies – en particulier les plus innovantes et les plus « intelligentes » – pouvait porter atteinte au bonheur et à la sécurité des êtres humains, et même à la vie elle-même. Je ne suis pas le seul à penser cela. La manière dont le développement de ces outils prétendument intelligents pourrait nous nuire, nous évincer et finalement nous supplanter est devenue le sujet d’un vaste champ d’études où l’on retrouve des informaticiens, des programmateurs et des entreprises technologiques, ainsi que des théoriciens et des philosophes de l’intelligence artificielle.