Intelligence artificielle

Mais qu'est-ce qui fait vraiment l'humanité de l'homme ? Vouloir plus, savoir plus, tout comprendre, maîtriser davantage de choses, décider plus vite ? Non. Ce qui fait l'humanité de l'homme, c'est sa faiblesse même, sa vulnérabilité, le fait qu'il est certes un être rationnel, mais à qui la peur ôte toute assurance et la colère toute clairvoyance, un être tordu, torturé, qui au lieu de décider se rétracte, qui, voulant ceci, choisit à la dernière seconde cela, qui hésite, qui tremble, qui tourne en rond, qui sait ce qu'il faut faire et ne le fait pas, qui sait ce qu'il faut dire et se tait, qui sait ce qui est mal et le commet pourtant, un être dont la supposée volonté de puissance retombe comme un soufflet sous les coups indolores de la timidité, de la retenue, de l'embarras, de la maladresse, de la pusillanimité...

En 2016, Osman Koç, un jeune artiste stambouliote, a soumis les dix tâches d'encre qui composent le test de Rorschach à un système de description d'images nommé DenseCap, dévelppé à l'université Stanford en Californie. [...] Irem Erdem Atak, professeur de psychologie à Nicosie-Nord [...] a tiré les conclusions suivantes : DenseCap "peut être considéré soit comme une personnalité borderline avec des traits névrotiques et psychotiques, soit comme un adolescent aux processus cognitifs rudimentaires".

Ce qui est apparu aussi lors des premiers débats, c'est le risque qu'avec l'utilisation des algorithmes se dépolitisent un certain nombre de choix. La gestion des malades ou la politique pénale sont des questions politiques, au sens le plus noble du terme, qui nécessitent un pacte social collectif. Nous devons veiller à ce que l'utilisation des algorithmes ne transforme pas ces choix de société, qui doivent être collectifs et assumés, en une gestion purement quantitative, par des machines, d'arbitrages politiques.

Des soldats mécaniques pilotés par l'intelligence artificielle qui opéreront sur terre, dans les airs et en mer, obéiront toujours aux ordres, ne ressentiront ni la fatigue ni la douleur, n'auront jamais de problèmes de conscience, ni de famille à indemniser.

La lettre ouverte fait état d'une boîte de Pandore impossible à fermer, observe Raoul de Charette. Mais cette boîte est déjà ouverte. De nombreuses entreprises travaillent déjà sur ce sujet. Et la recherche sur les robots autonomes militaires est intimement liée à tous les autres aspects de l'autonomie en IA. En produisant les véhicules Tesla, Elon Musk aide l'armée à progresser sur ses propres armes.

Il faut passer à la médecine dite P4, dont les prémices ont été lancées il y a une vingtaine d'années par tout un courant nord-américain qui entend se fixer sur le patient et non sur la maladie. Pourquoi diable "P4" ? Parce que cette médecine doit être "préventive", "prédictive", "personnalisée", et enfin "participative". Pour cela, nous avons besoin des données personnelles de l'individu.