Robots tueurs

L'intelligence artificielle envahit notre quotidien et l'armée n'est pas la dernière à se poser la question de la place des robots dans son travail.
Les SALA - Système d'Armes Létal Autonome- seront bientôt une réalité dans les conflits, en tous les cas, c'est ce que les avancées des découvertes scientifiques laissent penser.
Partant des vertus et des faiblesses du soldat au combat, Brice Erbland cherche à dresser un "portrait type" de ce à quoi pourraient ressembler les SALA, de leurs limites, de leurs atouts, des risques qu'ils pourraient faire encourir. Tout en étant au conditionnel, cette recherche laisse entendre que, dans un futur proche, il nous faudra pour être compétents, utiliser ces SALA.
Réflexion certes pertinente, mais à mon sens inaboutie. Car l'enjeu n'est pas uniquement d'être compétents, mais bien de savoir quel monde nous voulons pour demain. Un monde régi par des machines ultra-performantes, plus performantes que l'homme lui-même ? Ou un monde plus humain et plus juste ?
S'il est légitime de se demander comment rester fort face à l'ennemi, il est regrettable que les questions éthiques posées par l'utilisation du SALA ne soient pas davantage fouillées. La Loi de Gabor, "ce qui peut être fait, le sera" devient une réalité, et encore une fois, c'est regrettable. La logique de performance écrase tout autre logique... Or, toutes les découvertes et avancées scientifiques ne seront pas bénéfiques à l'humanité. La question urgente et essentielle est celle de savoir si nous sortirons grandis en humanité, faisant usage de notre intelligence d'une manière éclairée, de notre liberté, ou si ce n'est pas un risque bien réel d'aliénation qui se profile.
La grandeur de l'homme s'exprime dans sa capacité à s'adapter, dans sa générosité, son enthousiasme, son originalité, son altruisme, que sais-je encore... tout ce qui reflète un peu de ce qu'il est profondément : un être libre. Pas parfait certes, mais libre.
Dans ce sens, les références à Peter Singer qui a une bien piètre idée de la grandeur de l'homme, me laissent songeuse...L'auteur termine cependant en exprimant quelques réserves personnelles : "Je reste intimement convaincu des limites éthiques à fixer à l'emploi de ces machines, et j'avoue penser au fond de moi qu'il serait préférable de ne pas les créer."
Merci toutefois aux éditions Armand Colin et à Babelio pour cette lecture fort instructive !

L'arrivée massive des technologies modernes dans les armées a bouleversé le sens établi.
Dans cette étude riche, mais non exhaustive, menée par Brice Erbland - officier supérieur dans l'armée de Terre - on part du postulat de l'introduction imminente des SALA (Système d'Armes Létal Autonome) non pas en remplacement, mais plutôt en accompagnement des soldats humains.
"... le SALA, une fois déployé dans les forces et à condition que sa première projection ne soit pas une catastrophe, fera partie intégrante du paysage militaire."
Dans une suite de démonstrations, construites tour à tour sur des affirmations, des interrogations, des expériences mais également des projections, l'auteur en tire, pour chacun des points soulevés, une déduction qui permet une meilleure structure de raisonnement.
Après une introduction dans laquelle l'auteur pose le postulat inéluctable de l'introduction du SALA au coeur des armées, l'essentiel du corpus se divise ensuite en quatre chapitres.
Le premier étudie les conséquences de l'emploi des robots soldats, tant sur la rupture sociologique de la guerre qu'il représente, que par le biais stratégique et ses conséquences tactiques.
Dans une seconde partie, l'auteur met en opposition les émotions et les algorithmes dans le processus de programmation du SALA, en listant d'une part les faiblesses humaines au combat puis ses vertus. Il en résultera nécessairement une complexité dans l'architecture de programmation d'un module de décision moral pour un SALA.
Le troisième chapitre de cette étude est consacré à la programmation d'une éthique artificielle. le véritable défi des ingénieurs est de traduire en logiciel l'ensemble des caractéristiques émotionnelles du soldat humain, et notamment la complexe notion de "conscience".
Et enfin, dans une dernière partie, l'auteur établit un parallèle avec la littérature.
"La littérature apporte donc d'autres visions possibles de notre avenir et permet de confronter des constats réalistes et scientifiques à l'audace illimitée de l'imagination."
L'auteur dresse, in fine, le pour et le contre de l'introduction des SALA dans les combats.
Nonobstant l'arrivée inéluctable des robots dans le paysage militaire, la question principale est de savoir jusqu'où ceux-ci peuvent se substituer à l'homme.
L'objectif de cette étude est, pour l'essentiel, de lancer un débat, comme nous le rappelle l'auteur à la fin de cet ouvrage.
Bien que nous puissions reconnaître à Brice Erbland une tentative de vulgarisation de l'approche technique de stratégie militaire, je trouve, pour ma part, que le développement général reste une peu trop "simpliste".
Son étude est influencée par son approche personnelle du sujet.
Je remercie Babelio et les Editions Armand Colin pour cette découverte.

Lien : https://missbook85.wordpress..

L'intelligence artificielle, les robots et leur emploi dans le domaine militaire sont des sujets qui reviennent régulièrement ces derniers temps dans la presse spécialisée et généraliste. Peu de temps avant de lire ce livre, j'avais déjà pu consulter un article d' Amnesty International sur la question de ces « robots tueurs » ; un article intéressant et engagé. Ici, le point de vue est inverse puisque « Robots tueurs, que seront les soldats de demain ? » est rédigé par un officier de l'armée de Terre. Là aussi, il y a bien un parti pris mais l'auteur ne verse jamais dans un manichéisme irraisonné. le point de vue de Brice Erbland est intéressant puisqu'il est riche de son expérience sur le terrain.


J'ai toutefois trouvé son étude assez faible. Les réflexions apportées sont pertinentes mais toujours aussi intéressantes qu'elles devraient l'être car l'auteur se cantonne à de la théorie, à des suppositions. Trop de futur et de conditionnel. Ce qui manque cruellement à cet ouvrage est un état des lieux actuel des avancées technologiques sur ces systèmes d'armes létaux autonomes (SALA). Il n' y a pas assez de cas concrets. L'article d' Amnesty International parlait par exemple du robot SGR-A1 chargé de surveillé la zone démilitarisé entre la Corée du Sud et la Corée du Nord. Brice Erbland s'enferme dans le futur et dans le sujet réducteur de l'éthique de telles machines. Ses déductions sont intéressantes mais leurs développements parfois indigestes. En tant que lecteur de SF, j'ai en revanche apprécié le chapitre sur les robots dans la littérature.


Je ressors assez déçu de cette lecture qui ne fut pas aussi enrichissante que prévu. Je remercie néanmoins Babelio et les éditions Armand Colin pour l'envoi de cet essai.