>
Critique de Piotelat
Je viens de terminer le livre d'une spécialiste de l'intelligence artificielle, Laurence Devillers : "Des robots et des hommes". J'ai adoré et je pense que l'on aurait besoin de ses conseils pour garder les pieds sur Terre.
[..]
Le livre commence par une fiction mettant en scène 5 foyers dans un même immeuble qui achètent chacun un robot de la même série, MARVIN. Ce nom est inspiré du robot qui a donné la réponse à la vie, l'univers et le reste dans l'oeuvre de Douglas Adams.
Les robots ont été achetés pour des raisons différentes.
- THEO et AIKO pour jouer aux cartes avec leurs propriétaires, qui sont amies.
- RO42 a été acheté par le pharmacien qui suit des cours de robotique et espère le programmer.
- JEDI aide les enfants à faire leurs devoirs.
- LILY a été prescrit par un médecin pour soigner une dépression après un burn out.
Dans un premier temps, les 5 robots vont apprendre ce que les humains vont leur dire, qu'il s'agisse des bêtises d'un enfant ou d'informations personnelles. La propriétaire de Lily va avoir des doutes quand elle s'apercevra que les robots échangent des informations entre eux. Il n'y a plus de vie privée dans l'immeuble.
A partir de cette fiction, l'auteur nous fait à la la fois part de ses recherches et nous met en garde.
La première partie du livre "Des Robots et des Hommes" est largement consacrée à la science-fiction. Chaque chapitre débute par une citation d'Isaac Asimov. Et bien sûr, tout commence avec les trois lois de la robotique, plus que jamais d'actualité.
[..]
En lisant le livre publié en 2017, j'ai eu l'impression qu'il était déjà dépassé, qu'il faudrait l'actualiser tous les 6 mois, tous les mois, toutes les semaines. Il faudrait rajouter des "Oui mais..." par exemple, "un robot doit respecter les trois lois de la robotique, oui mais la seule solution que cela soit respecté est d'interdire les robots tueurs, or l'armée va financer les recherches en robotique si elle peut utiliser ce qui en sortira." Et même si toutes les nations signaient un tel accord, qui dit qu'une organisation ne fabriquerait de robot tueur dans son coin ?
[..]
Laurence Devillers ne travaille pas sur les robots tueurs ou sur l'algorithme de twitter, mais sur les robots sociaux comme les MARVIN. Elle contribue à l'élaboration d'une charte internationale qui présente 4 leviers importants :
1- éduquer ingénieurs, chercheurs, journalistes...
2- expliciter les règles morales pour ces robots.
3- faire des règles et des outils qui soient capables de vérifier ces règles.
4- nous munir de règles juridiques en cas d'abus.
La lecture du livre "Des robots et des hommes" est plus que jamais indispensable dans un monde complexe, où comme on le voit avec l'affaire Benalla, le militaire était avant tout politique, mais il y a aussi un aspect commercial avec les sommes importantes versées par Twitter à une ONG. Mettre un peu d'éthique là-dedans devient urgent !
Lien : https://zazaa.blogspot.com/2..
[..]
Le livre commence par une fiction mettant en scène 5 foyers dans un même immeuble qui achètent chacun un robot de la même série, MARVIN. Ce nom est inspiré du robot qui a donné la réponse à la vie, l'univers et le reste dans l'oeuvre de Douglas Adams.
Les robots ont été achetés pour des raisons différentes.
- THEO et AIKO pour jouer aux cartes avec leurs propriétaires, qui sont amies.
- RO42 a été acheté par le pharmacien qui suit des cours de robotique et espère le programmer.
- JEDI aide les enfants à faire leurs devoirs.
- LILY a été prescrit par un médecin pour soigner une dépression après un burn out.
Dans un premier temps, les 5 robots vont apprendre ce que les humains vont leur dire, qu'il s'agisse des bêtises d'un enfant ou d'informations personnelles. La propriétaire de Lily va avoir des doutes quand elle s'apercevra que les robots échangent des informations entre eux. Il n'y a plus de vie privée dans l'immeuble.
A partir de cette fiction, l'auteur nous fait à la la fois part de ses recherches et nous met en garde.
La première partie du livre "Des Robots et des Hommes" est largement consacrée à la science-fiction. Chaque chapitre débute par une citation d'Isaac Asimov. Et bien sûr, tout commence avec les trois lois de la robotique, plus que jamais d'actualité.
[..]
En lisant le livre publié en 2017, j'ai eu l'impression qu'il était déjà dépassé, qu'il faudrait l'actualiser tous les 6 mois, tous les mois, toutes les semaines. Il faudrait rajouter des "Oui mais..." par exemple, "un robot doit respecter les trois lois de la robotique, oui mais la seule solution que cela soit respecté est d'interdire les robots tueurs, or l'armée va financer les recherches en robotique si elle peut utiliser ce qui en sortira." Et même si toutes les nations signaient un tel accord, qui dit qu'une organisation ne fabriquerait de robot tueur dans son coin ?
[..]
Laurence Devillers ne travaille pas sur les robots tueurs ou sur l'algorithme de twitter, mais sur les robots sociaux comme les MARVIN. Elle contribue à l'élaboration d'une charte internationale qui présente 4 leviers importants :
1- éduquer ingénieurs, chercheurs, journalistes...
2- expliciter les règles morales pour ces robots.
3- faire des règles et des outils qui soient capables de vérifier ces règles.
4- nous munir de règles juridiques en cas d'abus.
La lecture du livre "Des robots et des hommes" est plus que jamais indispensable dans un monde complexe, où comme on le voit avec l'affaire Benalla, le militaire était avant tout politique, mais il y a aussi un aspect commercial avec les sommes importantes versées par Twitter à une ONG. Mettre un peu d'éthique là-dedans devient urgent !
Lien : https://zazaa.blogspot.com/2..
