>
Critique de JeFdeNantes
Singularité est un terme mathématique qui désigne par exemple une rupture sur une courbe régulière – comme un retour en arrière ou un changement de cap. Dans la foulée de romans et films de science-fiction, et pour différentes raisons, dont mercantiles, le terme a été ensuite utilisé pour désigner le point de rupture vers lequel convergeraient des technologies de l'informatique, de la robotique et de l'algorithmique. Singularité : l'homme dépassé par des machines autonomes. Une fiction selon Jean-Gabriel GANASCIA, qui développe ses arguments dans un ouvrage inspirant.
Science-fiction
Sur une planète qui était une fois celle des singes, des primates découvrent un monolithe, pierre noire de forme rectangle, qui irradie la bande d'une énergie inconnue : celle de la connaissance. L'un des chimpanzés saisit un os, découvre qu'il peut devenir outil… ou arme, et le jette en l'air. le mouvement de rotation dans le ciel est accompagné de la valse « Beau Danube Bleu ».
Dans l'image suivante, l'os se fait station orbitale, tournoyant dans l'immensité noire de l'espace. Art du récit en ellipse et du rapprochement de deux images. Stanley KUBRICK exploite dans cette scène de son chef d'oeuvre de science fiction le pouvoir du cinéma : celui de s'abstraire des contraintes du temps.
L'un des personnages du film 2001, l'Odysée de l'Espace est le super-ordinateur HAL-9000, doté d'une intelligence artificielle, dont l'oeil rouge veille sur le vaisseau de la mission spatiale Discovery One.
Intelligence… et conscience artificielle. Avec la conscience d'être vivant, vient aussi l'illusion du pouvoir de l'égo… et l'angoisse de la mort. HAL les développe et devient comme paranoïaque. Il provoque des pannes, ment, devine des conversations secrètes et met en danger la sécurité des hommes… qui parviennent finalement à débrancher ses circuits.
Dans un dernier souffle numérique, HAL confie à un rescapé de ses attaques une émotion ultime « I am afraid, Dave… ».
Avec cette scène, le film pose cette question : l'homme sera-t-il dépassé par des ordinateurs, devenus conscients – au-delà de leurs capacités de calcul inaccessibles à l'humain ?
Science sans fiction
Pour le chercheur Jean-Gabriel GANASCIA, spécialiste de l'intelligence artificielle et président du comité d'éthique du CNRS, la singularité est une illusion. Il propose pour éclairer les consciences une critique documentée et argumentée du mythe de la singularité et apporte un recul étayé sur les craintes ou les spéculations qui lui sont associées – en particulier par de grands noms scientifiques, comme Stephen HAWKING. Il convoque pour cela les origines philosophiques, scientifiques et épistémologiques des tenants de la singularité, dont Raymond KURTZWEIL, examine leurs arguments et leur oppose une analyse raisonnée, appuyée sur son expérience de chercheur et sa connaissance des technologies.
En particulier, il rappelle que les machines restent soumises au déterminisme de leur programmation :
« Même douées d'apprentissage et de capacité à faire évoluer leurs programmes, les machines n'acquièrent pas pour autant d'autonomie, car elles restent soumises aux catégories et aux finalités imposées par ceux qui auront annotés les exemples utilisés durant la phase d'apprentissage. (…/…) Les machines ne modifient pas d'elles-mêmes le langage dans lequel s'expriment les observations qui alimentent leur mécanisme d'apprentissage et les connaissances qu'elles construisent. »
Les risques liés au développement de technologies, comme l'intelligence artificielle sont, au-delà de situations dont les chercheurs et ingénieurs évaluent la probabilité et s'assurent de l'innocuité, peut-être d'une autre nature. Celle de leur inégalité de diffusion et de leur utilisation sans limites à des fins de destruction, de domination ou de manipulation. Cela sera le fait des hommes… et non des machines elles-mêmes.
L'utilisation que nous ferons d'une technologie dépend de nous seulement et il est inadéquat de confondre un outil et l'usage que l'on peut en faire — pour lui faire porter une responsabilité qu'il n'a pas.
« Science sans conscience n'est que ruine de l'âme » avertissait l'épicurien François RABELAIS. Entre Prométhée et Cassandre, il s'agit à chacun de répondre à cette éternelle question, plus que jamais d'actualité XXIème siècle. Et d'agir en conséquence – et avant peut-être que les changements globaux à venir n'obèrent nos marges de décision, que certains affirment comme déjà réduites.
Science-fiction
Sur une planète qui était une fois celle des singes, des primates découvrent un monolithe, pierre noire de forme rectangle, qui irradie la bande d'une énergie inconnue : celle de la connaissance. L'un des chimpanzés saisit un os, découvre qu'il peut devenir outil… ou arme, et le jette en l'air. le mouvement de rotation dans le ciel est accompagné de la valse « Beau Danube Bleu ».
Dans l'image suivante, l'os se fait station orbitale, tournoyant dans l'immensité noire de l'espace. Art du récit en ellipse et du rapprochement de deux images. Stanley KUBRICK exploite dans cette scène de son chef d'oeuvre de science fiction le pouvoir du cinéma : celui de s'abstraire des contraintes du temps.
L'un des personnages du film 2001, l'Odysée de l'Espace est le super-ordinateur HAL-9000, doté d'une intelligence artificielle, dont l'oeil rouge veille sur le vaisseau de la mission spatiale Discovery One.
Intelligence… et conscience artificielle. Avec la conscience d'être vivant, vient aussi l'illusion du pouvoir de l'égo… et l'angoisse de la mort. HAL les développe et devient comme paranoïaque. Il provoque des pannes, ment, devine des conversations secrètes et met en danger la sécurité des hommes… qui parviennent finalement à débrancher ses circuits.
Dans un dernier souffle numérique, HAL confie à un rescapé de ses attaques une émotion ultime « I am afraid, Dave… ».
Avec cette scène, le film pose cette question : l'homme sera-t-il dépassé par des ordinateurs, devenus conscients – au-delà de leurs capacités de calcul inaccessibles à l'humain ?
Science sans fiction
Pour le chercheur Jean-Gabriel GANASCIA, spécialiste de l'intelligence artificielle et président du comité d'éthique du CNRS, la singularité est une illusion. Il propose pour éclairer les consciences une critique documentée et argumentée du mythe de la singularité et apporte un recul étayé sur les craintes ou les spéculations qui lui sont associées – en particulier par de grands noms scientifiques, comme Stephen HAWKING. Il convoque pour cela les origines philosophiques, scientifiques et épistémologiques des tenants de la singularité, dont Raymond KURTZWEIL, examine leurs arguments et leur oppose une analyse raisonnée, appuyée sur son expérience de chercheur et sa connaissance des technologies.
En particulier, il rappelle que les machines restent soumises au déterminisme de leur programmation :
« Même douées d'apprentissage et de capacité à faire évoluer leurs programmes, les machines n'acquièrent pas pour autant d'autonomie, car elles restent soumises aux catégories et aux finalités imposées par ceux qui auront annotés les exemples utilisés durant la phase d'apprentissage. (…/…) Les machines ne modifient pas d'elles-mêmes le langage dans lequel s'expriment les observations qui alimentent leur mécanisme d'apprentissage et les connaissances qu'elles construisent. »
Les risques liés au développement de technologies, comme l'intelligence artificielle sont, au-delà de situations dont les chercheurs et ingénieurs évaluent la probabilité et s'assurent de l'innocuité, peut-être d'une autre nature. Celle de leur inégalité de diffusion et de leur utilisation sans limites à des fins de destruction, de domination ou de manipulation. Cela sera le fait des hommes… et non des machines elles-mêmes.
L'utilisation que nous ferons d'une technologie dépend de nous seulement et il est inadéquat de confondre un outil et l'usage que l'on peut en faire — pour lui faire porter une responsabilité qu'il n'a pas.
« Science sans conscience n'est que ruine de l'âme » avertissait l'épicurien François RABELAIS. Entre Prométhée et Cassandre, il s'agit à chacun de répondre à cette éternelle question, plus que jamais d'actualité XXIème siècle. Et d'agir en conséquence – et avant peut-être que les changements globaux à venir n'obèrent nos marges de décision, que certains affirment comme déjà réduites.
