Citation de ileana
Question : Dans votre livre [Quand la machine apprend, 2019], vous expliquez que les machines pourront un jour ressentir des émotions et même développer une forme de conscience. Cela paraît incroyable …
Réponse : Nous avons une vision un peu magique de notre cerveau. Même s’il est très différent d’un ordinateur, c’est une machine biochimique dont on peut décomposer, analyser le fonctionnement, le reproduire. [ ] Pour qu’un jour on puisse demander à un robot ménager : assure-toi que tout soit propre, il faudra qu’il soit doté d’un certain bon sens, d’un modèle du monde qui le guide. Et pour parvenir à une certaine autonomie, les machines devront ressentir des émotions, des sentiments tels que la peur, la douleur, la satisfaction. [Pour nous, les humains, ] si un but n’est pas atteint, l’insatisfaction nous pousse à agir, il en ira de même pour les machines. Pour l’instant, les plus sophistiqués des ordinateurs n’ont pas l’intelligence d’un chat, même s’ils disposent de capacités surhumaines sur une tâche très déterminée, circonscrite, comme le jeu d’échecs.
Question : Vous croyez donc à l’hypothèse de la « singularité », l’emballement des capacités des machines qui en viendront à surpasser l’intelligence humaine ?
Réponse : Absolument pas, ce décollage exponentiel est une vue de l’esprit qui ne tient pas compte des frictions du réel. [ ] De nombreux garde-fous peuvent nous en prémunir. Nous associons l’intelligence avec le désir de domination, mais ce penchant humain n’est ni universel ni inéluctable. Propre seulement à certains animaux sociaux, on ne l’observe pas, par exemple, chez les orangs-outans.
Réponse : Nous avons une vision un peu magique de notre cerveau. Même s’il est très différent d’un ordinateur, c’est une machine biochimique dont on peut décomposer, analyser le fonctionnement, le reproduire. [ ] Pour qu’un jour on puisse demander à un robot ménager : assure-toi que tout soit propre, il faudra qu’il soit doté d’un certain bon sens, d’un modèle du monde qui le guide. Et pour parvenir à une certaine autonomie, les machines devront ressentir des émotions, des sentiments tels que la peur, la douleur, la satisfaction. [Pour nous, les humains, ] si un but n’est pas atteint, l’insatisfaction nous pousse à agir, il en ira de même pour les machines. Pour l’instant, les plus sophistiqués des ordinateurs n’ont pas l’intelligence d’un chat, même s’ils disposent de capacités surhumaines sur une tâche très déterminée, circonscrite, comme le jeu d’échecs.
Question : Vous croyez donc à l’hypothèse de la « singularité », l’emballement des capacités des machines qui en viendront à surpasser l’intelligence humaine ?
Réponse : Absolument pas, ce décollage exponentiel est une vue de l’esprit qui ne tient pas compte des frictions du réel. [ ] De nombreux garde-fous peuvent nous en prémunir. Nous associons l’intelligence avec le désir de domination, mais ce penchant humain n’est ni universel ni inéluctable. Propre seulement à certains animaux sociaux, on ne l’observe pas, par exemple, chez les orangs-outans.