Yann Le Cun

Question : Comment apprend-on à des algorithmes à imiter l’action de nos neurones ?
Réponse : [ …] grâce à des couches, des étages de neurones, tous capables d’ajustements, ces réseaux peuvent traiter des tâches complexes. Ils peuvent aussi tâtonner et trouver par eux-mêmes la bonne réponse, comme AlphaGo, en jouant des millions et des millions de parties de go [ ]. Ce qui leur manque, mais nous y travaillons, c’est un certain bon sens, une connaissance des situations courantes qui guide leur apprentissage. [ ]

Au sujet de l’intelligence artificielle : Il n’y a aucune raison pour que les machines que l’homme concevra aient – comme lui - des désirs, des pulsions et des remords. En revanche, les machines pourront peut-être ressentir une forme de frustration lorsqu’elles n’aboutiront pas à l’objectif qu’elles se sont fixés. Source Le Point 16/03/2017

La quête de la machine intelligente est motivée par le désir de nous connaître nous-mêmes. Les recherches sur l'IA et sur le cerveau s'enrichissent mutuellement.

Je termine mon doctorat en juin 1987 et je soutiens ma thèse à l’université Pierre-et-Marie-Curie (aujourd’hui rebaptisée Sorbonne Université) sur des béquilles : je me suis cassé la cheville en avril en expérimentant un nouveau mode de propulsion à voile sur sable ! Geoff Hinton est dans mon jury, ainsi que Maurice Milgram, Françoise Fogelman-Soulié, Jacques Pitrat (un des piliers de la recherche en IA symbolique en France) et Bernard Angéniol (directeur d’un groupe de recherche à Thomson-CSF). Un mois plus tard, je rejoins Geoff à Toronto, avec ma femme et notre bébé qui a maintenant 1 an. Mon épouse accepte de mettre sa carrière de pharmacienne entre parenthèses et d’élever notre fils pendant notre séjour outre-Atlantique qui, pensons-nous, ne doit pas durer plus d’un an…

J’ai entraîné avec moi un ami, Léon Bottou, un étudiant rencontré début 1987 alors qu’il était en dernière année de l’École polytechnique. Il s’était pris d’intérêt pour les réseaux de neurones et avait décidé de faire son stage de fin d’études avec moi, se gardant bien de dire à la direction de l’école que je n’étais pas encore docteur ! J’avais déjà le projet d’écrire un nouveau logiciel pour créer et entraîner des réseaux de neurones. Il s’agit d’un simulateur piloté par un interprète Lisp (un langage de programmation particulièrement flexible et interactif). Je demande à Léon de réaliser cet interprète Lisp, ce qu’il fait en trois semaines ! Notre collaboration est facilitée par le fait que nous possédons le même type d’ordinateur personnel : un Amiga de la société Commodore. À la différence des PC et Mac de l’époque, les Amiga ont des propriétés similaires aux stations de travail Unix répandues dans les départements d’informatique outre-Atlantique : on les programme en langage C avec le compilateur gcc et l’éditeur de texte Emacs. J’écris ma thèse sur mon Amiga avec le système de traitement de texte pour informaticiens LaTeX. Nous échangeons nos bouts de programmes à distance en connectant nos Minitel à nos Amiga…

Parmi mes premiers enchantements, je me souviens du compte rendu d’un débat au colloque de Cerisy sur l’inné et l’acquis, que je découvre en 1980. Le linguiste Noam Chomsky y affirmait qu’il existe dans le cerveau des structures préétablies qui permettent d’apprendre à parler. Le psychologue du développement Jean Piaget défendait, lui, l’idée que tout s’apprend, y compris une partie des structures, et que l’acquisition du langage se fait par étapes, au fur et à mesure de la construction de l’intelligence. L’intelligence serait donc le résultat d’un apprentissage fondé sur les échanges avec l’extérieur. L’idée me séduit, et je me demande comment elle peut être appliquée à la machine. D’éminents scientifiques participent à ce débat, notamment Seymour Papert. Dans cet ouvrage, il chante les louanges du perceptron, qu’il décrit comme une machine simple capable d’apprendre des tâches complexes.

[ L'ouvrage en question est : Théories du langage, théories de l’apprentissage : le débat entre Jean Piaget et Noam Chomsky, débat recueilli par Maximo Piatelli-Palmarini, Centre Royaumont pour une science de l’homme, Seuil, « Points », 1979. ]

Au chapitre « Le fameux sens commun » [qui manque cruellement à l’IA]
Si vous lui dites ‘Alexa, j’ai laissé tomber mon téléphone dans la baignoire’, elle ne saura pas que votre téléphone a pris de l’eau. Alexa aurait besoin d’un peu de bon sens, c’est-à-dire d’une certaine connaissance du fonctionnement du monde et de ses contraintes physiques. P 305
.
Quand nous apprenons à conduire sur une route bordée par un ravin sur la droite, nous savons, par notre modèle du monde, que si nous tournons le volant vers la droite, la voiture ira vers le ravin, et notre connaissance de la gravité nous permet de prédire qu’elle fera une vilaine chute. Nul besoin d’essayer. C’est ce modèle-là qui fait défaut pour l’instant aux machines. P309

Nous avons pris 3,5 milliards d’images d’Instagram et nous avons entraîné un réseau de neurones à prédire les hashtags que les gens ajoutent. Nous avons ainsi fait une liste des 17 000 hashtags les plus souvent tapés, et nous entraînons le réseau à prédire quels sont les hashtags parmi les 17 000 qui sont susceptibles d’être retenus pour une image particulière.
.
[ ] Les 17 000 hashtags recouvrent presque tout l’espace de concepts contenus dans les images. Une fois le réseau entraîné, on enlève la dernière couche [de neurones] (celle qui produit les hashtags), et on la remplace par une autre couche que l’on entraîne sur une tâche qui nous intéresse. Par exemple détecter des images violentes ou pornographiques pour les filtrer. P292

Question : Certains outils, comme la reconnaissance faciale, touchent aux libertés individuelles [ ]
Réponse : [ ] Les innovations peuvent toujours avoir des effets positifs ou négatifs. Prenez l’imprimerie, qui considérerait aujourd’hui qu’elle ait pu être néfaste ? Force est pourtant de constater qu’en diffusant les écrits de Calvin et Luther, elle a contribué à deux cents ans de conflits, de persécutions religieuses. Nos institutions démocratiques doivent y veiller. [ ] Des garde-fous sont clairement nécessaires. [ ]

Question : Dans votre livre [Quand la machine apprend, 2019], vous expliquez que les machines pourront un jour ressentir des émotions et même développer une forme de conscience. Cela paraît incroyable …
Réponse : Nous avons une vision un peu magique de notre cerveau. Même s’il est très différent d’un ordinateur, c’est une machine biochimique dont on peut décomposer, analyser le fonctionnement, le reproduire. [ ] Pour qu’un jour on puisse demander à un robot ménager : assure-toi que tout soit propre, il faudra qu’il soit doté d’un certain bon sens, d’un modèle du monde qui le guide. Et pour parvenir à une certaine autonomie, les machines devront ressentir des émotions, des sentiments tels que la peur, la douleur, la satisfaction. [Pour nous, les humains, ] si un but n’est pas atteint, l’insatisfaction nous pousse à agir, il en ira de même pour les machines. Pour l’instant, les plus sophistiqués des ordinateurs n’ont pas l’intelligence d’un chat, même s’ils disposent de capacités surhumaines sur une tâche très déterminée, circonscrite, comme le jeu d’échecs.

Question : Vous croyez donc à l’hypothèse de la « singularité », l’emballement des capacités des machines qui en viendront à surpasser l’intelligence humaine ?
Réponse : Absolument pas, ce décollage exponentiel est une vue de l’esprit qui ne tient pas compte des frictions du réel. [ ] De nombreux garde-fous peuvent nous en prémunir. Nous associons l’intelligence avec le désir de domination, mais ce penchant humain n’est ni universel ni inéluctable. Propre seulement à certains animaux sociaux, on ne l’observe pas, par exemple, chez les orangs-outans.