Stanislas Dehaene

Notre arbre généalogique, qui ne s'appuie parfois que sur quelques tibias, deux ou trois molaires, des morceaux de crâne et des fragments d'ADN, a déjà été maintes fois révisé.

Il n'y a pas de plus belle leçon d'humilité que de prendre conscience que le flux de notre conscience, tout ce flot d'images et de mots qui surgit en nous et forme la texture même de notre vie mentale, provient des décharges aléatoires de nos neurones corticaux, sculptés par les trillions de synapses que des années de maturation cérébrale et d'éducation ont inscrites en nous.

Seule une théorie mathématique peut expliquer comment le mental se réduit au neural. Les neurosciences attendent encore leur Maxwell ou leur Boltzmann qui formulera les lois de mise liaison de ces deux domaines. Cela ne sera pas chose facile, car la « matière condensée » du cerveau est l'objet le plus complexe de l'univers.

Nous leurrer nous-mêmes... tel sans doute le prix que nous devons payer pour ce don qu'est la conscience humaine : la capacité de communiquer à d'autres, de façon rudimentaire, notre état d'esprit, avec juste assez d'introspection sur nos propres limites pour nous permettre de prendre, collectivement, des décisions avantageuses pour tous. Toute imparfaite qu'elle soit, c'est bien cette capacité humaine d'introspection et de partage social qui a engendré les alphabets ; les cathédrales, les avions à réaction et le homard thermidor.

Plus nous en apprenons sur l'inconscient, mieux nous cernons, par élimination, les frontières de la conscience. Toute photographie de l'inconscient esquisse, en négatif, une image de l'esprit conscient.

On ne peut que se demander combien de Noirtier et de Bauby meurent parce que l'équipe médicale n'a pas su détecter leur conscience résiduelle ou entrevoir qu'ils sortiraient prochainement du coma et recouvriraient une vie mentale digne d'être vécue.

Se tromper est naturel, cela prouve simplement que l'on a essayé !

Notre espèce est la seule à pratiquer le partage d'informations [...]
L'extraordinaire efficacité avec laquelle nous parvenons, en quelques mots, à partager notre savoir avec d'autres ("pour la boulangerie, prenez à droite dans la petite rue derrière l'église") reste inégalée dans le monde animal comme en informatique.

Pendant des décennies, une vive controverse a opposé les rationalistes et les défenseurs du caractère sacré de la personne humaine. Les provocations abondent dans les deux camps. Ainsi le philosophe Michael Tooley, de l'Université du Colorado, écrit-il sans ménagements que « les nouveau-nés humains ne sont ni des personnes, ni même des quasi-personnes, et leur destruction n'a donc rien d'intrinsèquement mauvais ». Tooley va jusqu'à dire qu'avant l'âge de 3 mois l'infanticide peut se justifier sur le plan moral parce qu'un nouveau-né «ne possède aucun concept de la permanence de soi, pas plus qu'un chaton qui vient de naître», et qu'en conséquence il n'a « aucun droit à la vie ». En écho à ces sinistres propos, le professeur Peter Singer, qui enseigne pourtant la bioéthique à l'Université de Princeton, soutient que « la vie, dans le sens moralement fort du terme, ne commence que lorsqu'il existe une conscience de sa propre existence à travers le temps [ ... ]. Le fait qu'un être soit un être humain, qu'il appartienne à l'espèce Homo sapiens, n'est pas pertinent dans le débat s'il est bien ou mal de le tuer. Ce qui compte, ce sont des caractéristiques telles que la rationalité, l'autonomie et la conscience de soi. Or les bébés ne possèdent aucune de ces caractéristiques. Les tuer n'a donc rien de comparable au meurtre d'êtres humains normaux ou d'autres êtres dotés d'une conscience de soi ».

Ces affirmations péremptoires sont ridicules. Elles s'opposent violemment aux intuitions morales que nous partageons tous, et selon lesquelles tous les êtres humains, depuis les prix Nobel jusqu'aux enfants handicapés, ont les mêmes droits à la vie. Elles violent également toutes nos intuitions sur la conscience - posez la question à n'importe quelle mère qui vient d'échanger son premier regard avec son nouveau-né. Mais le plus choquant, à mon sens, c'est que Tooley et Singer prononcent leurs terrifiants oukases sans se préoccuper le moins du monde des données expérimentales. Comment savent-ils que les bébés sont dépourvus de toute conscience ? S'appuient-ils sur la littérature scientifique ? Absolument pas : leurs affirmations ne reposent que sur des a priori détachés de toute réalité expérimentale - et souvent complètement faux.

Comme toutes les inventions, elles pourraient être mal employées, et il faudra les encadrer. Mais je veux croire que l'humanité saura les orienter vers le bien : guérir, adoucir, embellir notre condition d'homme neuronal, comme le font déjà tant d'autres découvertes humaines.

Regarder notre cerveau en face exige lucidité et courage. Nous sommes peu de chose, juste le motif électrique d'un mince tissu de neurones, et notre esprit disparaîtra avec notre cerveau.

Le concept d'expérimentation est l'une des plus belles idées que les scientifiques peuvent apporter à l'éducation. L'enseignement doit cesser d'être soumis aux vents et aux marées des changements politiques. Trop souvent, dans le domaine éducatif, notre intuition nous trompe. Le seul souci de bien faire, de s'engager dans une démarche pédagogique, d'être enthousiaste et à l'écoute des enfants ne constitue pas un critère suffisant d'efficacité.

J.G. : Bref : ce qui peut rendre l'intelligence artificielle dangereuse, ce serait avant tout la bêtise ?
Y.L.C. : Oui !
S.D. : C'est une bonne façon de conclure.

 

... les chats sont beaucoup plus curieux que les chiens.

En sciences cognitives, on ne fait plus la distinction entre cognition et émotion. Nous pensons que les émotions sont des calculs spécifiques qui ont évolué pour signaler des dangers ou des opportunités utiles à l'organisme et qui mobilisent l'ensemble du corps. Il n'y a aucune raison que ce type d'intelligence - l'intelligence des émotions - soit exclu des machines.

Pour moi, il est clair que des machines intelligentes, autonomes, auront des émotions. 

Selon Freud, le premier homme qui lança une insulte au lieu d'une pierre aurait inventé la civilisation. Les machines intelligentes ne nous lanceront sûrement pas des pierres, mais des insultes, peut-être.

Chaque fois que l'intelligence artificielle avance, on dit que ce n'était pas un vrai problème !

Il me semble que la composante innée est un peu sous-estimée dans les réseaux actuels d'intelligence artificielle.

Il faut noter que l'apprentissage humain se fait, lui, avec très peu d'essais. Ce qui me frappe actuellement dans les algorithmes, c'est la quantité effroyable de données qu'il faut au système pour qu'il en tire des conclusions.