Matière à pensée

[La variabilité]

Bloquer tout processus de variabilité par une quelconque « dictature » serait, je pense, bloquer la fonction d’anticipation qui est propre au cerveau humain. Ce serait freiner sa capacité d’intégrer les données de son environnement culturel pour produire des modèles, des idées novatrices, qui contribuent à sa dynamique évolutive. Il est donc légitime d’accepter la variation aléatoire dans toute éthique naturelle qui se veut évolutive. N’est-ce pas là une des définitions les plus dynamiques qui soit de la liberté : le droit à l’imagination ?

D'une part ,il existe indépendamment de l'homme une réaliyé mathématique brute et immuable ,d'autre part , nous ne la percevons que grâce à notre cerveau ,au prix , comme disait Valéry ,d'un mélange rare de concentration et de désir.

[Questions d'éthique - Pour une morale naturelle, rationnelle et révisable]

Les théories morales déductives se prêtent au fanatisme, au dogmatisme le plus absolu, à un autoritarisme sans limites. Elles conduisent l’individu à abdiquer devant des postulats théoriques qui prétendent défendre le « bonheur » de l’humanité !
Pour Spinoza : « Rien ne nous est connu comme certainement bon ou mauvais que ce qui nous conduit à comprendre véritablement les choses, ou ce qui peut nous en éloigner » (Ethique, 27). L’intérêt se déplace, à l’opposé des théories déductives, vers les théories inductives. Selon elles, les principes éthiques sont adoptés et révisés sur la base de leur plausibilité, et de leur capacité à expliquer des jugements plus particuliers. Elles prennent donc en compte l’évolution culturelle de la société, de la connaissance scientifique, des techniques et des cultures. J’adopterai, bien entendu, le point de vue inductif, qui me paraît le plus acceptable pour le scientifique, du fait de la possibilité qu’il reconnaît d’une révision des normes morales, en fonction à la fois de l’apparition de nouveaux problèmes pratiques et du progrès des connaissances. Ce point de vue se rapproche de celui de la théorie de la justice de Rawls, qui commence à être connue en France. Très schématiquement, Rawls défend la méthode dite de l'équilibre réflexif. Les jugements se développent et sont soumis à des épreuves a posteriori, avec le souci de maintenir un maximum de cohérence interne et d’objectivité. Chaque jugement crée une pression de critiques et de justifications pour des changements de principes. Si le système social est redistributif, s’il rectifie les infortunes résultant des contingences sociales ou naturelles, il en résulte une éthique fondée sur la critique des normes morales et leur révision incessante pour libérer de nouvelles formes de conduites. Personnellement, cette philosophie me séduit parce qu’on peut lui découvrir des bases « neurales » et parce que, se rapprochant de la démarche de la science, elle protège d’une forme de totalitarisme, conséquence ultime des théories éthiques déductives. C’est une philosophie sans prétention, une « éthique des petits pas », qui résout les problèmes tels qu’ils se présentent, progressivement, et qui ne se fonde pas sur des postulats a priori, totalement inapplicables.

Dans ces conditions, il ne s’agit plus de soumettre la science aux impératifs des croyances, à l’autoritarisme des dogmes révélés ou d’une quelconque idéologie, mais de développer une critique des croyances, des idéologies et des normes morales, en fonction du développement de la science, pour en dériver de nouvelles règles de conduite plus objectivement justifiées. Je pense personnellement que le modèle inférentiel de communication, de reconnaissance des intentions, avec évaluation de leur cohérence rationnelle, et du développement d’un équilibre réflexif au sein du groupe social, permet d’élaborer une éthique dynamique, une « morale ouverte », sur des bases « neurocognitives » naturelles, sans aucun recours à des présupposés métaphysiques.

[intelligence artificielle, intentionnalité, fonction d’évaluation]

JPC : Qu’est-ce qui, selon toi, différencie le cerveau humain des machines construites de nos jours ? Et comment en concevoir une qui se rapprocherait du cerveau humain ?

AC : Examinons tout d’abord le cas des machines qui jouent aux échecs. L’intentionnalité est alors très simple : gagner la partie. C’est une chose extrêmement simple à définir. Définir une fonction d’évaluation qui estime à quel point on est proche de l’intention poursuivie pendant le jeu est relativement aisé. On peut donc construire une machine qui utilise une fonction d’évaluation déterminée par cette intentionnalité bien définie. Dans le cas du cerveau au contraire, l’intentionnalité change selon les problèmes qui se présentent. Le cerveau doit ainsi créer lui-même la fonction d’évaluation adéquate à une intentionnalité donnée. Plus précisément, il doit pouvoir apprécier si cette fonction d’évaluation est adaptée à l’intentionnalité donnée. Il doit donc, j’ignore comment, posséder une fonction d’évaluation de fonctions d’évaluation !

JPC : C’est ce qu’on peut appeler, avec Granger, la raison stratégique.

AC : Oui, mais je voulais établir une hiérarchie. D’une part, nous avons les fonctions d’évaluation. Une fonction d’évaluation peut être identifiée à un but. Se donner une intentionnalité revient un peu à se donner une fonction d’évaluation. Toutes les fonctions d’évaluation, certes, ne sont pas bonnes, parce que certaines correspondraient à des intentionnalités contradictoires, tandis que d’autres ne seraient adaptées à aucune intentionnalité. Mais on peut définir plus ou moins une intentionnalité comme une fonction d’évaluation cohérente. Dans une situation donnée, le cerveau doit pouvoir élaborer lui-même ce genre de fonction d’évaluation. Il doit donc être capable de créer, ou, tout du moins, de choisir parmi celles qui existent déjà. Et pour ce faire, il doit lui-même posséder une fonction d’évaluation établie une fois pour toutes qui lui permette de savoir si la fonction d’évaluation qu’il crée est adaptée au but qu’il poursuit.