Intelligence artificielle, intelligence humaine : la double énigme

L'intelligence artificielle devient ici un terme passe-partout englobant l'ensemble des systèmes numériques visant à faciliter, amplifier, automatiser, compléter l'action humaine dans tous les domaines.

L'intelligence artificielle peut résoudre certains problèmes ou accomplir certaines tâches sans comprendre ce qu'elle fait.

La poursuite d'une intelligence artificielle dotée d'une intelligence humaine est sans objet : selon la conception de l'intelligence que je défends, l'intelligence au sens humain ne peut s'attacher qu'à une être humain.

La numérisphère est à la fois un système d'objets et de processus en interaction, et un monde dans lequel nous sommes immergés.

On a montré par exemple qu'il suffit de coller un morceau de sparadrap à un certain endroit d'un panneau routier pour induire un système à le prendre pour un panneau "45 milles/heure", erreur qu'aucun conducteur humain ne ferait et dont on imagine les conséquences fatales. Bien entendu, des parades existent, mais on ne peut les déployer qu'après coup, car on ne dispose d'aucune théorie de contrôle de l'erreur : on ne peut que traiter, une à une, les erreurs à mesure qu'elles apparaissent.

Ne recourir aux SAI (système artificiel intelligent) que lorsque les avantages, toutes choses considérées, l'emportent largement sur les inconvénients et dangers prévisibles ; et quand cette condition est remplie, nous limiter à des SAI juste assez puissants pour assumer les taches que nous leur assignons.