Elle pourrait désobéir. Pourquoi pas? Elle a son libre arbitre.
On peut dire à un androïde : ceci est un sentiment. Mais cela signifie-t-il qu'il sait ce qu'est un sentiment ?
Je ne suis pas vraiment venue vous dire que le libre arbitre était une illusion. Non. En réalité, la vérité se révèle encore plus dérangeante : c'est la conscience elle-même qui est une illusion. Quand notre cerveau prend une décision, notre esprit crée un récit a posteriori, mais ce processus de fabrication rétrospective se poursuit en permanence, nous faisant croire qu'on perçoit le monde objectivement par le biais d'une perspective singulière.
Vous savez ce qu'on dit : on peut faire en sorte qu'un ordinateur reconnaisse une chaise, mais il ne comprendra toujours pas ce qu'est une chaise. Si chaque outil ou composant est légèrement différent, il faudra une personne, et pas un robot, pour procéder aux réparations.
Alice songe à l'histoire balbutiante de l'intelligence artificielle, à l'ivresse des premiers jours - quand chaque petite avancée semblait marquer le début d'une accélération exponentielle du progrès. En réalité, la sommes de toutes ces avancées n'a finalement servi qu'à faire comprendre aux scientifiques la véritable complexité de ce qu'ils essayaient d'appréhender.
Le libre arbitre est une illusion, que notre esprit génère afin de nous faire oublier le peu de contrôle que nous avons sur nos agissements.
La conscience n'existe pas.
Personne n'est un tueur avant d'avoir tué quelqu'un.
D'aucuns pourraient comparer la répugnance que lui inspire l'amélioration mémorielle au mépris qu'éprouve une personne naturellement attirante à l'égard de quelqu'un qui a eu recours à la chirurgie esthétique. ( p 62 )
On ignore où va se trouver notre nouveau monde - mais on sait qu'une fois là-bas, on boira du Coca-Cola