Stanislas Lem

Il trouvait que les raisons essentielles pour lesquelles l’homme avait inventé une intelligence extérieure à lui-même et l’avait soumise à sa volonté et le fondement même de cette relation de domination n’étaient pas très honnêtes. Il aurait été incapable d’exprimer ce qui occasionnait cette légère inquiétude, peut-être la conscience d’une dette, d’une mauvaise décision ou tout simplement, pour parler grossièrement, d’un sale coup, habile, mais quand même dégueulasse. Il y avait un raffinement perfide dans la modération raisonnable avec laquelle l’homme inculquait à des machines inertes la connaissance qu’il avait de lui-même, en veillant à ce qu’elles n’aient pas plus d’esprit que nécessaire et n’entrent pas en concurrence avec leurs créateurs dans la course aux faveurs du monde. La maxime de Goethe, In der Beschränkung zeigt sich erst der Meister, rapportée aux ingénieux constructeurs, avait pris un goût inattendu de félicitations qui s’étaient rapidement transformées en condamnation ironique, parce qu’ils avaient décidé non de se limiter eux-mêmes, mais leurs créatures, et ce, avec une précision implacable. Il est évident que Pirx n’osa jamais exprimer ces idées tout haut, car il était conscient que c’eût été ridicule. Les robots n’étaient pas opprimés ou exploités par leur situation existentielle, la chose était plus simple et moralement presque inattaquable, mais pire : ils avaient été limités avant d’exister, sur des feuilles de papier millimétré.