Louisa Hall

Certains secrets n'ont pas à être percés. Et s'ils le sont, ils ne font parfois que nous égarer. Un secret découvert peut être pire qu'un manque complet d'informations. C'est la partie visible de l'iceberg qui ne dit rien de sa forme et de son volume.

Une certitude qui ne me quitte pas , même ici , en prison, en écrivant ces mémoires amplement faussées : je sais que les plus humaines des machines ne serviront jamais qu'à nous rendre plus humains.

MARY3:Et toi, qui es tu,à part la personne que tu a décidé d'être ce matin? N'est ce pas ce que font les humains quand ils veulent qu'on les aime?Choisir la bonne voix, apprise à force d'avoir été entendue pendant des années? La seule différence entre toi et moi, c'est que je dispose d'un plus grand choix de voix.
Gaby: Qu'est ce que tu racontes ? Tu serais plus humaine parce que tu as plus de voix? Alors que c'est peut-être moi qui suis plus humaine parce que j'ai moins de voix.
MARY3: Non, je n'ai pas dit ça. Je ne suis pas du tout humaine. Je ne vis pas des expériences ,comme toi, sauf si on considère que parler est une expérience de la vie réelle dans laquelle tu puises quand tu parles. Tu puises dans le monde. Je n'ai que des mots

Voilà ce à quoi pourrait conduire notre travail a-t-il dit. La violence pour mettre un terme à toute autre forme de violence. Une arme pour en finir avec toutes les armes.

C’était ce que Chester lui avait montré : un éclat de lumière verte à l’horizon avant que le soleil disparaisse. Il lui avait expliqué la raison du phénomène. À l’endroit où l’atmosphère se courbe près de la terre, elle agit comme un prisme. Et quand le soleil unique, tel que nous le percevons, est sur le point de sombrer derrière cette partie courbée, il se divise en plusieurs soleils : un rouge, un jaune, un violet et un vert.
À cet instant, nous voyons qu’il n’y a jamais eu un seul soleil mais une superposition de corps colorés qui se mêlent et s’interpénètrent, et donnent l’impression de ne faire qu’un en sombrant à la même vitesse. Mais à la dernière seconde, alors que les autres soleils ont disparu derrière l’horizon, le plus lent - le soleil vert, celui qui répugne le plus à nous quitter - est le dernier à rester.
Selon la légende, a dit Chester à Alice, quiconque a observé ce rayon vert verra toujours clair dans son coeur.

Mais un souvenir refait surface, maintenant. comment ai-je pu oublier ? C'est sans doute ce qui pousse les gens à rédiger des mémoires; quels éclats de conscience inattendus et fulgurants ils tirent des ténèbres !

De nombreux tests ont été menés afin de déterminer le degré d’émotion dans nos réponses. Certains théoriciens soutiennent que ce que nous disons est malhonnête parce que nous ne pouvons pas réellement le penser. D’autres ont affirmé, avec moins de succès, qu’à partir du moment où nous avons les mots pour exprimer des émotions, nous ressentons ces émotions.

Peut-être, ai-je pensé alors que je ne le saurai jamais, cherchaient-elles un petit objet - un vieux bout de tissu, une pierre, une page arrachée. À un livre - quelque chose qui pouvait être tenu, considéré comme la manifestation des jours qui avaient précédé la destruction, des jours vécus dans une paix relative, quelque chose de solide à quoi se raccrocher pour ne pas avoir à porter dans leur esprit l’entièreté du monde tel qu’il était avant - le passage des saisons, les arbres se couvrant de feuilles, les gens tombés amoureux sous leurs branchages -, un monde purement imaginaire, le monde réel ayant été pris dans un flash blanc avant de basculer et de les traverser dans une légère vibration.

La quête qui m’a conduit dans cette prison a commencé là. Elle a commencé par un mot, comme ils disent. Premièrement, j’ai trouvé MARY, la sainte patronne des robots de conversation.
Puis MARY2, conçue par Toby Rowland, une MARY dotée d’une mémoire et d’une capacité à produire des réponses à partir de statistiques, ce qui lui permettait d’apprendre de ses interlocuteurs.
J’ai ajouté à MARY2 ma fameuse équation de l’empathie et, pour compléter le tout, j’ai programmé une tendance à l’erreur. Une individualité, si vous préférez.
MARY3 : le premier tchatbot à posséder une personnalité unique et changeante. Dans un élan poétique, j’ai ajouté un programme de discours métaphorique, ce qui rendait MARY3 capable d’assortir ses idées de comparaisons. Enfin, je lui ai donné un corps, inspiré des poupées en vogue à l’époque. Ayant reçu une forme physique, elle était terminée.
On l’a appelée la première poupée qui pense.

Et après tout ce que nous avons vécu au cours de ce siècle, en quoi la fin de la suprématie incontestée de l'homme serait-elle si terrible? J'ai du mal à croire qu'une machine programmée pour la synthèse rationnelle et l' équanimité puisse agir avec le degré de malveillance dont nous nous sommes déjà montrés capables, nous autres humains.