Aller au contenu

BLOG NAWA

Une IA peut-elle inventer vos souvenirs ?

Réponse courte : oui, une IA peut se tromper, et parfois avec assurance. Ce qui compte n'est pas de prétendre qu'elle ne se trompe jamais, mais qu'elle distingue toujours ce que vous avez réellement dit de ce qu'elle comprend ou suppose, et que vous puissiez tout relire et corriger. C'est le principe de Nawa : travailler la forme à partir de vos mots, sans ajouter de faits, et vous laisser corriger ce qui serait faux.

Les modèles de langage sont faits pour produire un texte plausible. C'est leur force pour reformuler, résumer ou aider à raconter. C'est aussi leur faiblesse : un détail manquant peut être comblé par une supposition, un prénom confondu avec un autre, une date déduite plutôt que dite. Pour une recette de cuisine, l'erreur est sans gravité. Pour l'histoire d'une vie, elle l'est beaucoup plus.

Les trois risques à connaître

  • La confusion : deux personnes du même prénom fusionnées en une seule.
  • La déduction présentée comme un fait : « Vous avez grandi à Lyon » parce que vous avez parlé d'un lycée lyonnais.
  • L'embellissement : un récit plus beau, mais plus tout à fait le vôtre.

Ce qu'il faut exiger d'un outil de mémoire

Un outil à qui l'on confie sa vie devrait respecter quelques règles simples. Garder la trace de ce que vous avez dit, avec vos mots. Signaler ce qu'il suppose comme une supposition, et vous demander confirmation. Poser une question quand deux personnes se ressemblent, plutôt que choisir. Vous laisser relire, corriger et faire oublier.

Comment Nawa s'y prend

Nawa distingue ce que vous avez raconté de ce qu'il comprend ou suppose. Une supposition reste une question tant que vous ne l'avez pas confirmée : « C'était bien la même grand-mère que celle de la maison de Vienne ? » Quand il ne sait pas, il le dit. Quand Nawa met vos fragments en forme pour en faire un récit, il s'appuie sur ce que vous avez raconté ; relisez le récit avant de le garder ou de le montrer. Et vous pouvez toujours relire ce qui a été retenu, le corriger ou le faire oublier.

Le bon réflexe : relire

Aucun système n'est parfait. Le meilleur garde-fou reste votre relecture. Prenez l'habitude, de temps en temps, de demander à Nawa ce qu'il a retenu sur une personne ou une période. Corrigez une date, précisez un lien, retirez ce qui ne vous ressemble pas. Votre version fait foi.

Questions fréquentes

Une IA peut-elle se tromper sur mes souvenirs ?

Oui. Les modèles peuvent confondre, déduire ou embellir. C’est pourquoi un outil de mémoire doit distinguer ce que vous avez dit de ce qu’il suppose, et vous laisser tout corriger.

Comment savoir si Nawa a compris ou supposé quelque chose ?

Une supposition vous est présentée comme une question, à confirmer. Vous pouvez aussi demander à tout moment ce que Nawa a retenu sur une personne ou une période, et le corriger.

Que se passe-t-il si je corrige un souvenir ?

Votre correction devient la version retenue. Vous pouvez aussi demander à Nawa d’oublier ce que vous lui avez dit sur un sujet.