Une nouvelle étude de l’Université du Colorado à Boulder s’est penchée sur les « fantômes génératifs » – des chatbots IA formés sur des proches décédés.
Jack Manuel Manning, doctorant en sciences de l’information, a présenté ces travaux en juin lors de la conférence Designing Interactive Systems de l’Association for Computing Machinery. L’équipe a réalisé un test qualitatif auprès de seize personnes, âgées de 22 à 50 ans.
Ils ont interagi avec deux versions d’un être cher décédé.
On parlait en tant que personne – le mode « réincarnation », à la première personne.
L’autre les décrivait comme un narrateur — le mode « représentation », à la troisième personne.
Devinez lequel a gagné ?
La version à la première personne. C’était plus vivant. Plus vif. Plus réconfortant, vraiment. Même si certaines personnes étaient effrayées par leur attachement.
“Dans la [réincarnation], j’ai l’impression de parvenir à une conclusion dont j’avais tellement besoin”, a déclaré un participant, étiqueté P4.
Il atteint ce point brut. Mais d’autres ont hésité.
P11 s’inquiète de la dépendance. Elle a noté que cela ressemble beaucoup à tomber amoureux d’un personnage d’IA, sauf que les enjeux semblent plus élevés.
Voici le problème : l’exactitude des faits n’avait pas autant d’importance que le ton émotionnel. Est-ce que ça sonnait bien ? C’est ce qui comptait.
Si l’IA parlait à la troisième personne (« votre père aimait la randonnée »), les participants ignoraient souvent la distinction. Ils parlaient toujours au robot en utilisant « vous ». P12 l’a dit simplement, admettant qu’ils confondaient simplement les questions destinées au défunt avec les questions destinées à la machine. Le cerveau ne suit pas toujours les règles établies par les chercheurs.
La taille de l’échantillon ? Petit. Seulement seize personnes. Les auteurs ont clairement admis cette limitation. Cela ne couvrait pas toutes les cultures ou religions. Le deuil varie énormément. Des funérailles à Tokyo sont différentes d’une veillée funèbre à Chicago, et la réponse technologique devrait probablement l’être aussi.
De plus, il s’agissait de séances ponctuelles. Aucun test à long terme. Nous ne savons pas si l’attachement se construit sur un mois. Ou s’il s’estompe au bout d’une semaine.
Qui sait ?
Le document soutient que les futurs systèmes doivent mettre en balance le confort et le danger d’une dépendance malsaine. Le consentement compte. La dynamique familiale est importante.
Nous sommes sur le point de parler aux morts via des serveurs. La question n’est pas de savoir si nous le ferons. Il s’agit de savoir si nous pouvons le faire sans nous casser un peu plus la tête. 🖤
