Un nuovo studio dell’Università del Colorado Boulder ha esaminato i “fantasmi generativi”: chatbot IA addestrati su parenti morti.
Jack Manuel Manning, un dottorando in scienze dell’informazione, ha presentato questo lavoro a giugno alla conferenza sulla progettazione di sistemi interattivi dell’Association for Computing Machinery. Il team ha eseguito un test qualitativo con sedici persone, di età compresa tra 22 e 50 anni.
Hanno interagito con due versioni di una persona cara deceduta.
Si parlava come la persona — il modo di «reincarnazione», la prima persona.
L’altro li descriveva come un narratore: la modalità “rappresentazione”, terza persona.
Indovina quale ha vinto?
La versione in prima persona. Sembrava più vivo. Più vivido. Più confortante, davvero. Anche se alcune persone erano spaventate da quanto si sentivano attaccate.
“Nella [reincarnazione], mi sento come se stessi ottenendo la conclusione di cui avevo così tanto bisogno”, ha detto un partecipante, etichettato P4.
Colpisce quel punto grezzo. Ma altri esitarono.
P11 era preoccupato per la dipendenza. Ha notato che assomiglia molto ad innamorarsi di un personaggio AI, solo che la posta in gioco sembra più alta.
Il punto è questo: l’accuratezza fattuale non conta tanto quanto il tono emotivo. Sembrava giusto? Questo era quello che contava.
Se l’intelligenza artificiale parlava in terza persona (“a tuo padre piaceva fare escursioni”), i partecipanti spesso ignoravano comunque la distinzione. Hanno comunque parlato con il bot usando “tu”. P12 lo ha detto semplicemente, ammettendo che stavano semplicemente fondendo domande destinate al defunto con domande per la macchina. Il cervello non sempre segue le regole stabilite dai ricercatori.
La dimensione del campione? Piccolo. Solo sedici persone. Gli autori hanno ammesso chiaramente questa limitazione. Questo non copriva ogni cultura o religione. Il lutto varia notevolmente. Un funerale a Tokyo è diverso da una veglia funebre a Chicago, e probabilmente dovrebbe esserlo anche la risposta tecnologica.
Inoltre, queste erano sessioni una tantum. Nessun test a lungo termine. Non sappiamo se l’attaccamento si sviluppa nell’arco di un mese. O se svanisce dopo una settimana.
Chi lo sa?
Il documento sostiene che i sistemi futuri dovranno valutare il comfort rispetto al pericolo di una dipendenza malsana. Il consenso conta. Le dinamiche familiari contano.
Siamo sul punto di parlare con i morti tramite i server. La domanda non è se lo faremo. La questione è se possiamo farlo senza spezzarci ulteriormente la testa. 🖤
