Um novo estudo da Universidade do Colorado em Boulder analisou “fantasmas geradores” – chatbots de IA treinados em parentes mortos.
Jack Manuel Manning, doutorando em ciência da informação, apresentou este trabalho em junho na Conferência de Design de Sistemas Interativos da Association for Computing Machinery. A equipe fez um teste qualitativo com dezesseis pessoas, de 22 a 50 anos.
Eles interagiram com duas versões de um ente querido falecido.
Falava-se como pessoa – o modo de “reencarnação”, primeira pessoa.
O outro os descreveu como um narrador – o modo de “representação”, terceira pessoa.
Adivinha qual deles ganhou?
A versão em primeira pessoa. Parecia mais vivo. Mais vívido. Mais reconfortante, na verdade. Mesmo que algumas pessoas tenham ficado assustadas com o quão apegadas elas se sentiam.
“Na [reencarnação], parece que estou conseguindo o encerramento que tanto precisava”, disse um participante, rotulado como P4.
Atinge aquele ponto cru. Mas outros hesitaram.
P11 preocupado com a dependência. Ela notou que parece muito com se apaixonar por um personagem de IA, só que os riscos parecem maiores.
O problema é o seguinte: a precisão factual não importava tanto quanto o tom emocional. Pareceu certo? Isso é o que contava.
Se a IA falasse na terceira pessoa (“seu pai gostava de fazer caminhadas”), os participantes muitas vezes ignoravam a distinção. Eles ainda conversaram com o bot usando “você”. P12 disse de forma simples, admitindo que estavam apenas confundindo perguntas destinadas ao falecido com perguntas para a máquina. O cérebro nem sempre segue as regras estabelecidas pelos pesquisadores.
O tamanho da amostra? Pequeno. Apenas dezesseis pessoas. Os autores admitiram essa limitação claramente. Isso não cobriu todas as culturas ou religiões. O luto varia muito. Um funeral em Tóquio é diferente de um velório em Chicago, e a resposta tecnológica provavelmente também deveria ser.
Além disso, essas foram sessões únicas. Sem testes de longo prazo. Não sabemos se o apego aumenta ao longo de um mês. Ou se desaparecer depois de uma semana.
Quem sabe?
O artigo argumenta que os sistemas futuros devem pesar o conforto contra o perigo da dependência prejudicial. O consentimento é importante. A dinâmica familiar é importante.
Estamos prestes a falar com os mortos através de servidores. A questão não é se faremos isso. É se podemos fazer isso sem quebrar um pouco mais a cabeça. 🖤
