Новое исследование из Университета Колорадо в Боулдере изучает «генеративных призраков» — чат-ботов, обученных на данных умерших родственников.
Джек Мануэль Маннинг, аспирант факультета информационных наук, представил эту работу в июне на конференции по проектированию интерактивных систем (DIS), организованной Ассоциацией вычислительной техники (ACM). Команда провела качественное исследование с участием шестнадцати человек в возрасте от 22 до 50 лет.
Участники общались с двумя версиями бота, имитирующего умершего близкого человека.
Одна версия говорила от лица самого человека — «реинкарнация», от первого лица.
Другая описывала его как нарратор — «представительство», от третьего лица.
Догадываетесь, какая из них победила?
Версия от первого лица. Она казалась более живой. Более яркой. И, что удивительно, более утешительной. Хотя некоторые участники были напуганы собственной эмоциональной привязанностью к боту.
«В режиме [реинкарнации] я просто чувствую, что получаю то закрытие, которое так сильно мне было нужно», — сказал один из участников, обозначенный как P4.
Это задевает самые глубокие струны души. Но другие участники колебались.
P11 волновалась о зависимости. Она отметила, что это очень похоже на влюблённость в AI-персонажа, только ставки кажутся выше.
Важно понимать: фактическая точность не имела такого значения, как эмоциональный тон. Звучало ли это правильно? Вот что действительно имело значение.
Если AI говорил от третьего лица («ваш отец любил ходить в походы»), участники часто всё равно игнорировали это различие. Они продолжали общаться с ботом, обращаясь к нему «ты». P12 выразилась просто: признался, что просто смешивал вопросы, предназначенные для умершего, с вопросами для машины. Мозг не всегда следует правилам, установленным исследователями.
Размер выборки? Небольшой. Всего шестнадцать человек. Авторы четко признали это ограничение. Исследование не охватило все культуры и религии. Траурные ритуалы сильно различаются. Похороны в Токио — это не то же самое, что отпевание в Чикаго, и технологический отклик, вероятно, тоже должен быть разным.
К тому же, это были разовые сессии. Не проводилось долгосрочного тестирования. Мы не знаем, усиливается ли привязанность через месяц общения. Или исчезает спустя неделю.
Кто знает?
В статье утверждается, что будущие системы должны взвешивать утешение против опасности нездоровой зависимости. Имеет значение согласие. Имеет значение семейная динамика.
Мы стоим на грани возможности разговаривать с мёртвыми через серверы. Вопрос не в том, сделаем ли мы это. Вопрос в том, сможем ли мы сделать это, не разрушая свой разум ещё больше. 🖤
