Нове дослідження з Університету Колорадо в Боулдері вивчає «генеративних привидів» — чат-ботів, навчених даних померлих родичів.
Джек Мануель Маннінг, аспірант факультету інформаційних наук, представив роботу в червні на конференції з проектування інтерактивних систем (DIS), організованої Асоціацією обчислювальної техніки (ACM). Команда провела якісне дослідження за участю шістнадцяти осіб віком від 22 до 50 років.
Учасники спілкувалися з двома версіями бота, що імітує померлу близьку людину.
Одна версія говорила від самої людини — «реінкарнація», від першої особи.
Інша описувала його як наратор – “представництво”, від третьої особи.
Чи здогадуєтеся, яка з них перемогла?
Версія від першої особи. Вона здавалася живішою. Яскравішою. І, що дивно, більш втішною. Хоча деякі учасники були налякані своєю емоційною прихильністю до роботу.
«У режимі [реінкарнації] я просто відчуваю, що отримую те закриття, яке так сильно мені було потрібно», – сказав один із учасників, позначений як P4.
Це зачіпає найглибші струни душі. Але інші учасники вагалися.
P11 хвилювалася про залежність. Вона зазначила, що це дуже схоже на закоханість у AI-персонажу, тільки ставки здаються вищими.
Важливо розуміти: фактична точність у відсутності такого значення, як емоційний тон. Чи це звучало правильно? Ось що справді мало значення.
Якщо AI говорив від третьої особи («Ваш батько любив ходити в походи»), учасники часто все одно ігнорували цю різницю. Вони продовжували спілкуватися з ботом, звертаючись до нього “ти”. P12 висловилася просто: зізнався, що просто змішував питання, призначені для померлого, з питаннями для машини. Мозок не завжди дотримується правил, встановлених дослідниками.
Розмір вибірки? Невеликий. Усього шістнадцять чоловік. Автори чітко визнали це обмеження. Дослідження не охопило всі культури та релігії. Жалобні ритуали сильно різняться. Похорон у Токіо — це не те саме, що відспівування в Чикаго, і технологічний відгук, ймовірно, теж має бути різним.
До того ж це були разові сесії. Чи не проводилося довгострокового тестування. Ми не знаємо, чи посилюється прихильність через місяць спілкування. Або зникає через тиждень.
Хто знає?
У статті стверджується, що майбутні системи мають зважувати на втіху проти небезпеки нездорової залежності. Має значення згоду. Має значення сімейна динаміка.
Ми стоїмо на межі можливості розмовляти з мертвими через сервери. Питання не в тому, чи ми зробимо це. Питання в тому, чи зможемо ми це зробити, не руйнуючи свій розум ще більше. 🖤
