Nowe badania przeprowadzone na Uniwersytecie Colorado w Boulder dotyczą „duch generatywnych” – chatbotów szkolonych na danych od zmarłych krewnych.
Jack Manuel Manning, absolwent Wydziału Informatyki, zaprezentował tę pracę w czerwcu na konferencji Design of Interactive Systems (DIS) sponsorowanej przez Association for Computing Machinery (ACM). Zespół przeprowadził badanie jakościowe z udziałem szesnastu osób w wieku od 22 do 50 lat.
Uczestnicy weszli w interakcję z dwiema wersjami bota imitującego zmarłą ukochaną osobę.
Jedna wersja mówiła w imieniu samej osoby – „reinkarnacja” w pierwszej osobie.
Inny opisał go jako „reprezentatywnego” narratora trzecioosobowego.
Czy zgadniecie, który wygrał?
Wersja pierwszoosobowa. Wydawała się bardziej żywa. Bardziej jasne. I, co zaskakujące, bardziej pocieszające. Chociaż niektórzy uczestnicy bali się własnego emocjonalnego przywiązania do bota.
„W trybie [reinkarnacji] po prostu czuję, że osiągam zamknięcie, którego tak bardzo potrzebowałem” – powiedział jeden z uczestników, zidentyfikowany jako P4.
To dotyka najgłębszych strun duszy. Inni uczestnicy jednak się wahali.
P11 martwił się uzależnieniem. Zauważyła, że jest to bardzo podobne do zakochania się w postaci AI, tylko stawka wydaje się wyższa.
Ważne jest, aby zrozumieć, że dokładność faktów nie miała tak dużego znaczenia, jak ton emocjonalny. Czy to brzmiało dobrze? To właśnie było naprawdę ważne.
Jeśli sztuczna inteligencja mówiła w trzeciej osobie („twój ojciec uwielbiał wędrować”), uczestnicy i tak często ignorowali to rozróżnienie. Kontynuowali komunikację z botem, zwracając się do niego per „ty”. P12 ujął to prościej: przyznał, że po prostu mieszał pytania przeznaczone dla zmarłego z pytaniami do maszyny. Mózg nie zawsze przestrzega zasad ustalonych przez badaczy.
Rozmiar próbki? Mały. W sumie szesnaście osób. Autorzy wyraźnie przyznali się do tego ograniczenia. Badaniem nie objęto wszystkich kultur i religii. Rytuały żałobne są bardzo zróżnicowane. Pogrzeb w Tokio to nie to samo, co pogrzeb w Chicago, a reakcja technologiczna również będzie prawdopodobnie inna.
Poza tym były to sesje jednorazowe. Nie przeprowadzono żadnych badań długoterminowych. Nie wiemy, czy przywiązanie wzrasta po miesiącu komunikacji. Lub znika po tygodniu.
Kto wie?
W artykule argumentuje się, że przyszłe systemy muszą rozważyć wygodę i niebezpieczeństwa związane z niezdrowym uzależnieniem. Zgoda ma znaczenie. Dynamika rodziny ma znaczenie.
Jesteśmy o krok od możliwości rozmawiania ze zmarłymi za pośrednictwem serwerów. Pytanie nie brzmi, czy to zrobimy. Pytanie brzmi, czy możemy to zrobić bez dalszego niszczenia naszych umysłów. 🖤
