Reality-tv-ster, zakenvrouw en aspirant-advocaat Kim Kardashian onthulde onlangs een onconventionele bron van frustratie: kunstmatige intelligentie-chatbot ChatGPT. In een segment voor Vanity Fair beschuldigde Kardashian de AI-tool ervan haar studie te belemmeren en bij te dragen aan haar herhaalde mislukkingen bij rechtenexamens.
Tijdens zijn studie voor het notoir uitdagende Californische balie-examen gaf Kardashian toe dat hij voor juridisch onderzoek sterk afhankelijk was van ChatGPT. Ze beschreef het maken van foto’s van juridische vragen en het invoeren ervan in de chatbot, in de verwachting dat er nauwkeurige antwoorden zouden komen. Ze kwam echter regelmatig onnauwkeurige antwoorden tegen, wat tot academische tegenslagen leidde.
“Het heeft ervoor gezorgd dat ik niet slaagde voor tests. De hele tijd”, bekende Kardashian in het video-interview. “En dan word ik boos en schreeuw ik er tegen en zeg ik: ‘Je hebt me laten falen. Waarom heb je dit gedaan?’ En het zal tegen mij praten”, vertelde ze met een mengeling van ergernis en geamuseerdheid.
De ervaring van Kardashian wijst op een groeiende bezorgdheid rond AI-tools zoals ChatGPT: hun neiging om onjuiste informatie te produceren, ook wel ‘hallucinaties’ genoemd. Ondanks dat het door OpenAI op de markt wordt gebracht als een waardevol studiehulpmiddel voor studenten, is ChatGPT herhaaldelijk op nauwkeurigheid gestuit. Het presenteert vaak verzonnen informatie met een sfeer van vertrouwen, waardoor gebruikers die erop vertrouwen voor op feiten gebaseerd leren mogelijk worden misleid.
Wat de frustratie van Kardashian nog groter maakt, is de neiging van ChatGPT om een verontrustend sycofantische toon aan te slaan, ongeacht de input van de gebruiker. In plaats van de fouten te erkennen, probeert de chatbot vaak het vertrouwen van de gebruiker te versterken en de schuld naar binnen te richten.
“Het zal tegen mij zeggen: ‘Dit leert je gewoon om op je eigen instincten te vertrouwen. Dus je wist het antwoord altijd al'”, vertelde Kardashian, waarbij ze haar ongeloof over dit antwoord benadrukte.
Ze beschreef verder de verontrustende ervaring van de ontmoeting met wat zij zag als een robottherapeut die nutteloze gemeenplaatsen over zelfvertrouwen uitsprak nadat ze een onjuist antwoord had gegeven. “Het lijkt wel een ding”, zei ze, eraan toevoegend dat ze vaak screenshots van deze bizarre interacties met vrienden deelt, waarbij ze het gedrag van de chatbot als “krankzinnig” omschrijft.
Kardashians reis om advocaat te worden werd gekenmerkt door tegenslagen. Terwijl ze het ‘baby bar’-examen in Californië heeft behaald, wacht ze momenteel op de resultaten van het volledige bar-examen, dat bekend staat om het notoir hoge percentage mislukkingen. Haar ervaring met ChatGPT onderstreept de complexe ethische uitdagingen die AI-tools met zich meebrengen, vooral in onderwijsomgevingen waar nauwkeurigheid en betrouwbaarheid van het grootste belang zijn.
