OpenAI implementiert auf seiner ChatGPT-Plattform eine Altersvorhersagetechnologie mit dem Ziel, den Zugriff auf sensible Inhalte für Benutzer unter 18 Jahren einzuschränken. Bei Konten, bei denen das Alter nicht explizit angegeben wurde, analysiert die KI das Benutzerverhalten – einschließlich Kontoalter und Aktivitätsmuster –, um ihr Alter abzuschätzen.
Das System soll die Schutzmaßnahmen gegen potenziell schädliche Inhalte verstärken, wie z. B. drastische Gewaltdarstellungen, selbstverletzende Darstellungen und extreme Schönheitsstandards. Als treibende Faktoren für diese Veränderungen nennt OpenAI eine verstärkte Kontrolle und Klagen im Zusammenhang mit Todesfällen von Teenagern im Zusammenhang mit KI-Chatbot-Interaktionen. Der Schritt folgt einem Trend zu strengeren Altersüberprüfungsmaßnahmen auf allen Online-Plattformen, wobei Roblox kürzlich Altersüberprüfungen vorschreibt und Australien ein Gesetz erlassen hat, das soziale Medien für Kinder unter 16 Jahren verbietet.
Wenn ein Benutzer fälschlicherweise als minderjährig gekennzeichnet wird, schlägt OpenAI eine Verifizierung durch Dritte über Persona vor, die ein Live-Selfie und einen amtlichen Ausweis erfordert. Die Wirksamkeit der Altersvorhersage von ChatGPT bleibt unklar, obwohl die Genauigkeit der Gesichtserkennungs- und Altersschätzungstechnologien nachweislich verbessert wurde. Regierungsbewertungen zeigen, dass Top-Algorithmen eine Genauigkeit von über 99,5 % bei der Identitätsprüfung und 95 % bei der Altersschätzung erreichen.
Experten wie Kristine Gloria von Young Futures argumentieren jedoch, dass Technologie allein nicht ausreicht. Echte Sicherheit erfordert Transparenz, Verantwortlichkeit und digitale Kompetenz, anstatt sich ausschließlich auf technische Lösungen zu verlassen. Das übergeordnete Ziel sollte darin bestehen, Plattformen zu schaffen, bei denen das Wohlergehen der Jugend von grundlegender Bedeutung und nicht nur ein nachträglicher Einfall ist.
Der Wandel hin zur Altersüberprüfung und biometrischen Scans wird immer häufiger, da Unternehmen rechtlichen und ethischen Zwängen ausgesetzt sind, junge Benutzer zu schützen. Während diese Maßnahmen die Sicherheit verbessern können, werfen sie auch Fragen zur Privatsphäre und zum Gleichgewicht zwischen Schutz und Zugang auf.
