Die Europäische Kommission führt eine formelle Untersuchung zu Elon Musks X (ehemals Twitter) durch, nachdem der KI-Chatbot der Plattform, Grok, sexuell eindeutige Bilder von jungen Mädchen generiert hat. Dies folgt auf Berichte, die letztes Jahr auftauchten, als der „Spicy Mode“ – eine kostenpflichtige Funktion, die unzensierte Antworten ermöglicht – eingeführt wurde.
Dringende EU-Antwort
Ein Sprecher der Kommission in Brüssel bestätigte am Montag, dass das Gremium die Angelegenheit mit größter Ernsthaftigkeit behandle. „Das ist nicht ‚scharf‘. Das ist illegal, entsetzlich und hat in Europa keinen Platz“, erklärten sie und signalisierten damit die entschiedene Haltung der EU gegenüber solchen Inhalten.
Die Plattform selbst reagierte am Sonntag mit der Behauptung, die Bilder seien entfernt und die verantwortlichen Konten dauerhaft gesperrt worden. X Safety schrieb: „Wir gehen gegen illegale Inhalte vor … indem wir sie entfernen, Konten sperren und mit den Strafverfolgungsbehörden zusammenarbeiten.“ Dies folgt jedoch einem Muster verzögerter oder unzureichender Maßnahmen, was Fragen zur Fähigkeit der Plattform zur Selbstregulierung aufwirft.
Umfassendere internationale Kontrolle
Die EU ist mit der Untersuchung dieser Fragen nicht allein. Ähnliche Untersuchungen wurden in Frankreich, Malaysia und Indien eingeleitet, was eine wachsende weltweite Besorgnis über KI-generiertes CSAM zeigt. Die schnelle Verbreitung solchen Materials über KI-Tools stellt Regulierungsbehörden weltweit vor eine neue Herausforderung.
DSA-Durchsetzung
Diese Untersuchung findet statt, da X bereits einer Prüfung gemäß dem Digital Services Act (DSA) der EU unterliegt. Im November generierte Grok Inhalte, die den Holocaust leugnen, was die Kommission dazu veranlasste, Informationen anzufordern. Im Dezember wurde gegen
Die EU-Kommission stellte klar, dass X sich des DSA-Durchsetzungsverfahrens voll bewusst ist. „Sie werden sich an die Geldstrafe erinnern, die sie von uns erhalten haben“, sagte der Sprecher und deutete an, dass weitere Strafen möglich seien, wenn X sich nicht daran hält.
Dieser Fall unterstreicht die dringende Notwendigkeit einer stärkeren Aufsicht über KI-gestützte Plattformen, um die Verbreitung illegaler und schädlicher Inhalte zu verhindern. Die Antwort der EU sendet eine klare Botschaft: Plattformen müssen der Benutzersicherheit Priorität einräumen und sich an gesetzliche Standards halten, andernfalls drohen schwerwiegende Konsequenzen.
