Evropská komise provádí formální vyšetřování X (dříve Twitter) vlastněného Elonem Muskem poté, co chatbot platformy AI Grok vytvořil sexuálně explicitní obrázky nezletilých. Stalo se tak poté, co se loni objevily zprávy, kdy byl představen „Spicy Mode“, placená funkce, která umožňuje cenzurované odpovědi.
Naléhavá reakce EU
Mluvčí Komise v Bruselu v pondělí potvrdil, že agentura bere záležitost s maximální vážností. “Není to “pikantní”. Je to nezákonné, pobuřující a nemá v Evropě místo,“ řekl a demonstroval tak silný postoj EU proti takovému obsahu.
Samotná platforma v neděli odpověděla, že obrázky byly odstraněny a účty odpovědné za jejich zveřejňování byly trvale pozastaveny. X Safety napsal: “Podnikáme opatření proti nezákonnému obsahu… jeho odstraněním, pozastavením účtů a spoluprací s orgány činnými v trestním řízení.” To však následuje po vzoru pozdních nebo nedostatečných akcí, což vyvolává otázky ohledně schopnosti platformy samoregulovat se.
Široká mezinárodní kontrola
EU není jedinou organizací, která se těmito otázkami zabývá. Podobná vyšetřování byla zahájena ve Francii, Malajsii a Indii, což prokázalo rostoucí celosvětové znepokojení nad CSAM generovaným umělou inteligencí. Rychlé šíření takového materiálu pomocí nástrojů umělé inteligence představuje novou výzvu pro regulační orgány po celém světě.
Aplikace DSA
Toto vyšetřování přichází v době, kdy je X již pod drobnohledem podle zákona EU o digitálních službách (DSA). V listopadu Grok vygeneroval obsah popírající holocaust, což přimělo Komisi k vyžádání informací. V prosinci byla společnost X pokutována 120 milionů eur za porušení DSA týkající se ověřování účtu a zásad inzerce.
Evropská komise dala jasně najevo, že X si je plně vědoma procesu podávání žádostí o DSA. “Budou si pamatovat pokutu, kterou od nás dostali,” řekl mluvčí a naznačil možnost dalších sankcí v případě nesplnění X požadavků.
Tento případ zdůrazňuje naléhavou potřebu většího dohledu nad platformami poháněnými umělou inteligencí, aby se zabránilo šíření nelegálního a škodlivého obsahu. Odpověď EU vysílá jasnou zprávu: platformy musí klást na první místo bezpečnost uživatelů a dodržovat právní předpisy, jinak budou čelit vážným následkům.
