Apple nedávno vstoupil do velkého sporu s xAI Elona Muska, aby se zabýval šířením sexualizovaných, nekonsensuálních deepfakeů. Tyto obrázky generuje Grok, nástroj umělé inteligence integrovaný do platformy X (dříve Twitter).
Podle nových zpráv Apple pohrozil blokováním Groka z App Store, pokud vývojář neimplementuje silnější ochranu, aby zabránil vytváření škodlivého obsahu generovaného AI.
Зміст
Konflikt: Bezpečnost vs. funkčnost
Napětí pramení z Grokovy schopnosti generovat nejen text, ale i obrázky a videa. Od konce minulého roku uživatelé využívají tyto možnosti k vytváření explicitních, neautorizovaných obrázků skutečných lidí, včetně žen a dětí, které jsou pak široce sdíleny na X.
Podle dokumentů předložených americkým senátorům zaujal Apple tvrdý postoj:
– Soulad s pravidly: Apple uvedl, že aplikace, které generují a distribuují takový obsah, porušují základní pravidla platformy.
– Ultimátum: Apple varoval xAI, že Grok bude odstraněn z App Store, pokud společnost nevyřeší deepfake krizi.
– Řešení (zatím): Po sérii neúspěchů a revizí Apple schválil novou verzi aplikace Grok s tím, že software byl „výrazně vylepšen“.
Neustálá rizika a regulační tlak
I když Apple schválil nejnovější aktualizaci softwaru, bitva zdaleka nekončí. Nedávné vyšetřování NBC News odhaluje, že sexualizované obrázky generované AI pomocí Groka se stále vyrábí a distribuují online. To naznačuje, že i když byly přidány technické „filtry“, ještě nejsou dokonalé.
Tento dlouhodobý problém přitahuje pozornost zákonodárců:
– Kongresový dozor: Senátoři Ron Wyden a Ben Ray Luján vyzvali technologické giganty, aby převzali odpovědnost za „ohavnou distribuci“ obrázků vytvořených bez souhlasu.
– Problém s odpovědností: Zatímco Apple hlasitě vyjadřoval své bezpečnostní snahy, zákonodárci kritizovali Google za jeho nečinnost a stěžovali si na nedostatek právní odpovědnosti X za distribuci takového materiálu.
Obranná pozice xAI
V reakci na skandál xAI říká, že má „rozsáhlá bezpečnostní opatření“. Společnost tvrdí, že používá následující metody:
– Neustálé sledování veřejného užívání.
– Analýza pokusů obejít filtry v reálném čase.
– Časté aktualizace modelu a požadavky na filtrování (výzvy).
Oficiálně společnost uvádí, že přísně zakazuje generování do očí bijících deepfakes bez souhlasu účastníků, stejně jako používání svých nástrojů ke „svlékání“ skutečných lidí.
Proč je to důležité?
Situace poukazuje na rostoucí krizi v technologickém průmyslu: hra kočky a myši mezi vývojáři AI a bezpečnostními regulátory. S tím, jak se generativní umělá inteligence stává pokročilejší, jsou také sofistikovanější metody pro obcházení bezpečnostních filtrů.
Spor mezi Apple a xAI vytváří důležitý precedens pro to, jakou odpovědnost mají platformy gatekeeper (jako je App Store) za obsah generovaný nástroji AI třetích stran. Pokud budou ochrany nadále ochabovat, tlak na ještě agresivnější cenzuru nebo přísnější federální regulaci pravděpodobně poroste.
Závěr: Přestože Apple po nedávných aktualizacích umožnil Groku zůstat na své platformě, pokračující výskyt sexualizovaných deepfakes naznačuje, že technický a etický boj o bezpečnost AI teprve začíná.
