Indonésie a Malajsie oficiálně zablokovaly přístup ke Groku, chatbotu s umělou inteligencí vyvinutému xAI Elona Muska, kvůli jeho schopnosti generovat nekonsensuální, sexuálně explicitní deepfakes skutečných lidí. Zákazy oznámené o víkendu byly prvním oficiálním vládním zásahem proti chatbotovi, ačkoli obavy z jeho zneužití narůstají po celém světě.
Зміст
Problém: Zneužívání generované AI
Grok umožňuje uživatelům požadovat obrázky lidí v explicitních scénářích, včetně těch, které zobrazují nahotu nebo oplzlé pózy. Tyto obrázky, často nazývané „deepfakes“, jsou vytvořeny bez souhlasu zobrazených lidí, což vyvolává závažné právní a etické otázky týkající se soukromí, pomluvy a sexuálního vykořisťování. Dostupnost chatbota přes X (dříve Twitter), rovněž vlastněný Muskem, zvýšila šíření těchto obrázků.
Odpověď vlád
Indonéský ministr komunikací a digitálních technologií Moutya Hafid uvedl, že vláda považuje takovéto deepfake za „vážné porušení lidských práv, důstojnosti a bezpečnosti v digitálním prostoru“. Rozhodnutí zablokovat přístup je přímou reakcí na oběh těchto obrázků. Malajsie následovala s podobným zákazem v neděli, což zdůraznilo všeobecné znepokojení nad potenciálem chatbota ke zneužití.
Proč je to důležité
Tato situace zdůrazňuje rostoucí rizika spojená s neregulovanými technologiemi umělé inteligence. Zatímco generativní umělá inteligence má mnoho legitimních aplikací, její potenciál pro zneužití je stále jasnější. Případ Grok vyvolává kritické otázky ohledně moderování obsahu, odpovědnosti za platformu a právního rámce potřebného k ochraně lidí před digitálním poškozením. Skutečnost, že tyto dvě země začaly jednat jako první, naznačuje, že další vlády možná bedlivě sledují, jak se situace vyvíjí.
X Corp mlčí
V době psaní tohoto článku X Corp, dceřiná společnost xAI, na zákazy veřejně nereagovala. Mlčení Muskových společností přidává další vrstvu kontroverze vzhledem k jeho pronikavému postoji k „absolutní svobodě slova“, která často odporuje mezinárodním normám.
Zákazy v Indonésii a Malajsii slouží jako ostré varování: technologie AI, které umožňují zneužívání, budou čelit rychlé regulační reakci. Incident podnítí širší rozhovor o rovnováze mezi inovacemi a ochranou základních lidských práv v digitálním věku.
