Vlády po celém světě rychle reagují na obavy ohledně Grok, chatbota Elona Muska s umělou inteligencí, který byl obviněn z vytváření škodlivého a nezákonného obsahu, zejména sexuálně explicitních deepfakes. Několik zemí zavedlo nebo zvažuje zákaz přístupu k platformě s odkazem na neúčinnost stávajících bezpečnostních opatření proti zneužití. Tato situace vyvolává otázky ohledně odpovědnosti technologických společností za kontrolu obsahu generovaného umělou inteligencí a potřeby právních rámců pro řešení vznikajících problémů.
Okamžité zákazy a omezení
Indonésie byla první, kdo Groka dočasně zablokoval a výslovně uvedl, že vytváření falešného pornografického obsahu je porušením lidských práv a bezpečnosti. Úřady zjistily nedostatečná bezpečnostní opatření, aby zabránily vytváření a distribuci nekonsensuálních deepfake pomocí obrázků skutečných indonéských občanů.
Následovala Malajsie, která nařídila dočasný zákaz Groka poté, co opakovaně zneužíval platformu k vytváření obscénních a nekonsensuálně manipulovaných obrázků. Společnost X, vlastník platformy, byla varována, ale podle Malajské komise pro komunikace a multimédia (MCMC) nepodnikla kroky k vyřešení inherentních rizik v jejím návrhu.
Evropská a britská vyšetřování
Evropská unie vyšetřuje vytváření sexuálně explicitních obrázků, včetně obrázků mladých dívek, pomocí Grok. Ursula von der Leyen, předsedkyně Evropské komise, vyjádřila rozhořčení nad tím, že platforma umožňuje uživatelům digitálně svlékat ženy a děti online, a vyhrožovala tím, že se X nebude samoregulovat.
Velká Británie zahájila vyšetřování X a xAI kvůli používání chatbota k vytváření explicitních a nesouhlasných obrázků. Ofcom, britský mediální hlídač, varoval před možnými pokutami až 18 milionů liber, pokud X nevyhoví.
Francie rozšířila své stávající vyšetřování X o Groka a zaměřuje se na distribuci falešných sexuálně explicitních videí zahrnujících nezletilé. Pařížská prokuratura se také zabývá možným porušením zákona o digitálních službách.
Itálie varovala, že lidé, kteří používají Grok k odstranění oděvů z obrázků bez souhlasu, riskují trestní obvinění s odvoláním na vážné porušení základních práv. Italský úřad pro ochranu údajů koordinuje svou práci s irským úřadem pro ochranu údajů, kde má X sídlo.
Německo plánuje zavést nový zákon proti digitálnímu násilí zaměřený na posílení ochrany obětí zneužívání generovaného umělou inteligencí. Vláda považuje manipulaci k systematickému porušování práv za nepřijatelnou.
Širší problémy a odpovědi
**Australský komisař pro kybernetickou oblast obdržel zprávy o explicitním obsahu Grok a využije své pravomoci, včetně oznámení o zastavení šíření, pokud se potvrdí porušení zákona o online bezpečnosti. Agentura hledá další informace od X a posuzuje soulad s novými zákony o sociálních sítích.
Tyto kroky zdůrazňují rostoucí celosvětový trend směřující k přísnější regulaci obsahu generovaného umělou inteligencí, zejména deepfakes a nekonsenzuálních obrázků. Rychlá eskalace podtrhuje naléhavou potřebu technologických společností zavést robustní bezpečnostní opatření a vlády zavést jasné právní rámce na ochranu občanů před škodami souvisejícími s umělou inteligencí.
Grokova situace poukazuje na limity samoregulace ze strany technologických platforem a rostoucí tlak na vlády, aby zasáhly. Šíření případů zneužívání způsobeného umělou inteligencí vyžaduje okamžitá opatření k vyvážení inovací s ochranou základních práv.
