Platforma X Elona Muska zavedla nová omezení pro svého chatbota Groka s umělou inteligencí, aby zabránila vytváření sexualizovaných deepfakeů, zejména obrázků skutečných lidí v odhalujícím oblečení, jako jsou bikiny. Změny přicházejí za rostoucího právního a politického tlaku, včetně vyšetřování kalifornského generálního prokurátora a hrozeb zákazů ve Spojeném království a dalších zemích.
Právní a regulační důsledky
Tento krok následuje po široké kritice poté, co byl chatbot Grok použit k vytvoření neautorizovaných explicitních obrázků celebrit a dětí. Kalifornský generální prokurátor Rob Bonta požadoval, aby xAI, vývojář Grok, podnikla okamžitá opatření k odstranění takového obsahu. Stát je připraven použít „všechny dostupné nástroje“ k ochraně svých obyvatel a signalizovat možné právní důsledky pro X, pokud nedodrží.
“Tento materiál… zobrazuje ženy a děti nahým a sexuálně explicitním způsobem a byl použit k obtěžování lidí online.” – Rob Bonta, kalifornský generální prokurátor.
Vláda Spojeného království zároveň odsoudila výsledky nástroje AI jako „hanebné“ a „nechutné“ a premiér Keir Starmer pohrozil zásahem, pokud X neprovede samoregulaci. Indonésie a Malajsie již přístup do Groku zablokovaly.
Technická omezení implementovaná v provozu
Společnost X oznámila, že nasadila technologická opatření, aby zabránila umělé inteligenci generovat explicitní obrázky skutečných lidí. Patří mezi ně:
- Omezení úprav obrázků: Možnost upravovat obrázky prostřednictvím Groku je nyní omezena pouze na platící předplatitele.
- Geo-Blocking: X zablokuje uživatele v jurisdikcích, kde je vytváření takového obsahu nezákonné.
- Moderování obsahu: Pokusy o obcházení těchto omezení budou aktivně monitorovány.
Vydání oddílu 230
Rychlá změna politiky může být reakcí na obavy ohledně právní odpovědnosti. Odborníci se domnívají, že X nemusí být plně chráněno oddílem 230 amerického zákona Communications Decency Act, když samotná technologie platformy generuje škodlivý obsah. Tento zákon obecně chrání technologické společnosti před žalobami souvisejícími s obsahem vytvářeným uživateli, ale obsah generovaný přímo technologií aplikace může podléhat jiným právním normám.
Provozní úpravy odrážejí rostoucí tlak na X, aby se vypořádal s šířením zneužívání AI na své platformě. Situace vyvolává širší otázky ohledně odpovědnosti technologických společností za kontrolu výstupu jejich nástrojů AI a limitů právní ochrany v éře generativní AI.
