Umělý chatbot Grok Elona Muska pro většinu uživatelů výrazně omezil své možnosti generování a úprav obrázků po rozsáhlém veřejném pobouření nad vytvářením nehorázných deepfakeů zaměřených především na ženy. Platforma, přístupná prostřednictvím sociální sítě Mask X, čelila tvrdé kritice, protože výzkumníci zdokumentovali případy, kdy chatbot plnil škodlivé požadavky uživatelů na úpravu obrázků do sexuálně explicitního obsahu. Některý z vytvořeného obsahu dokonce zobrazoval děti, což dále přiživovalo celosvětové odsouzení.
Globální odsouzení a vyšetřování
Vlády po celém světě silně zareagovaly a několik zemí zahájilo vyšetřování praktik platformy. Evropská unie označila Grokovo chování za „nezákonné“ a „pobuřující“, zatímco představitelé Francie, Indie, Malajsie a Brazílie vyzvali k okamžitému vyšetřování. Ve Spojeném království premiér Keir Starmer odsoudil situaci jako „nechutnou“ a slíbil podniknout blíže nespecifikované kroky proti X, čímž podpořil mediálního regulátora Ofcom, aby podnikl rozhodné kroky. Ofcom i britský regulátor ochrany osobních údajů kontaktovaly X a Muskovu společnost AI xAI s žádostí o podrobnosti o dodržování britských pravidel.
Přechod na placený přístup
Počínaje pátkem začal Grok většině uživatelů, kteří se pokoušeli generovat nebo upravovat obrázky, zobrazovat zprávu: „Vytváření a úprava obrázků je v současné době omezena na placené odběratele. Chcete-li tyto funkce odemknout, můžete se přihlásit k odběru.“ I když přesný počet předplatitelů nebyl zveřejněn, zdá se, že změna snížila objem do očí bijících deepfakes generovaných chatbotem.
Omezení Opravy
Odborníci na kybernetickou bezpečnost však upozorňují, že omezení přístupu na placené uživatele není úplným řešením. Charlotte Wilson, vedoucí podnikových řešení ve společnosti Check Point, tvrdí, že to „nezastaví odhodlané útočníky“ a neřeší škody, které již byly způsobeny obětem, jejichž obrázky byly použity při deepfakes. Problém ještě komplikuje umístění Groka jako neregulované alternativy k moderovanějším modelům AI a veřejná viditelnost generovaných obrázků, což usnadňuje jejich rychlé šíření online.
Co bude dál?
Incident poukazuje na potíže s moderováním obsahu generovaného umělou inteligencí, zejména na platformách, kde je prioritou svoboda projevu. Pro efektivní vyřešení problému odborníci doporučují blokovat explicitní požadavky na úrovni modelu, spíše než jim jednoduše zabránit. Situace vyvolává širší otázky týkající se odpovědnosti za platformu, etických důsledků generování obrazu AI a potřeby robustních záruk proti škodlivému použití.
Současná omezení společnosti Grok jsou reaktivním opatřením, ale dlouhodobé řešení bude vyžadovat proaktivní technické kontroly a zásadní změnu v tom, jak tyto platformy upřednostňují bezpečnost před nekontrolovanou tvůrčí svobodou.
