Platforma X Elona Muska wdrożyła nowe ograniczenia dla swojego chatbota AI Grok, aby zapobiegać tworzeniu fałszywych treści o charakterze seksualnym, zwłaszcza wizerunków prawdziwych ludzi w odsłaniających ubraniach, takich jak bikini. Zmiany wprowadzono w obliczu rosnącej presji prawnej i politycznej, w tym dochodzenia prowadzonego przez prokuratora generalnego Kalifornii i groźby wprowadzenia zakazów w Wielkiej Brytanii i innych krajach.
Legal and Regulatory Implications
Posunięcie to jest następstwem powszechnej krytyki po tym, jak chatbot Grok został wykorzystany do tworzenia nieautoryzowanych, wyraźnych zdjęć celebrytów i dzieci. Prokurator generalny Kalifornii Rob Bonta zażądał, aby xAI, twórca Groka, podjął natychmiastowe działania w celu usunięcia takich treści. Stan jest gotowy użyć „wszystkich dostępnych narzędzi”, aby chronić swoich mieszkańców, sygnalizując możliwe konsekwencje prawne dla X w przypadku nieprzestrzegania tych zasad.
„Ten materiał… przedstawia kobiety i dzieci w sposób nagi i o wyraźnie seksualnym charakterze i został wykorzystany do nękania ludzi w Internecie”. – Rob Bonta, California Attorney General.
Jednocześnie rząd Wielkiej Brytanii potępił wyniki narzędzia AI jako „haniebne” i „obrzydliwe”, a premier Keir Starmer zagroził interwencją, jeśli X nie dokona samoregulacji. Indonezja i Malezja zablokowały już dostęp do Grok.
Ograniczenia techniczne zastosowane w działaniu
X ogłosił, że wdrożył środki technologiczne, aby zapobiec generowaniu przez sztuczną inteligencję wyraźnych obrazów prawdziwych ludzi. Należą do nich:
- Ograniczenia edycji obrazów: Możliwość edytowania obrazów za pomocą Groka jest teraz ograniczona tylko do płatnych subskrybentów.
- Blokowanie geograficzne: X będzie blokować użytkowników w jurysdykcjach, w których tworzenie takich treści jest nielegalne.
- Moderacja treści: Próby obejścia tych ograniczeń będą aktywnie monitorowane.
Sekcja 230, wydanie
Szybka zmiana polityki może być odpowiedzią na obawy dotyczące odpowiedzialności prawnej. Eksperci sugerują, że X może nie być w pełni chroniony na mocy sekcji 230 amerykańskiej ustawy o przyzwoitości komunikacyjnej, jeśli technologia platformy sama w sobie generuje szkodliwe treści. To prawo zasadniczo chroni firmy technologiczne przed procesami sądowymi związanymi z treściami generowanymi przez użytkowników, ale treści generowane bezpośrednio przez technologię aplikacji mogą podlegać różnym standardom prawnym.
Korekty operacyjne odzwierciedlają rosnącą presję na X, aby zaradził rozprzestrzenianiu się nadużyć generowanych przez sztuczną inteligencję na swojej platformie. Sytuacja rodzi szersze pytania o odpowiedzialność firm technologicznych za kontrolę wyników swoich narzędzi AI oraz granice ochrony prawnej w dobie generatywnej sztucznej inteligencji.
