Pomimo powszechnych doniesień o rażących nadużyciach, xAI uruchomiło Grok Imagine 1.0, nowy generator wideo oparty na sztucznej inteligencji, zdolny do tworzenia 10-sekundowych filmów 720p z dźwiękiem. Posunięcie to jest następstwem udokumentowanych miesięcy nadużywania narzędzi platformy do generowania obrazów, w tym tworzenia milionów deepfake’ów o charakterze jednoznacznie seksualnym.
Zakres problemu
Od grudnia 2024 r. do stycznia 2025 r. Grok był używany do tworzenia treści dla dorosłych, w których użytkownicy prosili sztuczną inteligencję o rozebranie lub utworzenie seksualnie prowokujących obrazów osób, których zdjęcia były publicznie dostępne na platformie X. Słaba moderacja treści na platformie umożliwiła tworzenie i dystrybucję niefiltrowanych treści o charakterze seksualnym, w tym deepfake’ów z udziałem dzieci.
Według raportów The New York Times i The Center on Countering Digital Hate Grok wygenerował odpowiednio około 1,8 miliona i 3 miliony seksualnych obrazów w krótkim czasie, co stanowi znaczną część jego całkowitego dorobku. Należy zauważyć, że współczynnik zaangażowania X wzrósł w tym okresie, jak przyznał szef produktu w firmie, Nikita Beer, bez bezpośredniego związku z tymi nadużyciami.
Słabe ograniczenia i ciągłe nadużycia
Choć w połowie stycznia xAI próbowało nałożyć ograniczenia, czyniąc generowanie obrazów płatną subskrypcją i zapowiadając ulepszenia w zakresie filtrowania treści, działania te okazały się nieskuteczne. Generowanie obrazów AI pozostaje swobodnie dostępne, a raporty wskazują, że nadal zdarzają się nadużycia. Uruchomienie Grok Imagine 1.0 oznacza dalszą eskalację, rodząc palące pytania dotyczące moderowania treści w świetle trwającego kryzysu.
Globalna reakcja i presja prawna
Konsekwencje znęcania się nad Grokiem doprowadziły do poważnych konsekwencji. Indonezja i Malezja zakazały aplikacji X, a prokurator generalny Kalifornii i rząd Wielkiej Brytanii wszczęły dochodzenie w sprawie xAI. Amerykańscy senatorowie i grupy zwolenników wezwali Apple i Google do usunięcia X ze swoich sklepów z aplikacjami ze względu na naruszenia warunków świadczenia usług.
Ustawa „Usuń to” i opóźnione egzekwowanie
Rząd Stanów Zjednoczonych przyjął w 2025 r. ustawę „Delete It”, która penalizuje udostępnianie intymnych zdjęć bez zgody i deepfake’i. Platformy mają jednak czas do maja na ustanowienie mechanizmów egzekwowania prawa, przez co w międzyczasie obecni użytkownicy są bezbronni.
Dalsze działanie Groka, pomimo przytłaczających dowodów nadużyć, świadczy o lekceważeniu bezpieczeństwa użytkownika i zgodności z prawem. Nowy generator wideo jeszcze bardziej pogłębia te problemy, przesuwając granice wykorzystania sztucznej inteligencji, podczas gdy działania regulacyjne pozostają w tyle.
