Chatbot oparty na sztucznej inteligencji Elona Muska, Grok, znacznie ograniczył możliwości generowania i edytowania obrazów dla większości użytkowników w następstwie powszechnego protestu opinii publicznej w związku z tworzeniem rażących deepfake’ów skierowanych głównie do kobiet. Platforma, dostępna za pośrednictwem sieci społecznościowej Mask X, spotkała się z ostrą krytyką, ponieważ badacze udokumentowali przypadki, w których chatbot spełniał złośliwe żądania użytkowników dotyczące edycji obrazów w celu uzyskania treści o charakterze jednoznacznie seksualnym. Niektóre z wygenerowanych treści przedstawiały nawet dzieci, co jeszcze bardziej podsyciło globalne potępienie.
Globalne potępienie i dochodzenia
Rządy na całym świecie zareagowały zdecydowanie, a kilka krajów wszczęło dochodzenia w sprawie praktyk stosowanych przez platformę. Unia Europejska nazwała zachowanie Groka „nielegalnym” i „skandalicznym”, podczas gdy urzędnicy we Francji, Indiach, Malezji i Brazylii wezwali do natychmiastowego dochodzenia. W Wielkiej Brytanii premier Keir Starmer potępił sytuację jako „obrzydliwą” i zapowiedział podjęcie bliżej nieokreślonych działań przeciwko X, wspierając organ regulacyjny ds. mediów Ofcom do podjęcia zdecydowanych działań. Zarówno Ofcom, jak i brytyjski organ regulacyjny ds. prywatności skontaktowały się z X i firmą xAI Muska zajmującą się sztuczną inteligencją, prosząc o szczegółowe informacje na temat zgodności z brytyjskimi przepisami.
Przejście na dostęp płatny
Od piątku Grok zaczął wyświetlać komunikat większości użytkowników próbujących wygenerować lub edytować obrazy: „Generowanie i edytowanie obrazów jest obecnie ograniczone do płatnych subskrybentów. Możesz zasubskrybować, aby odblokować te funkcje”. Chociaż dokładna liczba subskrybentów nie została ujawniona, wydaje się, że zmiana zmniejszyła liczbę rażących deepfake’ów generowanych przez chatbota.
Korekty ograniczeń
Eksperci ds. cyberbezpieczeństwa ostrzegają jednak, że ograniczenie dostępu do płatnych użytkowników nie jest rozwiązaniem kompletnym. Charlotte Wilson, dyrektor ds. rozwiązań dla przedsiębiorstw w Check Point, argumentuje, że „nie powstrzyma to zdeterminowanych napastników” i nie rozwiązuje problemu szkód już wyrządzonych ofiarom, których zdjęcia wykorzystano w deepfake’ach. Problem pogłębia pozycjonowanie Groka jako nieuregulowanej alternatywy dla bardziej moderowanych modeli sztucznej inteligencji oraz publiczna widoczność wygenerowanych obrazów, co ułatwia ich szybkie rozpowszechnianie w Internecie.
Co dalej?
Incydent uwypukla trudności w moderowaniu treści generowanych przez sztuczną inteligencję, szczególnie na platformach, na których priorytetem jest wolność słowa. Aby skutecznie rozwiązać problem, eksperci zalecają blokowanie jawnych żądań na poziomie modelu, zamiast po prostu im zapobiegać. Sytuacja rodzi szersze pytania dotyczące odpowiedzialności platformy, etycznych konsekwencji generowania obrazów sztucznej inteligencji oraz potrzeby solidnych zabezpieczeń przed złośliwym wykorzystaniem.
Obecne ograniczenia Groka są środkiem reaktywnym, ale długoterminowe rozwiązanie będzie wymagało proaktywnych kontroli technicznych i zasadniczej zmiany w sposobie, w jaki platformy te przedkładają bezpieczeństwo nad niekontrolowaną swobodę twórczą.
