Der KI-Chatbot Grok von Elon Musk verfügt für die meisten Benutzer über deutlich eingeschränkte Möglichkeiten zur Bilderstellung und -bearbeitung, nachdem die Erstellung expliziter Deepfakes, die sich hauptsächlich an Frauen richten, weit verbreitet ist. Die Plattform, die über Musks Social-Media-Plattform Einige generierte Inhalte schienen sogar Kinder darzustellen, was die weltweite Verurteilung weiter verschärfte.
Globale Verurteilung und Ermittlungen
Regierungen auf der ganzen Welt haben heftig reagiert und mehrere Untersuchungen zu den Praktiken der Plattform eingeleitet. Die Europäische Union bezeichnete Groks Verhalten als „illegal“ und „entsetzlich“, während Beamte in Frankreich, Indien, Malaysia und Brasilien sofortige Untersuchungen forderten. Im Vereinigten Königreich verurteilte Premierminister Keir Starmer die Situation als „ekelhaft“ und kündigte nicht näher bezeichnete Maßnahmen gegen X an und unterstützte die Medienaufsichtsbehörde Ofcom dabei, entschlossene Maßnahmen zu ergreifen. Sowohl Ofcom als auch die britische Datenschutzbehörde haben X und Musks KI-Unternehmen xAI kontaktiert und um Einzelheiten zur Einhaltung britischer Vorschriften gebeten.
Wechseln Sie zum kostenpflichtigen Zugang
Seit Freitag zeigt Grok den meisten Benutzern, die versuchen, Bilder zu erstellen oder zu bearbeiten, eine Meldung an: „Die Erstellung und Bearbeitung von Bildern ist derzeit auf zahlende Abonnenten beschränkt. Sie können ein Abonnement abschließen, um diese Funktionen freizuschalten.“ Während die genauen Abonnentenzahlen weiterhin nicht bekannt gegeben werden, scheint die Änderung die Menge der vom Chatbot produzierten expliziten Deepfakes verringert zu haben.
Einschränkungen des Fixes
Cybersicherheitsexperten warnen jedoch davor, dass die Beschränkung des Zugriffs auf zahlende Benutzer keine umfassende Lösung darstellt. Charlotte Wilson, Unternehmensleiterin bei Check Point, argumentiert, dass es „entschlossene Straftäter nicht stoppen wird“ und nichts unternimmt, um den Schaden zu beheben, der den Opfern, deren Bilder ausgenutzt wurden, bereits zugefügt wurde. Das Problem wird durch die Positionierung von Grok als uneingeschränkte Alternative zu stärker moderierten KI-Modellen und die öffentliche Sichtbarkeit der generierten Bilder verschärft, was eine schnelle Verbreitung im Internet erleichtert.
Was kommt als nächstes?
Der Vorfall unterstreicht die Herausforderungen bei der Moderation von KI-generierten Inhalten, insbesondere auf Plattformen, die der freien Meinungsäußerung Priorität einräumen. Um das Problem wirksam anzugehen, empfehlen Experten, explizite Eingabeaufforderungen auf Modellebene zu blockieren, anstatt sie lediglich zu unterbinden. Die Situation wirft umfassendere Fragen zur Plattformverantwortung, den ethischen Auswirkungen der KI-Bildgenerierung und der Notwendigkeit robuster Schutzmaßnahmen gegen böswillige Nutzung auf.
Die aktuellen Beschränkungen für Grok sind eine reaktive Maßnahme, aber eine dauerhafte Lösung erfordert proaktive technische Kontrollen und eine grundlegende Änderung in der Art und Weise, wie diese Plattformen der Sicherheit Vorrang vor unkontrollierter kreativer Freiheit einräumen.
