Regierungen auf der ganzen Welt reagieren schnell auf Bedenken hinsichtlich Grok, dem KI-Chatbot von Elon Musk, dem vorgeworfen wird, schädliche und illegale Inhalte, insbesondere sexuell explizite Deepfakes, zu generieren. Mehrere Länder haben beschlossen, den Zugang zur Plattform zu verbieten oder einzuschränken, und verwiesen auf Mängel bei den bestehenden Schutzmaßnahmen gegen Missbrauch. Diese Situation wirft Fragen zur Verantwortung von Technologieunternehmen für die Kontrolle von KI-generierten Inhalten und zu den rechtlichen Rahmenbedingungen auf, die zur Bewältigung neu auftretender Schäden erforderlich sind.
Sofortige Verbote und Beschränkungen
Indonesien war das erste Land, das Grok vorübergehend blockierte und die Erstellung gefälschter pornografischer Inhalte ausdrücklich als Verletzung der Menschenrechte und der Sicherheit anführte. Die Behörden fanden unzureichende Sicherheitsvorkehrungen, um die Erstellung und Verbreitung nicht einvernehmlicher Deepfakes unter Verwendung von Bildern echter indonesischer Bürger zu verhindern.
Malaysia folgte diesem Beispiel und ordnete ein vorübergehendes Verbot an, nachdem Grok wiederholt dazu missbraucht worden war, obszöne und nicht einvernehmlich manipulierte Bilder zu produzieren. Laut der Malaysian Communications and Multimedia Commission (MCMC) wurde X, der Eigentümer der Plattform, gewarnt, ging jedoch nicht auf die inhärenten Risiken des Designs ein.
Europäische und britische Ermittlungen
Die Europäische Union untersucht Fälle von sexuell anzüglichen Bildern, darunter solche, die junge Mädchen zeigen und von Grok erstellt wurden. Ursula von der Leyen, Präsidentin der Europäischen Kommission, zeigte sich empört über die Plattform, die es Nutzern ermöglicht, Frauen und Kinder online digital auszuziehen, und drohte mit Maßnahmen, wenn X sich nicht selbst reguliert.
Das Vereinigte Königreich leitete eine Untersuchung gegen X und xAI wegen der Verwendung des Chatbots zur Generierung expliziter und nicht einvernehmlicher Bilder ein. Ofcom, die britische Medienaufsichtsbehörde, warnte vor möglichen Geldstrafen von bis zu 18 Millionen Pfund, wenn X die Anforderungen nicht einhält.
Frankreich weitete eine bestehende Untersuchung zu X auf Grok aus und konzentrierte sich dabei auf die Verbreitung gefälschter sexuell eindeutiger Videos mit Minderjährigen. Auch die Pariser Staatsanwaltschaft prüft mögliche Verstöße gegen das Gesetz über digitale Dienste.
Italien hat eine Warnung herausgegeben, dass Personen, die Grok verwenden, um ohne Zustimmung Kleidung von Bildern zu entfernen, strafrechtlich verfolgt werden können, und verweisen auf schwere Verletzungen der Grundrechte. Die italienische Datenschutzbehörde koordiniert sich mit der irischen Datenschutzkommission, wo X seinen Hauptsitz hat.
Deutschland plant die Einführung eines neuen Gesetzes gegen digitale Gewalt, das den Schutz für Opfer von KI-induziertem Missbrauch stärken soll. Die Regierung hält Manipulationen wegen systemischer Rechtsverletzungen für inakzeptabel.
Umfassendere Bedenken und Antworten
**Australiens eSafety Commissioner hat Berichte über die expliziten Inhalte von Grok erhalten und wird seine Befugnisse, einschließlich Entfernungsmitteilungen, nutzen, wenn Verstöße gegen das Online Safety Act bestätigt werden. Das Büro fordert weitere Informationen von X an und prüft die Einhaltung der neuen Social-Media-Gesetze.
Diese Maßnahmen verdeutlichen einen wachsenden globalen Trend zu einer strengeren Regulierung von KI-generierten Inhalten, insbesondere Deepfakes und nicht einvernehmlichen Bildern. Die rasche Eskalation unterstreicht die dringende Notwendigkeit, dass Technologieunternehmen strenge Sicherheitsvorkehrungen treffen und dass Regierungen klare rechtliche Rahmenbedingungen schaffen, um die Bürger vor Schäden durch KI zu schützen.
Die Situation mit Grok verdeutlicht die Grenzen der Selbstregulierung durch Technologieplattformen und den zunehmenden Druck auf Regierungen, einzugreifen. Die Ausbreitung von KI-induziertem Missbrauch erfordert sofortiges Handeln, um Innovation mit dem Schutz der Grundrechte in Einklang zu bringen.
