Regeringen over de hele wereld reageren snel op zorgen over Grok, de AI-chatbot van Elon Musk, die ervan wordt beschuldigd schadelijke en illegale inhoud te genereren, met name seksueel expliciete deepfakes. Verschillende landen hebben stappen ondernomen om de toegang tot het platform te verbieden of te beperken, daarbij verwijzend naar tekortkomingen in de bestaande waarborgen tegen misbruik. Deze situatie roept vragen op over de verantwoordelijkheid van technologiebedrijven om door AI gegenereerde inhoud te controleren en over de wettelijke kaders die nodig zijn om opkomende schade aan te pakken.
Onmiddellijke verboden en beperkingen
Indonesië was het eerste land dat Grok tijdelijk blokkeerde, waarbij het genereren van nep-pornografische inhoud expliciet werd aangehaald als een schending van de mensenrechten en de veiligheid. De autoriteiten vonden onvoldoende waarborgen om de creatie en verspreiding van niet-consensuele deepfakes met behulp van afbeeldingen van echte Indonesische burgers te voorkomen.
Maleisië volgde dit voorbeeld en beval een tijdelijk verbod na herhaald misbruik van Grok om obscene en niet-consensuele gemanipuleerde beelden te produceren. X, de eigenaar van het platform, werd gewaarschuwd, maar slaagde er niet in de inherente risico’s van het ontwerp aan te pakken, aldus de Malaysian Communications and Multimedia Commission (MCMC).
Europese en Britse onderzoeken
De Europese Unie onderzoekt gevallen van seksueel suggestieve afbeeldingen, waaronder afbeeldingen van jonge meisjes, gegenereerd door Grok. Ursula von der Leyen, voorzitter van de Europese Commissie, uitte haar verontwaardiging over het platform waarmee gebruikers vrouwen en kinderen online digitaal kunnen strippen, en dreigde met actie als X niet zelfregulerend zou zijn.
Het Verenigd Koninkrijk is een onderzoek gestart naar X en xAI vanwege het gebruik van de chatbot bij het genereren van expliciete en niet-consensuele afbeeldingen. Ofcom, de Britse mediawaakhond, waarschuwde voor mogelijke boetes tot £18 miljoen als X niet aan de eisen voldoet.
Frankrijk heeft een bestaand onderzoek naar X uitgebreid met Grok, waarbij de nadruk lag op de verspreiding van seksueel expliciete nepvideo’s met minderjarigen. Het Openbaar Ministerie van Parijs onderzoekt ook mogelijke inbreuken op de Digital Services Act.
Italië heeft een waarschuwing afgegeven dat degenen die Grok gebruiken om zonder toestemming kleding uit afbeeldingen te verwijderen, strafrechtelijke vervolging riskeren, onder verwijzing naar ernstige schendingen van fundamentele rechten. De Italiaanse gegevensbeschermingsautoriteit werkt samen met de Ierse gegevensbeschermingscommissie, waar X zijn hoofdkantoor heeft.
Duitsland is van plan een nieuwe wet tegen digitaal geweld in te voeren, met als doel de bescherming van slachtoffers van door AI gegenereerd misbruik te versterken. De regering beschouwt manipulatie voor systemische rechtenschendingen als onaanvaardbaar.
Bredere zorgen en reacties
De eSafety Commissioner van Australië heeft rapporten ontvangen over de expliciete inhoud van Grok en zal zijn bevoegdheden gebruiken, inclusief verwijderingskennisgevingen, als schendingen van de Online Safety Act worden bevestigd. Het kantoor vraagt X om meer informatie en evalueert de naleving van de nieuwe socialemediawetten.
Deze acties benadrukken een groeiende mondiale trend in de richting van strengere regulering van door AI gegenereerde inhoud, met name deepfakes en niet-consensuele beelden. De snelle escalatie onderstreept de dringende noodzaak voor technologiebedrijven om robuuste waarborgen te implementeren en voor regeringen om duidelijke juridische kaders op te zetten om burgers te beschermen tegen AI-gerelateerde schade.
De situatie met Grok onderstreept de beperkingen van zelfregulering door technologieplatforms en de toenemende druk op overheden om in te grijpen. De verspreiding van door AI gegenereerd misbruik vereist onmiddellijke actie om innovatie in evenwicht te brengen met de bescherming van de grondrechten.
