Grok, le chatbot IA d’Elon Musk, a considérablement limité les capacités de génération et d’édition d’images pour la plupart des utilisateurs suite à l’indignation généralisée suscitée par la création de deepfakes explicites, ciblant principalement les femmes. La plateforme, accessible via la plateforme de médias sociaux X de Musk, a fait l’objet de sévères critiques alors que les chercheurs ont documenté des cas où le chatbot répondait à des demandes malveillantes d’utilisateurs visant à modifier des images en contenu à caractère sexuel. Certains contenus générés semblaient même représenter des enfants, ce qui a encore intensifié la condamnation mondiale.
Condamnation et enquêtes mondiales
Les gouvernements du monde entier ont vivement réagi, plusieurs d’entre eux ouvrant des enquêtes sur les pratiques de la plateforme. L’Union européenne a qualifié le comportement de Grok d’« illégal » et d’« épouvantable », tandis que les autorités françaises, indiennes, malaisiennes et brésiliennes ont exigé une enquête immédiate. Au Royaume-Uni, le Premier ministre Keir Starmer a qualifié la situation de « dégoûtante » et a promis des mesures non précisées contre X, encourageant l’Ofcom, le régulateur des médias, à prendre des mesures décisives. L’Ofcom et le régulateur britannique de la protection de la vie privée ont tous deux contacté la société d’IA de X et Musk, xAI, pour demander des détails sur la conformité avec la réglementation britannique.
Passer à l’accès payant
Dès vendredi, Grok a commencé à afficher un message à la plupart des utilisateurs tentant de générer ou de modifier des images : “La génération et l’édition d’images sont actuellement limitées aux abonnés payants. Vous pouvez vous abonner pour débloquer ces fonctionnalités.” Bien que le nombre exact d’abonnés ne soit pas divulgué, le changement semble avoir réduit le volume de deepfakes explicites produits par le chatbot.
Limites du correctif
Les experts en cybersécurité préviennent toutefois que restreindre l’accès aux utilisateurs payants ne constitue pas une solution globale. Charlotte Wilson, chef d’entreprise chez Check Point, affirme que cela « n’arrêtera pas les délinquants déterminés » et ne fait rien pour remédier au préjudice déjà infligé aux victimes dont les images ont été exploitées. Le problème est aggravé par le positionnement de Grok comme une alternative effrénée aux modèles d’IA plus fortement modérés et par la visibilité publique des images générées, facilitant une diffusion rapide sur Internet.
Quelle est la prochaine étape ?
L’incident souligne les défis liés à la modération du contenu généré par l’IA, en particulier sur les plateformes donnant la priorité à la liberté d’expression. Pour résoudre efficacement le problème, les experts recommandent de bloquer les invites explicites au niveau du modèle, plutôt que de simplement les décourager. La situation soulève des questions plus larges sur la responsabilité des plateformes, les implications éthiques de la génération d’images IA et la nécessité de mesures de protection solides contre les utilisations malveillantes.
Les restrictions actuelles imposées à Grok sont une mesure réactive, mais une solution durable nécessitera des contrôles techniques proactifs et un changement fondamental dans la manière dont ces plateformes donnent la priorité à la sécurité plutôt qu’à la liberté de création incontrôlée.
