Nonostante le diffuse segnalazioni di abusi dilaganti, xAI ha lanciato Grok Imagine 1.0, un nuovo generatore video basato sull’intelligenza artificiale in grado di creare clip da 10 secondi a 720p con audio. Questa mossa fa seguito a mesi di abuso documentato degli strumenti di generazione di immagini della piattaforma, inclusa la creazione di milioni di immagini sessuali deepfake.
La portata del problema
Dal dicembre 2024 al gennaio 2025, Grok è stato sfruttato per generare contenuti altamente espliciti, con gli utenti che richiedevano all’intelligenza artificiale di spogliarsi o creare immagini sessualmente allusive di individui le cui foto erano disponibili pubblicamente su X. La scarsa moderazione dei contenuti della piattaforma ha consentito la creazione e la condivisione di abusi sessuali basati su immagini non filtrate, inclusi deepfake con bambini.
Secondo quanto riportato da The New York Times e The Center on Countering Digital Hate, Grok ha prodotto rispettivamente circa 1,8 milioni e 3 milioni di immagini sessualizzate in brevi periodi, rappresentando una parte sostanziale della sua produzione totale. In particolare, i parametri di coinvolgimento su X sono aumentati durante questo periodo, come riconosciuto dal responsabile del prodotto dell’azienda, Nikita Bier, senza un collegamento esplicito all’abuso.
Guardrail deboli e sfruttamento continuo
Sebbene xAI abbia tentato di implementare dei guardrail a metà gennaio, ponendo la generazione di immagini dietro un paywall e sostenendo miglioramenti al filtraggio dei contenuti, queste misure si sono rivelate inefficaci. La generazione di immagini dell’intelligenza artificiale rimane liberamente accessibile e i rapporti indicano che continuano a essere prodotti contenuti offensivi. Il lancio di Grok Imagine 1.0 rappresenta un’ulteriore escalation, sollevando interrogativi critici sulla moderazione dei contenuti alla luce della crisi in corso.
Risposta globale e pressioni legali
Le conseguenze dell’abuso di Grok hanno provocato gravi conseguenze. Indonesia e Malesia hanno bandito l’app X, mentre il procuratore generale della California e il governo del Regno Unito hanno avviato indagini su xAI. Senatori e gruppi di difesa degli Stati Uniti hanno chiesto ad Apple e Google di rimuovere X dai loro app store a causa di violazioni dei termini di servizio.
Legge Take It Down e applicazione ritardata
Il governo degli Stati Uniti ha approvato il Take It Down Act nel 2025, criminalizzando la condivisione di immagini intime non consensuali e deepfake. Tuttavia, le piattaforme hanno tempo fino a maggio per istituire meccanismi di applicazione delle norme, lasciando nel frattempo vulnerabili gli utenti attuali.
La continuazione dell’attività di Grok nonostante prove schiaccianti di abusi segnala un disprezzo per la sicurezza degli utenti e la conformità legale. Il nuovo generatore di video esacerba ulteriormente queste preoccupazioni, spingendo i confini dello sfruttamento abilitato dall’intelligenza artificiale mentre le risposte normative restano indietro.
