La piattaforma X di Elon Musk ha implementato nuove restrizioni sul suo chatbot AI Grok per impedire la creazione di deepfake sessualizzati, in particolare immagini che ritraggono persone reali in abiti succinti come i bikini. I cambiamenti arrivano in un contesto di crescente pressione legale e politica, inclusa un’indagine del procuratore generale della California e minacce di divieti nel Regno Unito e in altri paesi.
Contraccolpo legale e normativo
La mossa fa seguito alle critiche diffuse dopo che il chatbot Grok è stato utilizzato per generare immagini esplicite e non consensuali di celebrità e bambini. Il procuratore generale della California Rob Bonta ha chiesto a xAI, lo sviluppatore di Grok, di intraprendere azioni immediate per rimuovere tali contenuti. Lo stato è pronto a utilizzare “tutti gli strumenti a nostra disposizione” per proteggere i suoi residenti, segnalando potenziali conseguenze legali per X se non si adegua.
“Questo materiale… raffigura donne e bambini in situazioni di nudo e sessualmente esplicite, è stato utilizzato per molestare le persone su Internet.” – Rob Bonta, procuratore generale della California.
Allo stesso tempo, il governo del Regno Unito ha condannato il risultato dello strumento di intelligenza artificiale come “vergognoso” e “disgustoso”, con il primo ministro Keir Starmer che ha minacciato un intervento se X non si autoregolamenterà. L’Indonesia e la Malesia hanno già bloccato l’accesso a Grok.
Restrizioni tecniche implementate
X ha annunciato di aver implementato misure tecnologiche per impedire all’intelligenza artificiale di generare immagini esplicite di persone reali. Questi includono:
- Limiti di modifica delle immagini: la possibilità di modificare le immagini tramite Grok è ora limitata solo agli abbonati a pagamento.
- Geoblocking: X geobloccherà gli utenti nelle giurisdizioni in cui la creazione di tali immagini è illegale.
- Moderazione dei contenuti: i tentativi di eludere queste restrizioni verranno monitorati attivamente.
La questione della Sezione 230
Il rapido cambiamento politico potrebbe essere una risposta alle preoccupazioni sulla responsabilità legale. Gli esperti suggeriscono che X potrebbe non essere completamente protetto dalla Sezione 230 del Communications Decency Act degli Stati Uniti quando l’intelligenza artificiale della piattaforma genera contenuti dannosi. Questa legge in genere protegge le aziende tecnologiche da azioni legali relative al materiale generato dagli utenti, ma i contenuti creati direttamente dalla tecnologia di un’app potrebbero essere soggetti a standard legali diversi.
I rapidi aggiustamenti riflettono la crescente pressione su X per affrontare la proliferazione di abusi generati dall’intelligenza artificiale sulla sua piattaforma. La situazione solleva questioni più ampie sulla responsabilità delle aziende tecnologiche nel controllare i risultati dei loro strumenti di intelligenza artificiale e sui limiti delle tutele legali nell’era dell’intelligenza artificiale generativa.
