Os governos de todo o mundo estão a responder rapidamente às preocupações sobre o Grok, o chatbot de IA de Elon Musk, que foi acusado de gerar conteúdos prejudiciais e ilegais, especialmente deepfakes sexualmente explícitos. Vários países tomaram medidas para proibir ou restringir o acesso à plataforma, citando falhas nas salvaguardas existentes contra abusos. Esta situação levanta questões sobre a responsabilidade das empresas tecnológicas em controlar os conteúdos gerados pela IA e os quadros jurídicos necessários para fazer face aos danos emergentes.
Proibições e restrições imediatas
A Indonésia foi a primeira nação a bloquear temporariamente Grok, citando explicitamente a geração de conteúdo pornográfico falso como uma violação dos direitos humanos e da segurança. As autoridades encontraram salvaguardas insuficientes para impedir a criação e distribuição de deepfakes não consensuais utilizando imagens reais de cidadãos indonésios.
Malásia seguiu o exemplo, ordenando uma proibição temporária após repetido uso indevido de Grok para produzir imagens manipuladas obscenas e não consensuais. X, o proprietário da plataforma, foi avisado, mas não conseguiu abordar os riscos inerentes ao seu design, de acordo com a Comissão de Comunicações e Multimídia da Malásia (MCMC).
Investigações Europeias e do Reino Unido
A União Europeia está investigando casos de imagens sexualmente sugestivas, incluindo aquelas que retratam meninas, geradas por Grok. Ursula von der Leyen, Presidente da Comissão Europeia, manifestou indignação com a plataforma que permite aos utilizadores despir digitalmente mulheres e crianças online, ameaçando tomar medidas se X não se auto-regular.
O Reino Unido lançou uma investigação sobre X e xAI sobre o uso do chatbot na geração de imagens explícitas e não consensuais. Ofcom, o órgão de fiscalização da mídia do Reino Unido, alertou sobre possíveis multas de até £ 18 milhões se X não cumprir os requisitos.
França expandiu uma investigação existente sobre X para incluir Grok, concentrando-se na disseminação de vídeos falsos sexualmente explícitos apresentando menores. A Procuradoria de Paris também está a examinar potenciais violações da Lei dos Serviços Digitais.
Itália emitiu um alerta de que aqueles que usam Grok para remover roupas de imagens sem consentimento correm o risco de acusações criminais, citando graves violações dos direitos fundamentais. A Autoridade Italiana de Proteção de Dados está em coordenação com a Comissão de Proteção de Dados da Irlanda, onde X está sediada.
Alemanha planeja introduzir uma nova lei contra a violência digital, com o objetivo de fortalecer a proteção das vítimas de abuso gerado por IA. O governo considera inaceitável a manipulação para violações sistémicas de direitos.
Preocupações e respostas mais amplas
O Comissário de Segurança Eletrônica da Austrália recebeu relatórios sobre o conteúdo explícito de Grok e usará seus poderes, incluindo avisos de remoção, se violações da Lei de Segurança Online forem confirmadas. O escritório está solicitando mais informações de X e avaliando a conformidade com as novas leis de mídia social.
Estas ações destacam uma tendência global crescente para uma regulamentação mais rigorosa do conteúdo gerado pela IA, especialmente deepfakes e imagens não consensuais. A rápida escalada sublinha a necessidade urgente de as empresas tecnológicas implementarem salvaguardas robustas e de os governos estabelecerem quadros jurídicos claros para proteger os cidadãos dos danos relacionados com a IA.
A situação com Grok sublinha as limitações da autorregulação por parte das plataformas tecnológicas e a crescente pressão sobre os governos para intervirem. A propagação dos abusos gerados pela IA exige uma ação imediata para equilibrar a inovação com a proteção dos direitos fundamentais.
