La plataforma X de Elon Musk ha implementado nuevas restricciones en su chatbot Grok AI para evitar la creación de deepfakes sexualizados, específicamente imágenes que muestran a personas reales con ropa reveladora como bikinis. Los cambios se producen en medio de una creciente presión legal y política, incluida una investigación del fiscal general de California y amenazas de prohibiciones en el Reino Unido y otros países.
Reacción legal y regulatoria
La medida sigue a las críticas generalizadas después de que el chatbot Grok se utilizara para generar imágenes explícitas y no consensuadas de celebridades y niños. El Fiscal General de California, Rob Bonta, ha exigido que xAI, el desarrollador de Grok, tome medidas inmediatas para eliminar dicho contenido. El estado está preparado para utilizar “todas las herramientas a nuestra disposición” para proteger a sus residentes, lo que indica posibles consecuencias legales para X si no cumple.
“Este material… muestra mujeres y niños desnudos y en situaciones sexualmente explícitas, ha sido utilizado para acosar a personas en Internet”. – Rob Bonta, Fiscal General de California.
Al mismo tiempo, el gobierno del Reino Unido condenó el resultado de la herramienta de IA como “vergonzoso” y “repugnante”, y el primer ministro Keir Starmer amenazó con intervenir si X no se autorregula. Indonesia y Malasia ya han bloqueado el acceso a Grok.
Restricciones técnicas implementadas
X anunció que ha implementado medidas tecnológicas para evitar que la IA genere imágenes explícitas de personas reales. Estos incluyen:
- Límites de edición de imágenes: La capacidad de editar imágenes a través de Grok ahora está restringida solo a suscriptores pagos.
- Bloqueo geográfico: X geobloqueará a los usuarios en jurisdicciones donde la creación de dichas imágenes sea ilegal.
- Moderación de contenido: Los intentos de eludir estas restricciones serán monitoreados activamente.
La pregunta de la Sección 230
El rápido cambio de política puede ser una respuesta a las preocupaciones sobre la responsabilidad legal. Los expertos sugieren que X puede no estar completamente protegido por la Sección 230 de la Ley de Decencia en las Comunicaciones de EE. UU. cuando la propia IA de la plataforma genera contenido dañino. Esta ley generalmente protege a las empresas de tecnología de demandas relacionadas con material generado por el usuario, pero el contenido creado directamente por la tecnología de una aplicación podría estar sujeto a diferentes estándares legales.
Los rápidos ajustes reflejan la creciente presión sobre X para abordar la proliferación de abusos generados por IA en su plataforma. La situación plantea interrogantes más amplios sobre la responsabilidad de las empresas de tecnología a la hora de controlar los resultados de sus herramientas de IA y los límites de las protecciones legales en la era de la IA generativa.
