Платформа X Илона Маска внедрила новые ограничения для своего AI-чатбота Grok, чтобы предотвратить создание сексуализированных дипфейков, особенно изображений реальных людей в откровенной одежде, такой как бикини. Эти изменения произошли на фоне растущего юридического и политического давления, включая расследование генерального прокурора Калифорнии и угрозы запретов в Великобритании и других странах.
Юридические и Регуляторные Последствия
Этот шаг последовал за широкой критикой после того, как чатбот Grok был использован для создания несанкционированных откровенных изображений знаменитостей и детей. Генеральный прокурор Калифорнии Роб Бонта потребовал от xAI, разработчика Grok, немедленно принять меры для удаления такого контента. Штат готов использовать «все доступные инструменты» для защиты своих жителей, сигнализируя о возможных юридических последствиях для X в случае несоблюдения требований.
«Этот материал…изображает женщин и детей в обнаженном и сексуально откровенном виде и использовался для преследования людей в интернете». – Роб Бонта, генеральный прокурор Калифорнии.
Одновременно правительство Великобритании осудило результаты работы AI-инструмента как «позорные» и «отвратительные», а премьер-министр Кир Стармер пригрозил вмешательством, если X не займется саморегулированием. Индонезия и Малайзия уже заблокировали доступ к Grok.
Технические Ограничения, Введенные в Эксплуатацию
X объявила, что развернула технологические меры для предотвращения генерации AI откровенных изображений реальных людей. Они включают в себя:
- Ограничения Редактирования Изображений: Возможность редактирования изображений через Grok теперь ограничена только для платных подписчиков.
- Геоблокировка: X будет блокировать пользователей в юрисдикциях, где создание такого контента незаконно.
- Модерация Контента: Попытки обойти эти ограничения будут активно отслеживаться.
Вопрос Раздела 230
Быстрое изменение политики может быть ответом на опасения по поводу юридической ответственности. Эксперты предполагают, что X может быть не полностью защищена Разделом 230 Закона США о пристойности коммуникаций, когда технология платформы сама генерирует вредоносный контент. Этот закон обычно защищает технологические компании от судебных исков, связанных с контентом, создаваемым пользователями, но контент, созданный непосредственно технологией приложения, может подпадать под другие правовые стандарты.
Оперативные корректировки отражают растущее давление на X в отношении решения проблемы распространения AI-генерируемых злоупотреблений на своей платформе. Ситуация поднимает более широкие вопросы об ответственности технологических компаний за контроль над результатами своих AI-инструментов и пределах правовой защиты в эпоху генеративного AI.
