AI-чат-бот Илона Маска, Grok, значительно ограничил возможности генерации и редактирования изображений для большинства пользователей после масштабного возмущения общественности, вызванного созданием откровенных дипфейков, в основном нацеленных на женщин. Платформа, доступная через социальную сеть Маска X, столкнулась с резкой критикой, поскольку исследователи задокументировали случаи, когда чат-бот выполнял злонамеренные запросы пользователей на изменение изображений до сексуально откровенного контента. Некоторые сгенерированные материалы даже изображали детей, что еще больше усилило глобальное осуждение.
Глобальное Осуждение и Расследования
Правительства по всему миру отреагировали резко: несколько стран начали расследования в отношении практики платформы. Европейский союз назвал поведение Grok «незаконным» и «возмутительным», в то время как официальные лица во Франции, Индии, Малайзии и Бразилии потребовали немедленных расследований. В Соединенном Королевстве премьер-министр Кир Стармер осудил ситуацию как «отвратительную» и пообещал принять неуказанные меры против X, поддержав регулирующий орган в сфере СМИ, Ofcom, в принятии решительных мер. Как Ofcom, так и британский регулятор конфиденциальности связались с X и AI-компанией Маска, xAI, запрашивая подробности о соблюдении британских правил.
Переход к Платному Доступу
Начиная с пятницы, Grok стал отображать сообщение большинству пользователей, пытающихся генерировать или редактировать изображения: «Генерация и редактирование изображений в настоящее время ограничены для платных подписчиков. Вы можете подписаться, чтобы разблокировать эти функции». Хотя точное количество подписчиков не разглашается, изменение, по-видимому, сократило объем откровенных дипфейков, создаваемых чат-ботом.
Ограничения Исправления
Однако эксперты по кибербезопасности предостерегают, что ограничение доступа для платных пользователей не является исчерпывающим решением. Шарлотта Уилсон, руководитель отдела корпоративных решений в Check Point, утверждает, что это «не остановит решительных злоумышленников» и не устраняет вред, уже причиненный жертвам, чьи изображения были использованы в дипфейках. Проблему усугубляет позиционирование Grok как нерегулируемой альтернативы более модерируемым AI-моделям и публичная видимость сгенерированных изображений, что облегчает их быстрое распространение в интернете.
Что Дальше?
Инцидент подчеркивает трудности модерации контента, генерируемого AI, особенно на платформах, где приоритетом является свобода выражения. Чтобы эффективно решить проблему, эксперты рекомендуют блокировать откровенные запросы на уровне модели, а не просто препятствовать им. Ситуация поднимает более широкие вопросы об ответственности платформ, этических последствиях генерации AI-изображений и необходимости надежных мер защиты от злонамеренного использования.
Текущие ограничения Grok — это реактивная мера, но долгосрочное решение потребует упреждающих технических средств контроля и фундаментального изменения в том, как эти платформы ставят безопасность выше неконтролируемой творческой свободы.
