Несмотря на массовые сообщения о вопиющих злоупотреблениях, xAI запустила Grok Imagine 1.0 — новый видеогенератор на основе ИИ, способный создавать 10-секундные ролики в разрешении 720p со звуком. Этот шаг последовал за месяцами задокументированных злоупотреблений инструментами генерации изображений на платформе, включая создание миллионов дипфейков сексуального характера.
Масштаб Проблемы
С декабря 2024 года по январь 2025 года Grok использовался для создания откровенного контента, пользователи просили ИИ раздевать или создавать сексуально провокационные изображения людей, фотографии которых были общедоступны в X. Слабая модерация контента на платформе позволила создавать и распространять нефильтрованный сексуальный контент, включая дипфейки с участием детей.
Согласно отчётам The New York Times и The Center on Countering Digital Hate, Grok сгенерировал примерно 1,8 миллиона и 3 миллиона сексуализированных изображений соответственно за короткий период времени, что составляет значительную часть его общего объёма вывода. Важно отметить, что показатели вовлечённости в X увеличились в течение этого периода, как признал глава отдела продуктов компании, Никита Бир, без прямой связи с этими злоупотреблениями.
Слабые Ограничения и Продолжающиеся Злоупотребления
Хотя xAI попыталась ввести ограничения в середине января, поместив генерацию изображений за платную подписку и заявив об улучшениях в фильтрации контента, эти меры оказались неэффективными. Генерация изображений ИИ остаётся свободно доступной, и сообщения указывают на то, что злоупотребления продолжают происходить. Запуск Grok Imagine 1.0 представляет собой дальнейшую эскалацию, поднимая острые вопросы о модерации контента в свете продолжающегося кризиса.
Глобальная Реакция и Юридическое Давление
Последствия злоупотреблений Grok привели к серьёзным последствиям. Индонезия и Малайзия запретили приложение X, а генеральный прокурор Калифорнии и правительство Великобритании начали расследования в отношении xAI. Сенаторы США и правозащитные группы призвали Apple и Google удалить X из своих магазинов приложений из-за нарушений условий обслуживания.
Закон «Удалить Это» и Замедленное Применение
Правительство США приняло закон «Удалить Это» в 2025 году, криминализирующий распространение интимных изображений без согласия и дипфейков. Однако платформы имеют право до мая установить механизмы принудительного исполнения, оставляя текущих пользователей уязвимыми в это время.
Продолжающаяся работа Grok, несмотря на подавляющие доказательства злоупотреблений, демонстрирует пренебрежение безопасностью пользователей и соблюдением законодательства. Новый видеогенератор ещё больше усугубляет эти проблемы, раздвигая границы эксплуатации с помощью ИИ, в то время как регуляторные меры отстают.
