Незважаючи на масові повідомлення про кричущі зловживання, xAI запустила Grok Imagine 1.0 – новий відеогенератор на основі ІІ, здатний створювати 10-секундні ролики з роздільною здатністю 720p зі звуком. Цей крок був за місяцями задокументованих зловживань інструментами генерації зображень на платформі, включаючи створення мільйонів дипфейків сексуального характеру.
Масштаб Проблеми
З грудня 2024 року по січень 2025 року Grok використовувався для створення відвертого контенту, користувачі просили ІІ роздягати або створювати сексуально провокаційні зображення людей, фотографії яких були загальнодоступні в X.
Згідно з звітами The New York Times і The Center on Countering Digital Hate, Grok згенерував приблизно 1,8 мільйона і 3 мільйони сексуалізованих зображень відповідно за короткий період часу, що становить значну частину його загального обсягу виведення. Важливо відзначити, що показники залученості в X * збільшилися * протягом цього періоду, як визнав глава відділу продуктів компанії, Микита Бір, без прямого зв’язку з цими зловживаннями.
Слабкі Обмеження та Зловживання, що продовжуються
Хоча xAI спробувала ввести обмеження в середині січня, помістивши генерацію зображень за платну передплату і заявивши про поліпшення у фільтрації контенту, ці заходи виявилися неефективними. Генерація зображень ІІ залишається вільно доступною, і повідомлення вказують на те, що зловживання продовжують відбуватися. Запуск Grok Imagine 1.0 є подальшою ескалацією, піднімаючи гострі питання про модерацію контенту у світлі кризи.
Глобальна Реакція та Юридичний Тиск
Наслідки зловживань Grok призвели до серйозних наслідків. Індонезія та Малайзія заборонили додаток X, а генеральний прокурор Каліфорнії та уряд Великобританії розпочали розслідування щодо xAI. Сенатори США та правозахисні групи закликали Apple та Google видалити X зі своїх магазинів додатків через порушення умов обслуговування.
Закон “Видалити Це” та Уповільнене Застосування
Уряд США ухвалив закон “Видалити Це” у 2025 році, який криміналізує поширення інтимних зображень без згоди та дипфейків. Однак платформи мають право до травня встановити механізми примусового виконання, залишаючи поточних користувачів уразливими у цей час.
Продовжується робота Grok, незважаючи на переважні докази зловживань, демонструє нехтування безпекою користувачів та дотриманням законодавства. Новий відеогенератор ще більше посилює ці проблеми, розсуваючи межі експлуатації за допомогою ІІ, в той час як регуляторні заходи відстають.
