ШІ-чат-бот Ілона Маска, Grok, значно обмежив можливості створення та редагування зображень для більшості користувачів після широкого громадського обурення через створення відвертих дипфейків, головним чином націлених на жінок. Платформа, доступна через соціальну мережу Mask X, зіткнулася з жорсткою критикою, оскільки дослідники задокументували випадки, коли чат-бот виконує зловмисні запити користувачів на редагування зображень у відверто сексуальний контент. Деякі зі створеного контенту навіть зображували дітей, що ще більше викликало глобальне засудження.
Глобальне засудження та розслідування
Уряди в усьому світі різко відреагували, і кілька країн розпочали розслідування дій платформи. Європейський Союз назвав поведінку Грока “незаконною” та “обурливою”, а офіційні особи у Франції, Індії, Малайзії та Бразилії закликали до негайного розслідування. У Сполученому Королівстві прем’єр-міністр Кейр Стармер засудив ситуацію як «огидну» та пообіцяв вжити невизначених заходів проти X, підтримавши медіарегулятор Ofcom вжити рішучих заходів. І Ofcom, і британський регулятор конфіденційності зв’язалися з компанією X і Маска зі штучного інтелекту, xAI, із запитом про дотримання правил Великобританії.
Перехід на платний доступ
Починаючи з п’ятниці, Grok почав відображати повідомлення для більшості користувачів, які намагаються створювати або редагувати зображення: «Створення та редагування зображень наразі обмежено платними передплатниками. Ви можете підписатися, щоб розблокувати ці функції». Хоча точна кількість передплатників не розголошується, ця зміна, схоже, зменшила кількість відвертих глибоких фейків, створених чат-ботом.
Обмеження Виправлення
Однак експерти з кібербезпеки попереджають, що обмеження доступу для платних користувачів не є повним рішенням. Шарлотта Вілсон, керівник відділу корпоративних рішень у Check Point, стверджує, що це «не зупинить рішучих зловмисників» і не впливає на шкоду, яка вже була завдана жертвам, чиї зображення використовувалися в глибоких фейках. Проблема ускладнюється позиціонуванням Grok як нерегульованої альтернативи більш модерованим моделям штучного інтелекту та публічною видимістю згенерованих зображень, що полегшує їх швидке поширення в Інтернеті.
Що далі?
Інцидент підкреслює труднощі модерування контенту, створеного ШІ, особливо на платформах, де свобода самовираження є пріоритетом. Для ефективного вирішення проблеми експерти рекомендують блокувати явні запити на рівні моделі, а не просто запобігати їм. Ситуація піднімає ширші питання щодо відповідальності платформи, етичних наслідків створення зображень ШІ та необхідності надійних гарантій захисту від зловмисного використання.
Поточні обмеження Grok є реактивним заходом, але довгострокове рішення вимагатиме проактивного технічного контролю та фундаментальної зміни того, як ці платформи надають перевагу безпеці над неконтрольованою творчою свободою.
