Платформа Ілона Маска X запровадила нові обмеження для свого чат-бота зі штучним інтелектом Grok, щоб запобігти створенню сексуалізованих дипфейків, особливо зображень реальних людей у відкритому одязі, як-от бікіні. Зміни відбуваються на тлі зростаючого правового та політичного тиску, включаючи розслідування генерального прокурора Каліфорнії та погрози заборони у Великобританії та інших країнах.
Правові та регуляторні наслідки
Цей крок став результатом широко поширеної критики після того, як чат-бот Grok використовувався для створення несанкціонованих відвертих зображень знаменитостей і дітей. Генеральний прокурор Каліфорнії Роб Бонта вимагав від xAI, розробника Grok, вжити негайних заходів для видалення такого вмісту. Штат готовий використовувати «всі доступні інструменти», щоб захистити своїх жителів, повідомляючи про можливі правові наслідки для X, якщо він не виконає вимоги.
«Цей матеріал… зображує жінок і дітей оголеними та відвертим сексуальним характером і використовувався для переслідування людей в Інтернеті». – Роб Бонта, генеральний прокурор Каліфорнії.
У той же час уряд Великої Британії засудив результати роботи інструменту ШІ як «ганебні» та «огидні», а прем’єр-міністр Кейр Стармер пригрозив втрутитися, якщо X не буде саморегулюватися. Індонезія та Малайзія вже заблокували доступ до Grok.
Технічні обмеження, реалізовані під час експлуатації
X оголосила, що запровадила технологічні заходи, щоб запобігти створенню штучним інтелектом відвертих зображень реальних людей. Вони включають:
- Обмеження редагування зображень: Можливість редагувати зображення через Grok тепер обмежена лише платними передплатниками.
- Геоблокування: X блокуватиме користувачів у юрисдикціях, де створення такого вмісту є незаконним.
- Модерація вмісту: Спроби обійти ці обмеження будуть активно відстежуватися.
Проблема розділу 230
Швидка зміна політики може бути відповіддю на занепокоєння щодо юридичної відповідальності. Експерти припускають, що X може бути не повністю захищений розділом 230 Закону США про комунікаційну порядність, якщо сама технологія платформи створює шкідливий вміст. Цей закон загалом захищає технологічні компанії від судових позовів, пов’язаних із вмістом, створеним користувачами, але вміст, створений безпосередньо технологією програми, може підлягати іншим правовим нормам.
Операційні коригування відображають зростаючий тиск на X для вирішення проблеми поширення зловживань, спричинених штучним інтелектом, на його платформі. Ситуація викликає ширші питання щодо відповідальності технологічних компаній контролювати результати своїх інструментів ШІ та меж правового захисту в епоху генеративного ШІ.
