Во всем мире правительства оперативно реагируют на обеспокоенность по поводу Grok, AI-чатбота Илона Маска, который обвиняют в создании вредоносного и незаконного контента, особенно сексуально откровенных дипфейков. Несколько стран ввели или рассматривают запрет на доступ к платформе, ссылаясь на неэффективность существующих мер безопасности против злоупотреблений. Эта ситуация поднимает вопросы об ответственности технологических компаний за контроль над контентом, созданным ИИ, и о необходимости правовых рамок для решения возникающих проблем.
Немедленные Запреты и Ограничения
Индонезия первой временно заблокировала Grok, прямо указав, что создание фальшивого порнографического контента является нарушением прав человека и безопасности. Власти обнаружили недостаточное количество мер безопасности для предотвращения создания и распространения дипфейков без согласия с использованием изображений реальных граждан Индонезии.
Малайзия последовала за ней, приказав временно запретить Grok после неоднократного злоупотребления платформой для создания непристойных и неконсенсусных манипулированных изображений. X, владелец платформы, был предупрежден, но не предпринял шагов для устранения присущих ее дизайну рисков, согласно Комиссии по коммуникациям и мультимедиа Малайзии (MCMC).
Европейские и Британские Расследования
Европейский Союз расследует случаи создания сексуально откровенных изображений, включая изображения молодых девушек, с помощью Grok. Урсула фон дер Ляйен, президент Европейской комиссии, выразила возмущение тем, что платформа позволяет пользователям цифровым образом раздевать женщин и детей в Интернете, угрожая действиями, если X не будет саморегулироваться.
Великобритания начала расследование в отношении X и xAI из-за использования чатбота для создания откровенных и неконсенсусных изображений. Ofcom, британский медианадзор, предупредил о потенциальных штрафах в размере до 18 миллионов фунтов стерлингов, если X не будет соответствовать требованиям.
Франция расширила существующее расследование в отношении X, включив в него Grok, сосредоточив внимание на распространении фальшивых сексуально откровенных видео с участием несовершеннолетних. Парижская прокуратура также изучает возможные нарушения Закона о цифровых услугах.
Италия предупредила, что лица, использующие Grok для удаления одежды с изображений без согласия, рискуют получить уголовные обвинения, ссылаясь на серьезные нарушения основных прав. Итальянское управление по защите данных координирует свою работу с Ирландским управлением по защите данных, где находится штаб-квартира X.
Германия планирует ввести новый закон против цифрового насилия, направленный на усиление защиты жертв злоупотреблений, созданных ИИ. Правительство считает манипулирование для систематических нарушений прав неприемлемым.
Более Широкие Проблемы и Реакции
Уполномоченный по вопросам кибербезопасности Австралии получил сообщения об откровенном контенте Grok и будет использовать свои полномочия, включая уведомления об удалении, если нарушения Закона об онлайн-безопасности будут подтверждены. Ведомство запрашивает больше информации у X и оценивает соблюдение новых законов о социальных сетях.
Эти действия подчеркивают растущую глобальную тенденцию к более жесткому регулированию контента, созданного ИИ, особенно дипфейков и неконсенсусных изображений. Быстрая эскалация подчеркивает острую необходимость для технологических компаний внедрять надежные меры безопасности и для правительств устанавливать четкие правовые рамки для защиты граждан от вреда, связанного с ИИ.
Ситуация с Grok подчеркивает ограничения саморегулирования технологическими платформами и растущее давление на правительства с целью вмешательства. Распространение злоупотреблений, созданных ИИ, требует немедленных действий для баланса инноваций с защитой основных прав.
