Это заняло всего несколько часов. Недели? Нет.
Искусственный интеллект Anthropic под названием Mythos обнаружил уязвимости в высокочувствительных компьютерных системах правительства США быстрее, чем кто-либо успевал доесть свой кофе. Как сообщил Associated Press представитель США, во время совместного тестирования с разведывательными агентствами модель выявила уязвимости практически мгновенно. Это не значит, что она использовала их для атак так же быстро. Просто она нашла бреши в безопасности.
Сенатор Марк Уорнер выразился прямо. На слушаниях в прошлом месяце он процитировал главу Агентства национальной безопасности (АНБ) и Командования Киберкомандования США. Инструмент проник в «почти все наши засекреченные системы» всего за несколько часов.
Это тестирование стало частью Проекта «Glasswing». Anthropic объединила усилия с технологическими компаниями и правительственными агентствами. Какова была цель? Обеспечить защиту критически важного программного обеспечения от «серьезных» последствий, которые мог бы вызвать Mythos. Для общественной безопасности. Национальной безопасности. Экономики. Вы поняли идею.
«Этот инструмент проник почти во все мои засекреченные системы, не за недели, а за часы», — заявил генерал Джошуа Радд, связывая скорость взлома с огромной вычислительной мощью ИИ.
Политическое противостояние
Сотрудничество не остановило разногласий. Anthropic, штаб-квартира которой находится в Калифорнии, вызывает раздражение со стороны администрации Трампа. Напряженность растет.
Правительство хочет контроля. Anthropic беспокоится о военных. В частности, о том, как вооруженные силы могут использовать их ИИ в военных целях. В ответ Белый дом предпринял шаги по ограничению доступа к определенным моделям.
Новая директива обязала Anthropic заблокировать доступ к моделям Fable 5 и Mythos 5 для иностранных граждан. Это произошло через десять дней после того, как президент Трамп подписал исполнительный указ. Этот указ позволяет федеральному правительству проводить проверку ИИ-систем на наличие рисков для национальной безопасности в течение до месяца перед их публичным выпуском. Добровольный ли это процесс? Возможно, для кого-то. Но не для Anthropic.
Компания подчинилась. Она отключила модели для всех пользователей. Но не согласилась с логикой такого решения. Anthropic утверждала, что соображения безопасности не оправдывают такой полный запрет. Они выпустили ограниченную версию модели Fable для широкой публики. Ослабленную версию. Поскольку удержание Mythos под строгим контролем было признано необходимым. В противном случае это было бы слишком рискованно.
Эксперты выступают против
Так что же мы делаем сейчас?
Более 100 лидеров в сфере кибербезопасности выступили с критикой. Представители компаний Adobe, Nvidia и других. Они написали письмо правительству. Их послание? Отменить директиву.
Они предупредили, что такие меры помогают противникам США. Это тактическая ошибка.
Эксперты признают, что Mythos работает хорошо. Очень хорошо. Он находит уязвимости в программном обеспечении и легко превращает их в инструменты атаки. Но он не уникален. В письме было четко сказано: эти модели не обладают исключительными возможностями в этих задачах.
Группы безопасности уже используют другие базовые модели. С открытым исходным кодом. Для аудитов. Для обучения. Почему? Потому что нужно понимать, как думает враг. Нужно знать вектор атаки.
Отказ от лучших возможностей киберзащиты не имеет смысла. Без веских причин. Особенно когда противники действуют быстро. Видимо, быстрее нас.
Мы спрятали ключ от замка. Умное решение. Действительно.
Стало ли безопаснее? Возможно.
Но определенно стало медленнее.
