Це зайняло лише кілька годин. Тижня? Ні.
Штучний інтелект Anthropic під назвою Mythos виявив уразливості у високочутливих комп’ютерних системах уряду США швидше, ніж будь-хто встигав доїсти свою каву. Як повідомив Associated Press представник США, під час спільного тестування з розвідувальними агентствами модель виявила вразливість практично миттєво. Це не означає, що вона використовувала їх для атак так само швидко. Просто вона знайшла проломи в безпеці.
Сенатор Марк Уорнер висловився прямо. На слуханнях минулого місяця він процитував голову Агентства національної безпеки (АНБ) та Командування Кіберкомандування США. Інструмент проник у «майже всі наші засекречені системи» лише за кілька годин.
Це тестування стало частиною Проекту Glasswing. Anthropic об’єднала зусилля з технологічними компаніями та урядовими агентствами. Якою була мета? Забезпечити захист критично важливого програмного забезпечення від «серйозних» наслідків, які б викликати Mythos. Для громадської безпеки. Національної безпеки. Економіка. Ви зрозуміли ідею.
«Цей інструмент проник майже у всі мої засекречені системи, не за тижні, а за години», — заявив генерал Джошуа Радд, пов’язуючи швидкість злому з величезною обчислювальною потужністю ІІ.
Політичне протистояння
Співпраця не зупинила розбіжностей. Anthropic, штаб-квартира якої перебуває у Каліфорнії, викликає роздратування з боку адміністрації Трампа. Напруженість зростає.
Уряд хоче контролю. Anthropic турбується про військових. Зокрема, про те, як збройні сили можуть використовувати їх ІІ у військових цілях. У відповідь Білий дім зробив кроки щодо обмеження доступу до певних моделей.
Нова директива зобов’язала Anthropic заблокувати доступ до моделей Fable 5 та Mythos 5 для іноземних громадян. Це сталося за десять днів після того, як президент Трамп підписав виконавчий указ. Цей указ дозволяє федеральному уряду проводити перевірку ІІ-систем на наявність ризиків для національної безпеки протягом місяця перед їх публічним випуском. Чи це добровільний процес? Можливо, для когось. Але не для Anthropic.
Компанія підкорилася. Вона вимкнула моделі для всіх користувачів. Але не погодилася із логікою такого рішення. Anthropic стверджувала, що міркування безпеки не виправдовують таку повну заборону. Вони випустили обмежену версію моделі Fable для широкого загалу. Ослаблену версію. Оскільки утримання Mythos під суворим контролем було визнано необхідним. Інакше це було б надто ризиковано.
Експерти виступають проти
То що ми робимо зараз?
Понад 100 лідерів у сфері кібербезпеки виступили з критикою. Представники компаній Adobe, Nvidia та інших. Вони написали листа уряду. Їхнє послання? Скасувати директиву.
Вони попередили, що такі заходи допомагають супротивникам США. Це тактична помилка.
Експерти визнають, що Mythos працює добре. Дуже добре. Він знаходить вразливість у програмному забезпеченні і легко перетворює їх на інструменти атаки. Але він не є унікальним. У листі було чітко сказано: ці моделі не мають виняткових можливостей у цих завданнях.
Групи безпеки використовують інші базові моделі. З відкритим кодом. Для аудитів Для навчання. Чому? Бо треба розуміти, як думає ворог. Потрібно знати вектор атаки.
Відмова від кращих можливостей кіберзахисту не має сенсу. Без вагомих причин. Особливо, коли противники діють швидко. Мабуть, швидше за нас.
Ми сховали ключ від замку. Розумне рішення. Справді.
Чи стало безпечніше? Можливо.
Але безперечно стало повільніше.
