Zajęło to tylko kilka godzin. Tygodnie? Nie.
Sztuczna inteligencja firmy Anthropic o nazwie Mythos odkryła luki w zabezpieczeniach bardzo wrażliwych systemów komputerowych rządu USA szybciej, niż ktokolwiek był w stanie wypić kawę. Jak powiedział Associated Press przedstawiciel USA, podczas wspólnych testów z agencjami wywiadowczymi model niemal natychmiast zidentyfikował luki w zabezpieczeniach. Nie oznaczało to jednak, że używała ich do tak szybkiego ataku. Właśnie znalazła luki w zabezpieczeniach.
Senator Mark Warner ujął to bez ogródek. Na przesłuchaniu w zeszłym miesiącu zacytował szefa Agencji Bezpieczeństwa Narodowego (NSA) i amerykańskiego dowództwa cybernetycznego. Narzędzie przeniknęło do „prawie wszystkich naszych tajnych systemów” w ciągu zaledwie kilku godzin.
Testy te stały się częścią Projektu Glasswing. Anthropic połączył siły z firmami technologicznymi i agencjami rządowymi. Jaki był cel? Upewnij się, że krytyczne oprogramowanie jest chronione przed „poważnymi” konsekwencjami, jakie może spowodować Mythos. Dla bezpieczeństwa publicznego. Bezpieczeństwo Narodowe. Ekonomika. Masz pomysł.
„To narzędzie przeniknęło do prawie wszystkich moich tajnych systemów nie w ciągu tygodni, ale w ciągu godzin” – powiedział generał Joshua Rudd, przypisując szybkość włamania ogromnej mocy obliczeniowej sztucznej inteligencji.
Konfrontacja polityczna
Współpraca nie zapobiegła nieporozumieniom. Firma Anthropic z siedzibą w Kalifornii spotkała się z gniewem administracji Trumpa. Napięcia rosną.
Rząd chce kontroli. Anthropic martwi się o wojsko. W szczególności, w jaki sposób wojsko mogłoby wykorzystać swoją sztuczną inteligencję do celów wojskowych. W odpowiedzi Biały Dom podjął kroki mające na celu ograniczenie dostępu do niektórych modelek.
Nowa dyrektywa nakazała Anthropic zablokowanie dostępu do modeli Fable 5 i Mythos 5 dla obcokrajowców. Nastąpiło to dziesięć dni po podpisaniu dekretu przez prezydenta Trumpa. Zarządzenie wykonawcze pozwala rządowi federalnemu na dokonywanie przeglądu systemów sztucznej inteligencji pod kątem zagrożeń dla bezpieczeństwa narodowego przez okres do miesiąca przed ich publicznym udostępnieniem. Czy jest to proces dobrowolny? Być może dla kogoś. Ale nie dla Anthropic.
Firma zastosowała się. Wyłączyła modele dla wszystkich użytkowników. Nie zgodziłem się jednak z logiką tej decyzji. Anthropic argumentowała, że względy bezpieczeństwa nie uzasadniają takiego ogólnego zakazu. Wypuścili do publicznej wiadomości limitowaną edycję modelu Fable. Wersja osłabiona. Ponieważ trzymanie Mythos pod ścisłą kontrolą uznano za konieczne. W przeciwnym razie byłoby to zbyt ryzykowne.
Eksperci są przeciwni
Co więc teraz zrobimy?
Swoją krytykę wyraziło ponad 100 liderów ds. cyberbezpieczeństwa. Przedstawiciele Adobe, Nvidia i innych. Napisali list do rządu. Ich przesłanie? Anuluj dyrektywę.
Ostrzegli, że takie środki pomogą amerykańskim przeciwnikom. To błąd taktyczny.
Eksperci są zgodni, że Mythos działa dobrze. Bardzo dobry. Znajduje luki w oprogramowaniu i z łatwością zamienia je w narzędzia ataku. Ale on nie jest wyjątkowy. W liście wyjaśniono: te modele nie są wyjątkowo zdolne do wykonywania tych zadań.
Zespoły ds. bezpieczeństwa korzystają już z innych podstawowych modeli. Otwarte źródło. Do audytów. Do nauki. Dlaczego? Ponieważ musisz zrozumieć, jak myśli wróg. Musisz znać wektor ataku.
Nie ma sensu rezygnować z najlepszych możliwości cyberobrony. Bez dobrego powodu. Zwłaszcza, gdy przeciwnicy działają szybko. Widocznie szybciej od nas.
Ukryliśmy klucz do zamku. Inteligentne rozwiązanie. Naprawdę.
Czy stało się bezpieczniejsze? Może.
Ale na pewno uległo spowolnieniu.
