Trvalo to jen pár hodin. týdny? Ne.
Umělá inteligence společnosti Anthropic zvaná Mythos objevila zranitelná místa ve vysoce citlivých počítačových systémech americké vlády rychleji, než kdokoli stačil dopít kávu. Jak řekl americký zástupce agentuře Associated Press, během společného testování se zpravodajskými agenturami model téměř okamžitě identifikoval zranitelnosti. To neznamenalo, že je použila k útoku tak rychle. Právě našla bezpečnostní díry.
Senátor Mark Warner to řekl na rovinu. Na slyšení minulý měsíc citoval šéfa Národní bezpečnostní agentury (NSA) a US Cyber Command. Tento nástroj pronikl „téměř všemi našimi tajnými systémy“ během několika hodin.
Toto testování se stalo součástí Projektu Glasswing. Antropic spojil síly s technologickými společnostmi a vládními úřady. co bylo cílem? Zajistěte, aby byl kritický software chráněn před „závažnými“ následky, které by Mythos mohl způsobit. Pro veřejnou bezpečnost. Národní bezpečnost. Ekonomika. Dostanete nápad.
“Tento nástroj pronikl téměř do všech mých tajných systémů, ne za týdny, ale za hodiny,” řekl generál Joshua Rudd a připsal rychlost hacku obrovskému výpočetnímu výkonu AI.
Politická konfrontace
Spolupráce neshody nezastavila. Společnost Anthropic, která má sídlo v Kalifornii, vyvolala hněv Trumpovy administrativy. Napětí stoupá.
Vláda chce kontrolu. Anthropic se obává o armádu. Konkrétně, jak by armáda mohla používat svou AI pro vojenské účely. V reakci na to Bílý dům podnikl kroky k omezení přístupu k určitým modelům.
Nová směrnice nařídila společnosti Anthropic zablokovat přístup k modelům Fable 5 a Mythos 5 pro cizí občany. Stalo se tak deset dní poté, co prezident Trump podepsal exekutivní příkaz. Výkonný příkaz umožňuje federální vládě přezkoumat systémy umělé inteligence z hlediska národních bezpečnostních rizik až měsíc před jejich zveřejněním. Je to dobrovolný proces? Možná pro někoho. Ale ne pro Anthropic.
Společnost vyhověla. Zakázala modely pro všechny uživatele. S logikou tohoto rozhodnutí jsem ale nesouhlasil. Společnost Antropic tvrdila, že obavy o bezpečnost neospravedlňují takový plošný zákaz. Pro širokou veřejnost vydali limitovanou edici modelu Fable. Oslabená verze. Protože držet Mythos pod přísnou kontrolou bylo považováno za nezbytné. Jinak by to bylo příliš riskantní.
Odborníci jsou proti
Tak co teď budeme dělat?
Svou kritiku vyjádřilo více než 100 lídrů v oblasti kybernetické bezpečnosti. Zástupci Adobe, Nvidia a další. Napsali dopis vládě. Jejich poselství? Zrušte směrnici.
Varovali, že taková opatření pomáhají americkým protivníkům. To je taktická chyba.
Odborníci se shodují, že Mythos funguje dobře. Velmi dobré. Najde zranitelnosti v softwaru a snadno z nich udělá útočné nástroje. Není ale ojedinělý. V dopise bylo jasně uvedeno: tyto modely nejsou v těchto úkolech výjimečně schopné.
Bezpečnostní týmy již používají jiné základní modely. Open source. Pro audity. Na učení. Proč? Protože musíte pochopit, jak nepřítel myslí. Musíte znát vektor útoku.
Nemá smysl vzdát se nejlepších schopností kybernetické obrany. Bez dobrého důvodu. Zvlášť, když soupeři jednají rychle. Zřejmě rychlejší než my.
Schovali jsme klíč od hradu. Chytré řešení. Opravdu.
Stalo se to bezpečnější? Možná.
Ale rozhodně se to zpomalilo.
