Butuh waktu berjam-jam. Bukan berminggu-minggu.
Model AI Anthropic, Mythos, menemukan kelemahan dalam sistem komputer pemerintah AS yang sangat sensitif sebelum siapa pun dapat menghabiskan kopinya. Seorang pejabat AS mengatakan kepada AP bahwa selama pengujian bersama dengan badan intelijen, model tersebut mengidentifikasi kerentanan hampir secara instan. Mereka belum tentu mengeksploitasi mereka secepat itu. Baru saja menemukan lubangnya.
Senator Mark Warner mengatakannya secara blak-blakan. Dalam sidang bulan lalu, dia mengutip pernyataan NSA dan kepala Komando Siber AS. Alat tersebut membobol “hampir semua sistem rahasia kami” hanya dalam beberapa jam.
Tes ini merupakan bagian dari Project Glasswing. Anthropic bekerja sama dengan perusahaan dan agensi teknologi. Tujuannya? Amankan perangkat lunak penting dari dampak “parah” yang dapat ditimbulkan oleh Mythos. Untuk keselamatan publik. Keamanan nasional. Perekonomian. Anda mengerti idenya.
“Alat ini berhasil menembus hampir semua sistem rahasia saya, bukan dalam hitungan minggu, namun dalam hitungan jam,” kata Jenderal Joshua Rudd, sambil mengaitkan kecepatan penerobosan ini dengan kekuatan asli AI.
Gesekan Politik
Kerja sama ini tidak menghentikan pertikaian. Anthropic, yang berbasis di California, mengkritik pemerintahan Trump dengan cara yang salah. Ketegangan meningkat.
Pemerintah menginginkan kendali. Kekhawatiran antropis terhadap militer. Khususnya, bagaimana angkatan bersenjata dapat mempersenjatai AI-nya. Sebagai tanggapan, Gedung Putih membatasi akses terhadap model-model tertentu.
Perintah baru memaksa Anthropic untuk memblokir warga negara asing menggunakan model Fable 5 dan Mythos 5. Ini terjadi sepuluh hari setelah Presiden Trump menandatangani perintah eksekutif. Perintah tersebut memungkinkan pemerintah federal memeriksa sistem AI untuk mengetahui risiko keamanan nasional hingga satu bulan sebelum dipublikasikan. Sukarela? Mungkin bagi sebagian orang. Bukan untuk Antropis.
Perusahaan mematuhinya. Itu menonaktifkan model untuk semua orang. Tapi itu tidak membeli logikanya. Anthropic berargumentasi bahwa masalah keamanan tidak menjadi alasan dilakukannya lockdown. Mereka merilis model Fable terbatas ke publik. Versi yang lebih sederhana. Karena mengunci Mitos dianggap perlu. Sebaliknya terlalu berisiko.
Para Pakar Menolak
Jadi apa yang kita lakukan sekarang?
Lebih dari 100 pemimpin keamanan siber melakukan perlawanan. Orang-orang dari Adobe, Nvidia, dan tempat lain. Mereka menulis surat kepada pemerintah. Pesan mereka? Angkat arahannya.
Mereka memperingatkan bahwa tindakan tersebut akan membantu musuh-musuh AS. Ini adalah kesalahan taktis.
Para ahli mengakui Mitos itu bagus. Sangat bagus. Ia menemukan kelemahan perangkat lunak dan mengubahnya menjadi senjata dengan mudah. Tapi itu tidak unik. Isi pesannya jelas: model-model ini tidak mampu melakukan tugas-tugas ini secara unik.
Tim keamanan sudah menggunakan model dasar lainnya. Opsi sumber terbuka. Untuk audit. Untuk pelatihan. Mengapa? Karena kalian harus mengetahui cara berpikir musuh. Anda harus mengetahui vektor serangannya.
Menghapus kemampuan pertahanan siber terbaik tidak masuk akal. Bukan tanpa alasan yang kuat. Apalagi saat musuh bergerak cepat. Tampaknya lebih cepat dari kita.
Kami mengunci kunci untuk memahami gembok tersebut. Cerdas. Benar-benar.
Apakah lebih aman? Mungkin.
Tentu terasa lebih lambat.
