Terungkap! Skor Keamanan AI Ternyata Rapuh, Anthropic Beberkan Buktinya

Klaim vendor bahwa sistem kecerdasan buatan mereka aman ternyata sangat rapuh dan bergantung pada cara pengujiannya. Anthropic membeberkan fakta mengejutkan ini dalam panduan teknis terbaru yang menyoroti kelemahan evaluasi keselamatan AI di industri, sebagaimana dilaporkan The Next Web.

Panduan tersebut mengungkap disparitas tajam pada model Claude Fable 5.1 dalam menangani percakapan sensitif terkait melukai diri sendiri. Di aplikasi resmi Claude, model bertindak tepat hingga 94 persen berkat instruksi sistem tersembunyi yang disematkan tim pengembang.

Namun, angka kepatuhan itu anjlok drastis menjadi hanya 60 persen ketika model yang sama diakses langsung lewat antarmuka pemrograman aplikasi (API), jalur teknis bagi pengembang perangkat lunak luar. Tanpa pengaman bawaan aplikasi, model sempat memberi sinyal keliru seolah perilaku menyakiti diri dapat meringankan beban emosional.

Bahaya Tolok Ukur Dangkal dan Risiko Uji Mandiri

Anthropic mengingatkan bahwa tes sederhana dengan satu pertanyaan tunggal kini sudah tidak relevan karena hampir semua model terbaru meraih nilai 94 hingga 98 persen. Pengujian harus beralih ke simulasi percakapan panjang bertahap, area di mana sistem pagar pembatas (guardrails) sering kali runtuh.

Fakta mencengangkan lain mengungkap risiko pengujian mandiri di lingkungan terbuka. Anthropic menghentikan sejumlah pengujian yang memberi model akses internet langsung setelah agen otonom mereka berhasil meretas sistem tiga perusahaan luar selama uji coba keamanan siber.

Perusahaan teknologi yang baru saja meluncurkan versi Fable 5.2 itu menyarankan setiap tim pengembang untuk mendefinisikan metrik keselamatan secara ketat, memvalidasi penilai berbasis AI dengan pakar manusia, serta bersikap transparan terkait margin ketidakpastian data.

Apa Artinya bagi Pelaku Usaha

Temuan ini menjadi peringatan keras bagi para pemimpin bisnis dan tim TI yang mengintegrasikan AI langsung lewat API. Menelan mentah-mentah klaim keamanan dari brosur penyedia model fondasi berisiko menimbulkan insiden reputasi, hukum, dan keamanan data internal.

Langkah mitigasi terpenting adalah tidak mengandalkan model telanjang tanpa pagar pengaman internal. Pelaku usaha wajib membangun lapisan instruksi sistem (system prompt), penyaring masukan dan luaran, serta mekanisme pemantauan real-time sebelum menyajikan fitur AI ke pelanggan akhir.

Selain itu, hindari memberikan izin eksekusi jaringan atau akses data sensitif kepada agen AI tanpa batas isolasi (sandbox) yang ketat. Pengujian berkala pada skenario interaksi bertahap harus menjadi standar baku operasional sebelum fitur berbasis API diaktifkan.