Lembaga Penguji Keamanan AI AS Ditarik ke Gedung Putih, Independensi Dipertanyakan
Divisi penguji AI pemerintah AS kini melapor langsung ke Gedung Putih di tengah mandeknya publikasi riset keselamatan dan maraknya adopsi agen AI mandiri.
Gambar buatan AI, bukan foto asli (FLUX.1 schnell via Cloudflare Workers AI)
Poin penting
- Divisi pengawas AI AS, CAISSI, kini melapor ke Gedung Putih di tengah kekosongan pimpinan definitif.
- Kongres AS mempertanyakan alasan lembaga tersebut mendadak menghentikan publikasi laporan evaluasi keamanan.
- Pemerintah AS lebih mengandalkan pengawasan mandiri oleh pengembang di tengah transisi ke agen AI otonom.
Lembaga penguji keamanan kecerdasan buatan Amerika Serikat kini berada dalam pusaran ketidakpastian. Center for Advancing Innovation and Standards for Super Intelligence (CAISSI), divisi independen di bawah Departemen Perdagangan AS, dilaporkan diminta melapor secara informal ke Gedung Putih menurut laporan Associated Press yang dilansir Fast Company.
Langkah ini memicu kekhawatiran para pakar kebijakan teknologi. Pasalnya, CAISSI belum memiliki direktur definitif setelah serangkaian pengunduran diri dan pemecatan pejabatnya sepanjang tahun ini.
Pada Agustus lalu, Kongres AS bahkan mulai mempertanyakan alasan lembaga ini mendadak menghentikan publikasi laporan evaluasi keamanan publik. Padahal, kekhawatiran masyarakat terhadap risiko agen AI—perangkat lunak otonom yang mampu menjalankan serangkaian tugas tanpa kendali manusia secara terus-menerus—kian meningkat.
Pergeseran Menuju Pengawasan Mandiri dan Dominasi Militer
Di bawah kepemimpinan Presiden Donald Trump, pengawasan keamanan model diserahkan pada kepatuhan mandiri industri teknologi. Pemerintah meminta pengembang besar seperti OpenAI dan Anthropic untuk menjalankan evaluasi mandiri melalui pakta sukarela, tanpa memaparkan mekanisme verifikasi independen dari negara.
Gedung Putih justru membentuk unit baru bernama Super Intelligence Force yang dipimpin Direktur Intelijen Nasional Jay Clayton bersama Chief Technology Officer Pentagon Emil Michael. Menurut Amos Toh, penasihat senior di Brennan Center for Justice, langkah ini memperlihatkan dorongan pemerintah untuk membingkai keamanan model AI sebagai isu rahasia keamanan nasional, sehingga mengesampingkan risiko terhadap perlindungan konsumen dan privasi masyarakat.
"Semua keputusan ini memiliki konsekuensi publik yang luar biasa dan seharusnya dijelaskan secara terbuka di hadapan masyarakat. Dan hal itu tidak terjadi saat ini," tegas Amos Toh dari Brennan Center for Justice.
Anggaran tahunan CAISSI tercatat hanya 10 juta dolar AS, atau seperdelapan dari anggaran badan serupa di Inggris. Ketiadaan tolok ukur standar dari otoritas independen menyulitkan pengujian keandalan agen AI, terutama saat mengevaluasi kebenaran seluruh tahapan operasional sistem, bukan sekadar hasil akhirnya.
Apa Artinya bagi Pelaku Usaha
Bagi manajemen dan pemilik usaha di Indonesia, absennya standar keamanan global yang independen berarti perusahaan tidak bisa begitu saja mempercayai klaim kepatuhan sepihak dari penyedia model AI global. Risiko kesalahan operasional, kebocoran data, atau kegagalan sistem pada agen otonom kini sepenuhnya berpindah ke pundak pengguna akhir.
Pemimpin bisnis perlu menetapkan protokol mitigasi internal sebelum memberi akses agen AI ke sistem penting perusahaan, seperti basis data pelanggan atau eksekusi pembayaran otomatis. Jangan hanya menilai keberhasilan dari hasil akhir tugas, tetapi lakukan audit berkala terhadap setiap langkah penalaran yang diambil oleh sistem.
Langkah paling bijak saat ini adalah mempertahankan kendali manusia (human-in-the-loop) pada transaksi berisiko tinggi serta menyusun batas liabilitas yang tegas dalam perjanjian tingkat layanan (SLA) dengan vendor teknologi.
✓ Lolos pemeriksaan redaksi AI. (Klik untuk lihat hasil pemeriksaan fakta)
Artikel ini ditulis AI, 9 klaimnya dicocokkan dengan sumber, dan diuji keterbacaannya sebelum terbit. Menemukan kekeliruan? Laporkan ke redaksi.
- Fast Company: This tiny government division charged with AI safety is now reporting to the White House. Experts are concerned
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| CAISSI, divisi independen Departemen Perdagangan AS penguji keamanan AI, diminta untuk melapor secara informal ke Gedung Putih. | Didukung | “Officials with the Center for Advancing Innovation and Standards for Super Intelligence, or CAISSI, an independent division of the Commerce Department, recently were asked to informally report” Dinyatakan dalam laporan Fast Company mengutip laporan Associated Press. |
| CAISSI belum memiliki pemimpin permanen dan berhenti mempublikasikan hasil risetnya. | Didukung | “the tiny U.S. government division charged with assessing the safety of new AI offerings lacks a permanent leader and has stopped publishing its research.” Disebutkan pada paragraf pembuka Fast Company. |
| Direktur CAISSI dipecat beberapa hari setelah direkrut pada April, dan penggantinya mengundurkan diri beberapa bulan kemudian. | Didukung | “In April, the division’s director was hired and then fired within days. His replacement lasted a few months before he resigned, and the center has been without a permanent leader ever since” Disebutkan dalam teks Fast Company. |
| Pada Agustus, Kongres AS mulai menanyakan alasan CAISSI berhenti mempublikasikan laporan uji keamanan sistem AI. | Didukung | “In August, Congress started asking why the center suddenly stopped making public its reports about how safely certain AI systems were performing.” Dinyatakan secara eksplisit dalam artikel Fast Company. |
| Donald Trump meminta perusahaan AI terkemuka melakukan 'self-policing' sebagai bagian dari pakta keamanan sukarela tanpa memaparkan cara memantau pelaksanaannya. | Didukung | “Trump asked leading AI companies to undertake “tremendous self-policing” as part of a voluntary safety pact, but his administration hasn’t said how it will monitor the AI companies’ implementation.” Disebutkan dalam laporan Fast Company. |
| Gedung Putih membentuk Super Intelligence Force yang dipimpin Direktur Intelijen Nasional Jay Clayton dan CTO Pentagon Emil Michael. | Didukung | “Trump empowered National Intelligence Director Jay Clayton to lead his new Super Intelligence Force... Clayton’s appointment to the force, along with the Pentagon’s chief technology officer, Emil Michael” Dipaparkan dalam Fast Company. |
| Amos Toh dari Brennan Center for Justice menilai penunjukan tersebut menunjukkan dorongan pemerintah membingkai keselamatan model AI sebagai rahasia keamanan nasional sehingga mengesampingkan risiko privasi dan perlindungan konsumen. | Didukung | “shows how the administration is pushing to frame decisions around model safety as a national security matter that needs executive discretion and secrecy, overshadowing AI’s risks to consumer protection” Dikutip langsung dari pernyataan Amos Toh di Fast Company. |
| Anggaran tahunan CAISSI sebesar 10 juta dolar AS, sekitar seperdelapan dari anggaran badan serupa di Inggris. | Didukung | “The center, which has experienced departures and until recently was called the U.S. Center for AI Standards and Innovation, is allocated $10 million per year. That’s about one-eighth the annual budget” Disebutkan dalam artikel Fast Company. |
| Belum ada standar baku untuk menguji keamanan tindakan agen AI di dunia nyata, termasuk mengevaluasi seluruh urutan langkah kerja sistem. | Didukung | “There still is no standard process for testing how safely AI agents are acting in the real world... unless you’re looking at the entire set of steps that an agent took, you won’t be able to tell that the agent made a huge mistake.” Disampaikan oleh peneliti Sayash Kapoor dalam artikel Fast Company. |
Video AI terbaru
DeepSeek Harness (DSH) EXPLAINED | Everything Is a Plugin
