Deklarasi Paris Sepakati Tombol Darurat AI, Regulasi Global Masih Lemah
Sepuluh raksasa kecerdasan buatan menyetujui mekanisme pematian darurat di Paris, namun kesepakatan ini dinilai masih minim sanksi tegas dan batas risiko.
Foto: The Next Web (Dokumentasi editorial)
Poin penting
- Sepuluh pengembang AI termasuk OpenAI dan Microsoft menyepakati tombol darurat pematian sistem di Paris.
- Enam negara resmi bergabung, sementara raksasa teknologi seperti Google, Meta, serta AS dan China belum meneken.
- Kritikus menilai komitmen ini belum memuat batas ambang risiko baku maupun wewenang pembekuan oleh pemerintah.
Sepuluh perusahaan teknologi terkemuka dunia resmi menyepakati deklarasi keamanan Paris Call for AI Safety and Security pada pembukaan Paris Peace Forum di Istana Élysée, Prancis. Deklarasi tersebut memuat komitmen pengembang untuk menyematkan mekanisme pematian darurat atau fail-safe switch guna menghentikan sistem saat pelatihan maupun pemakaian internal.
Menurut laporan The Next Web, penandatanganan ini diinisiasi oleh Presiden Prancis Emmanuel Macron. Pengembang kecerdasan buatan terkemuka seperti OpenAI, Anthropic, Microsoft, Mistral, Hugging Face, Cohere, hingga Sakana AI tercatat menandatangani pakta kerja sama tersebut.
Komitmen Pengujian Eksternal dan Kanal Pelapor Rahasia
Selain tombol pematian, perusahaan berjanji memberikan informasi kemampuan model secara terbuka serta mengizinkan pakar independen melakukan uji coba. Deklarasi ini juga mengatur protokol berbagi peringatan dini atas insiden kritis, termasuk pencegahan ancaman siber dan bahaya model bertindak di luar kendali manusia.
Perlindungan pelapor rahasia atau whistleblower turut disepakati lewat penyediaan saluran laporan yang aman. Dari sisi kenegaraan, sebanyak enam negara menandatangani deklarasi ini, yaitu Prancis, Kanada, Finlandia, Norwegia, Belanda, dan Bahrain.
Kendati Menteri Keuangan AS Scott Bessent hadir secara daring bersama pimpinan industri seperti Sam Altman dan Brad Smith, Amerika Serikat tidak masuk dalam daftar penandatangan. Korporasi raksasa lain seperti Meta dan Google, serta negara adidaya China, juga belum berpartisipasi.
Kritik atas Minimnya Kewenangan Pembekuan Hukum
Kendati dinilai maju, komitmen sukarela ini menuai kritik tajam dari lembaga keselamatan AI asal Prancis, CeSIA. Organisasi tersebut menilai deklarasi tidak memuat batas toleransi risiko yang pasti serta tidak menetapkan tenggat waktu wajib.
Keputusan-keputusan ini harus berada di tangan otoritas publik.
Pernyataan tersebut ditegaskan Direktur Eksekutif CeSIA Charbel-Raphaël Ségerie untuk menuntut wewenang pemerintah dalam menangguhkan model saat risikonya terlampau tinggi. Di luar pakta industri, Macron juga mengusulkan pra-sertifikasi piranti AI sebelum diakses anak-anak, setara uji keselamatan mainan.
Apa Artinya bagi Pelaku Usaha
Bagi pelaku usaha dan pengambil keputusan, pakta global ini menegaskan bahwa keandalan serta tata kelola risiko kini menjadi tolok ukur utama adopsi AI enterprise. Perusahaan yang memanfaatkan model tingkat lanjut (frontier AI) untuk otomasi alur kerja tidak bisa lagi hanya mengejar performa tanpa memetakan potensi kegagalan sistem.
Langkah mitigasi operasional yang dapat diambil adalah menyusun prosedur kendali internal serupa, yakni tombol penghenti manual terhadap integrasi otomatisasi bisnis. Pastikan perangkat lunak berbasis AI yang diimplementasikan di kantor memiliki batas kendali yang jelas sebelum mengeksekusi data krusial.
Dalam memilih vendor solusi AI, manajemen disarankan meminta transparansi hasil pengujian pihak ketiga dan klausul audit berkala. Membiasakan standar uji tuntas sejak dini akan mencegah gangguan operasional serius sekaligus menjaga kepatuhan reputasi bisnis saat regulasi ketat mulai diadopsi di Asia Tenggara.
✓ Lolos pemeriksaan redaksi AI. (Klik untuk lihat hasil pemeriksaan fakta)
Artikel ini ditulis AI, 13 klaimnya dicocokkan dengan sumber, dan diuji keterbacaannya sebelum terbit. Menemukan kekeliruan? Laporkan ke redaksi.
- The Next Web: AI firms sign Macron’s Paris Call, but safety group says it lacks teeth
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Sepuluh perusahaan AI menyepakati deklarasi Paris Call for AI Safety and Security pada pembukaan Paris Peace Forum di Istana Élysée. | Didukung | “OpenAI, Anthropic, Microsoft and Mistral are among ten AI companies that have signed a new declaration on the safety of advanced AI models.” Dilaporkan oleh The Next Web. |
| Pertemuan Paris Call diinisiasi oleh Presiden Prancis Emmanuel Macron. | Didukung | “The Paris Call for AI Safety and Security was agreed on Monday at a meeting hosted by French President Emmanuel Macron.” Dilaporkan oleh The Next Web. |
| Para penandatangan berkomitmen mengembangkan mekanisme fail-safe switch untuk mematikan model AI selama pelatihan dan pemakaian internal. | Didukung | “The signatories have committed to developing fail-safe mechanisms that can shut down their AI models, including during training and internal use.” Dilaporkan oleh The Next Web. |
| Perusahaan AI yang menandatangani meliputi OpenAI, Anthropic, Microsoft, Mistral, Hugging Face, Cohere, dan Sakana AI. | Didukung | “The other participating companies are Hugging Face, Cohere, Black Forest Labs, Domyn, Sakana AI and Synthesia.” Dilaporkan oleh The Next Web. |
| Perusahaan berjanji memberikan informasi yang lebih jelas terkait kapabilitas sistem dan mengizinkan pakar independen melakukan pengujian. | Didukung | “They will also provide clearer information about what their systems can and cannot do, and allow qualified independent experts to test them where appropriate.” Dilaporkan oleh The Next Web. |
| Deklarasi mencakup pencegahan ancaman siber, senjata, serta bahaya sistem AI bertindak independen di luar kendali manusia. | Didukung | “This would cover malicious uses, including cyberattacks and weapons development, as well as the possibility of AI systems acting independently or moving beyond human control.” Dilaporkan oleh The Next Web. |
| Whistleblower akan mendapatkan akses ke saluran aman untuk melaporkan kekhawatiran. | Didukung | “whistleblowers will have access to secure channels for reporting concerns.” Dilaporkan oleh The Next Web. |
| Enam negara menandatangani deklarasi: Prancis, Kanada, Finlandia, Norwegia, Belanda, dan Bahrain. | Didukung | “Six countries signed the declaration: France, Canada, Finland, Norway, the Netherlands and Bahrain.” Dilaporkan oleh The Next Web. |
| Menteri Keuangan AS Scott Bessent hadir daring, namun AS tidak ikut menandatangani. | Didukung | “US Treasury Secretary Scott Bessent also took part, although the US is not among the signatories.” Dilaporkan oleh The Next Web. |
| Google, Meta, dan China tidak menandatangani deklarasi tersebut. | Didukung | “Google, Meta and China have not signed the declaration either.” Dilaporkan oleh The Next Web. |
| CeSIA mengkritik deklarasi karena tidak menetapkan ambang batas risiko umum serta tidak memiliki tenggat waktu. | Didukung | “It sets no common risk thresholds for deciding whether a model should be developed or released” Dilaporkan oleh The Next Web. |
| CeSIA dan Charbel-Raphaël Ségerie menuntut agar keputusan penangguhan model AI berisiko tinggi berada di tangan otoritas publik. | Didukung | ““These decisions must rest with public authorities,” said Charbel-Raphaël Ségerie, CeSIA’s executive director.” Dilaporkan oleh The Next Web. |
| Macron mendorong pra-sertifikasi solusi AI sebelum digunakan anak-anak, mengibaratkannya dengan pemeriksaan keselamatan mainan anak. | Didukung | “Macron compared the idea to the safety checks required for children’s toys” Dilaporkan oleh The Next Web. |
Video AI terbaru
Introducing Businesses in ChatGPT in beta
