Anthropic Kembangkan FlashProve untuk Buktikan Keaslian Model AI
Sistem sumber terbuka ini memakai bukti kriptografi untuk memastikan vendor AI tidak menukar model mahal dengan versi murah demi menekan biaya.
Foto: TechCrunch (Dokumentasi editorial)
Poin penting
- Anthropic meriset FlashProve untuk memverifikasi model AI pembuat output secara matematis.
- Sistem kriptografi ini mencegah penyedia AI menukar model secara diam-diam demi pangkas biaya.
- Proses verifikasi ringan di perangkat lokal tanpa membocorkan bobot rahasia model komersial.
Anthropic sedang mengembangkan sistem sumber terbuka bernama FlashProve untuk membuktikan keaslian model kecerdasan buatan (AI) yang menghasilkan suatu respons. Laporan TechCrunch menyebutkan bahwa inovasi ini dirancang agar pengguna bisa memastikan jawaban yang diterima benar-benar berasal dari model yang dituju.
Langkah ini menjawab kekhawatiran pelaku industri mengenai transparansi penyedia model kecerdasan buatan. Tanpa pembuktian teknis yang jelas, pelanggan korporat kerap kesulitan memastikan apakah penyedia layanan benar-benar mengerahkan model canggih yang mereka bayar.
Mencegah Manipulasi Vendor dengan Bukti Kriptografi
FlashProve menerapkan konsep provable inference, yakni jaminan matematis berbasis kriptografi untuk memastikan asal-usul keluaran komputasi. Cara kerjanya menyerupai tanda tangan digital pada surat elektronik resmi.
Menurut para peneliti, sistem ini dirancang kebal dari penipuan identitas model. Mekanisme tersebut tetap mampu mendeteksi manipulasi, bahkan jika kecurangan itu dicoba oleh laboratorium pembuat model itu sendiri.
Sistem ini dapat mencegah perusahaan AI diam-diam menurunkan mutu model ke versi lebih murah guna menghemat biaya infrastruktur server. FlashProve juga mencegah manipulasi sebaliknya, seperti meminjam model lebih mahal demi mendongkrak skor uji performa.
Selain itu, teknologi ini dapat memvalidasi klaim kerja sama pihak ketiga. Contohnya, pengguna bisa menguji kebenaran klaim vendor perangkat lunak yang mengaku telah memindai sistem menggunakan model AI keamanan siber termutakhir.
Verifikasi Ringan Tanpa Membocorkan Rahasia Model
Agar sistem ini berjalan, pengembang AI cukup merilis sidik jari digital dari setiap model yang dipublikasikan. Sidik jari tersebut kemudian dicocokkan secara matematis dengan teks atau kode yang diterima pengguna.
Kelebihan utamanya, sidik jari digital ini tidak membuka bobot model (model weights), yaitu kumpulan variabel angka internal penentu kepintaran AI. Kerahasiaan aset dagang paling bernilai milik pengembang komersial pun tetap terjaga.
Proses pembuktian ini juga dirancang sangat ringan sehingga pengguna dapat memverifikasinya langsung di komputer lokal. Spesifikasi teknis beserta kode sistem ini telah dibagikan secara terbuka di repositori GitHub.
Kendati demikian, Anthropic menegaskan riset ini baru merupakan laporan perkembangan tahap awal. Belum ada rencana penerapan langsung FlashProve di lingkungan komersial Anthropic maupun laboratorium kecerdasan buatan lainnya.
Apa Artinya bagi Pelaku Usaha
Bagi direktur teknologi dan manajer operasional di Indonesia, penelitian ini menjadi pengingat penting mengenai risiko ketergantungan pada vendor pihak ketiga. Tanpa mekanisme audit yang kuat, bisnis rentan menerima penurunan kualitas layanan tanpa disadari.
Pertukaran model secara diam-diam berisiko menurunkan akurasi analisis bisnis, mengurangi ketelitian deteksi kesalahan kode, hingga memicu kegagalan kepatuhan operasional. Perlindungan integritas komputasi menjadi faktor krusial seiring besarnya anggaran langganan perangkat lunak AI.
Pelaku usaha sebaiknya mulai meninjau ulang perjanjian tingkat layanan (SLA) bersama penyedia teknologi kecerdasan buatan. Masukkan klausul transparansi versi model dan ikuti perkembangan standar audit seperti FlashProve guna mempersiapkan tata kelola teknologi yang lebih aman.
- TechCrunch: Anthropic is working on a system to prove AI models’ identity
Lihat hasil pemeriksaan (11 klaim)
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Anthropic mengembangkan sistem FlashProve untuk membuktikan keaslian model AI yang menghasilkan suatu respons. | Didukung | “Anthropic is working on an open source system to verify which AI model produced a given output, according to a blog post published Tuesday. The system, called FlashProve” TechCrunch menyatakan Anthropic sedang mengembangkan sistem FlashProve untuk memverifikasi model AI pembuat output. |
| FlashProve memanfaatkan pembuktian kriptografi (provable inference) yang memberikan jaminan matematis atas asal-usul keluaran model AI. | Didukung | “built to provide what researchers call “provable inference” — a cryptographic proof, essentially a mathematical guarantee, that a given output came from a specific model.” TechCrunch menjelaskan FlashProve memberikan jaminan matematis kriptografi bahwa output berasal dari model tertentu. |
| Cara kerja FlashProve menyerupai tanda tangan digital pada surat elektronik. | Didukung | “Similar to cryptographic email signatures that let recipients confirm a message really came from its claimed sender” TechCrunch menyebut cara kerjanya mirip dengan tanda tangan surel kriptografis. |
| Sistem ini dirancang kebal penipuan identitas model, bahkan bila kecurangan dilakukan oleh lab pembuat model itu sendiri. | Didukung | “FlashProve would be robust against impostors attempting to disguise one model as another, even when the impostor is the lab that built and runs the model.” TechCrunch menegaskan ketahanan FlashProve terhadap penyamaran model meski dilakukan oleh pembuatnya sendiri. |
| FlashProve dapat mencegah perusahaan AI menukar model dengan versi lebih murah demi menekan biaya atau menukar dengan versi lebih mahal demi mendongkrak skor uji performa. | Didukung | “prevent an AI company from secretly swapping in a cheaper model to cut costs, or a more expensive model to inflate its performance results.” TechCrunch melaporkan sistem ini bisa mencegah penukaran model secara diam-diam untuk potong biaya atau dongkrak hasil pengujian. |
| FlashProve dapat memverifikasi klaim pihak ketiga, seperti vendor yang mengaku perpustakaan kodenya dipindai oleh model keamanan siber termutakhir. | Didukung | “A developer might claim that their software library was scanned for vulnerabilities by a frontier cybersecurity model” TechCrunch menulis contoh verifikasi klaim pihak ketiga pada pemindaian kerentanan oleh model mutakhir. |
| Sistem mewajibkan lab AI memublikasikan sidik jari (fingerprint) dari setiap model yang dirilis untuk diverifikasi secara kriptografis. | Didukung | “the system requires AI labs to publish a “fingerprint” of each model they release that can later be matched to specific outputs and verified cryptographically.” TechCrunch mencatat kebutuhan publikasi sidik jari model untuk verifikasi kriptografis. |
| Sidik jari tersebut tidak mengungkap bobot model (weights) yang menjadi rahasia lab komersial. | Didukung | “the fingerprints don’t reveal a model’s weights, the internal numbers that define how it behaves and which closed-model makers like Anthropic and OpenAI keep private.” TechCrunch menyatakan sidik jari tidak membocorkan model weights milik penyedia komersial. |
| FlashProve dirancang ringan sehingga proses verifikasi dapat dijalankan di perangkat lokal. | Didukung | “The system is also designed to be lightweight, so verification could be performed on a local device.” TechCrunch mengonfirmasi bahwa verifikasi dirancang ringan untuk perangkat lokal. |
| Anthropic telah merilis spesifikasi teknis dan kode sistem di GitHub di bawah lisensi open source. | Didukung | “researchers released a detailed technical specification and working code for various elements of the system, which is publicly available under an open source license on GitHub .” TechCrunch menyebut kode kerja dan spesifikasi teknis sudah tersedia di GitHub dengan lisensi open source. |
| Riset masih berlangsung dan belum ada rencana penerapan di Anthropic maupun lab lainnya. | Didukung | “Research in the system is ongoing, and there are no plans to deploy it at Anthropic or any other lab.” TechCrunch menegaskan bahwa riset masih berjalan dan belum ada rencana implementasi praktis. |
Video AI terbaru
TamaGPT
