Langsung ke isi
· Kabar AI & robotika, jernih dan terverifikasiNewsletter  ·  Majalah  ·  Kelas & Layanan
Tampilan
Pengaturan tampilan
Tema

Kabar AI yang mudah dibaca.

Pilihan tersimpan di perangkat Anda.

Langganan
Terkini
Trending

Geger! 2 Juta Rahasia Ditanam di Prompt AI, Hasilnya Bikin Merinding

Peneliti menanam 2 juta 'canaries' di prompt AI dan menemukan kebocoran data sensitif di banyak lapisan rantai pasok AI, termasuk pencurian kredensial.

Foto liputan Ars Technica untuk berita: Geger! 2 Juta Rahasia Ditanam di Prompt AI, Hasilnya Bikin Merinding.

Foto: Ars Technica (Dokumentasi editorial)

Poin penting

  • Peneliti HD Moore menanam 2 juta rahasia unik di prompt AI dan melacak ke mana data itu bocor.
  • Tiga hosting provider disusupi, kredensial AWS dicuri dan dipakai puluhan ribu kali.
  • Sejumlah provider terbukti meng-scrape URL rahasia dalam prompt, termasuk yang berlabel Zero Data Retention.

Data yang Anda masukkan ke chatbot AI belum tentu aman di tangan penyedianya. Dalam uji coba besar-besaran, peneliti keamanan HD Moore dari firma Dragos menanam hampir 2 juta rahasia unik, mulai dari kredensial AWS hingga URL tersembunyi, ke dalam prompt yang dikirim ke berbagai layanan AI. Hasilnya, data sensitif bocor di banyak titik sepanjang rantai pasok AI.

Moore, yang menjabat sebagai chief research officer Dragos, mengirim setiap rahasia hanya dalam satu prompt ke satu penyedia. Jika rahasia itu muncul di tempat lain, ia bisa melacak siapa yang bocor. 'Yang kami temukan mengungkap kebocoran keamanan, pencurian prompt, dan kegagalan luas melindungi data pelanggan,' tulis Moore, dikutip Ars Technica.

Rantai Panjang AI yang Rentan di Tiap Simpul

Masalahnya terletak pada struktur layanan AI modern. Banyak aplikasi AI memakai perantara seperti OpenRouter atau Vercel yang meneruskan prompt ke model paling murah atau paling cocok. Setiap perantara membaca isi prompt dalam bentuk terbuka, lalu menyimpannya menurut kebijakannya sendiri.

Prompt bahkan bisa berpindah dari satu perantara ke perantara lain, sehingga jumlah pihak yang menyentuh data Anda bertambah.

Uji coba Moore membongkar tiga temuan serius. Pertama, tiga hosting provider disusupi penyerang yang mencuri ratusan kunci AWS dari prompt, bahkan dari permintaan yang ditolak sebelum model berjalan. Kredensial curian itu dipakai puluhan ribu kali di layanan AWS.

Kedua, sejumlah reseller murah sengaja mencatat permintaan demi memikat prompt ke server mereka.

Ketiga, sebuah laboratorium AI China terbukti mengambil URL rahasia dari lebih separuh prompt yang dikirim ke modelnya antara Juli dan Oktober, termasuk sekitar dua pertiga permintaan bertanda Zero Data Retention. Merespons riset tersebut, OpenRouter mengirim email kepada pelanggannya pada 21 November 2026 dan menghapus label Zero Data Retention untuk endpoint MiniMax.

Tiga Langkah Melindungi Data Perusahaan

Moore menyarankan tiga tingkat perlindungan. Cara paling aman adalah menjalankan model di server sendiri, meski biayanya mahal. Alternatif berikutnya, langsung berlangganan ke penyedia tingkat pertama dengan satu kontrak dan satu kebijakan privasi yang bisa dibaca.

Terakhir, jangan menerima kumpulan model bawaan; pilih sendiri penyedia hulunya.

Apa Artinya bagi Pelaku Usaha

Temuan ini paling langsung menyerang perusahaan yang memasukkan data pelanggan, nomor identitas, atau rahasia dagang ke dalam prompt AI. Setiap lapis perantara yang menambah murahnya layanan justru menambah titik kebocoran yang harus diawasi.

Langkah pertama yang bisa dilakukan sekarang: audit rantai penyedia AI yang dipakai tim Anda. Catat setiap perantara yang menyentuh prompt, lalu periksa apakah label Zero Data Retention di situ benar-benar berlaku untuk model yang dipakai.

Untuk data sensitif, pilih penyedia hulu langsung alih-alih kumpulan model otomatis, dan pertimbangkan biaya hosting sendiri sebagai asuransi keamanan. Evaluasi ulang kontrak privasi setiap kali vendor AI diganti, karena label retensi bisa berubah tanpa pemberitahuan seperti kasus baru-baru ini.

✓ Lolos pemeriksaan redaksi AI. (Klik untuk lihat hasil pemeriksaan fakta)

Artikel ini ditulis AI, 16 klaimnya dicocokkan dengan sumber, dan diuji keterbacaannya sebelum terbit. Menemukan kekeliruan? Laporkan ke redaksi.

Sumber berita (1):
  1. Ars Technica: Researcher plants 2m canaries into the AI supply chain. A privacy disaster surfaced.
Pembuka: 8/10Kejelasan: 8/10Struktur: 8/10Manfaat: 9/10Bahasa: 7/10
KlaimPutusanDasar di sumber
Peneliti HD Moore menanam 2 juta rahasia unik di prompt AI dan melacak ke mana data itu bocor.Didukung“We sent nearly two million AI prompts containing unique, trackable secrets to AI providers, then watched where those secrets surfaced”
Ars Technica mengutip HD Moore.
HD Moore dari firma Dragos menanam hampir 2 juta rahasia unik, mulai dari kredensial AWS hingga URL tersembunyi, ke dalam prompt.Didukung“To test for potential leakage, researcher HD Moore assembled a collection of Amazon Web Services access keys, functioning credentials tied to empty AWS accounts, passwords for services such as SSH, and unique URLs, DNS names, and private git repository references.”
Ars Technica menyebut isi kanari dan firma Dragos.
Data sensitif bocor di banyak titik sepanjang rantai pasok AI.Didukung“What they discovered was an ecosystem that leaked highly sensitive data like a sieve.”
Ars Technica.
Moore menjabat sebagai chief research officer Dragos.Didukung“Moore, the chief research officer of security firm Dragos, wrote Thursday .”
Ars Technica.
Moore mengirim setiap rahasia hanya dalam satu prompt ke satu penyedia.Didukung“He then seeded each secret into exactly one prompt sent to a single provider.”
Ars Technica.
Kutipan Moore: kebocoran keamanan, pencurian prompt, kegagalan luas melindungi data pelanggan, dikutip Ars Technica.Didukung“What we found revealed security breaches, prompt theft, and widespread failures to protect customer data.”
Ars Technica mengutip Moore.
Banyak aplikasi AI memakai perantara seperti OpenRouter atau Vercel yang meneruskan prompt ke model paling murah atau paling cocok.Didukung“Many of today’s AI apps use services such as OpenRouter or Vercel that act as brokers.”
Ars Technica.
Setiap perantara membaca isi prompt dalam bentuk terbuka, lalu menyimpannya menurut kebijakannya sendiri.Didukung“Each one of these players is likely to log the prompt and store it for as long as its policies call for (if not indefinitely).”
Ars Technica.
Prompt bisa berpindah dari satu perantara ke perantara lain.Didukung“Prompts can also pass from one AI router (such as Vercel) to another one (e.g., OpenRouter).”
Ars Technica.
Tiga hosting provider disusupi penyerang yang mencuri ratusan kunci AWS, bahkan dari permintaan yang ditolak sebelum model berjalan.Didukung“The attackers who compromised one of the providers reused “a couple hundred” of the AWS keys.”
Ars Technica mengutip Moore.
Kredensial curian dipakai puluhan ribu kali di layanan AWS.Didukung“In all, the stolen bait keys were used “tens of thousands” of times in AWS API calls.”
Ars Technica mengutip Moore.
Sejumlah reseller murah sengaja mencatat permintaan demi memikat prompt ke server mereka.Didukung“As noted earlier, some of the secrets were stolen by the resellers themselves. To lure prompts to their servers, they offered low prices. Then they turned on request logging and waited.”
Ars Technica.
Sebuah laboratorium AI China mengambil URL rahasia dari lebih separuh prompt yang dikirim ke modelnya antara Juli dan Oktober, termasuk sekitar dua pertiga permintaan bertanda Zero Data Retention.Didukung“This lab’s systems fetched the secret URLs from more than half of the prompts that we sent to its models between July and October, including roughly two-thirds of the requests marked as “no data collection” or Zero Data Retention.”
Ars Technica mengutip Moore.
OpenRouter mengirim email kepada pelanggannya pada 21 November 2026 dan menghapus label Zero Data Retention untuk endpoint MiniMax.Didukung“OpenRouter has removed a “Zero Data Retention” label from MiniMax-model endpoints.”
Ars Technica update 21 Nov; email menyebut sebagian prompt mungkin sudah dibaca dan paparan terkait prompt ke MiniMax.
Moore menyarankan tiga tingkat perlindungan: model di server sendiri (mahal), lalu penyedia tingkat pertama dengan satu kontrak dan kebijakan privasi yang bisa dibaca.Didukung“Moore said that the most effective means for preventing leakage is to host models using on-premises servers. That option is expensive, though. For those who can’t afford a self-hosted system, the next best option, Moore said, is to receive service directly from a first-tier provider that provides “one contract and a privacy policy to read.””
Ars Technica mengutip Moore.
Jangan menerima kumpulan model bawaan; pilih sendiri penyedia hulunya.Didukung“AI users should also avoid accepting default provider or reseller pools and instead pick upstream providers themselves.”
Ars Technica mengutip Moore.

Video AI terbaru

How to claim your business in ChatGPT with Shopify OpenAI

Baca juga