Celah Berbahaya ChatGPT Mengintai Lewat Tautan Berbagi
Peneliti menemukan celah keamanan di fitur pratinjau ChatGPT yang bisa membajak akun korban lewat tautan berbagi.
Ilustrasi: liput24
Poin penting
- Peneliti Parameter Labs menemukan cara membajak akun ChatGPT hanya dengan tautan percakapan.
- Celah pada fitur pratinjau kode memungkinkan penyerang mengambil data pribadi korban.
- OpenAI telah menutup celah ini dan membayar hadiah temuan sebesar 5.000 dolar AS.
Membuka tautan percakapan ChatGPT ternyata sempat membahayakan akun pengguna. Peneliti keamanan menemukan celah yang memungkinkan penyusup mengambil alih akun orang lain.
Kabar ini dilaporkan oleh Simon Willison dari temuan tim Parameter Labs. Penyerang cukup membagikan tautan obrolan agar korban membuka tautan itu.
Memanfaatkan Fitur Pratinjau Kode
Masalah bermula dari fitur pratinjau kode HTML pada ChatGPT. Fitur ini dulunya bernama Canvas dan kini disebut HTML previews.
Fitur tersebut menjalankan kode dalam ruang isolasi khusus atau iframe. Ruang isolasi ini dirancang agar kode tidak menyentuh data penting.
Namun, peneliti menemukan celah pada pustaka matematika bernama MathLive. Pustaka ini dipakai OpenAI untuk menampilkan grafik pada layar percakapan.
MathLive memiliki papan ketik virtual yang bisa dipanggil lewat pesan. Celah ini membuat kode di ruang isolasi bisa mengirim perintah ke halaman utama.
Halaman utama ChatGPT kemudian menerima kode tersebut lewat perintah innerHTML. Perintah ini menyisipkan kode tambahan tanpa memeriksa sumber pesan dengan ketat.
Membobol Pertahanan Lewat YouTube
Penyusup lalu membuat ruang tampilan baru tanpa pembatas keamanan. Meski begitu, OpenAI masih memiliki aturan pelindung naskah program bernama CSP.
Aturan ini melarang kode asing berjalan sembarangan di situs. Namun, OpenAI mengizinkan naskah dari situs YouTube untuk tetap berjalan.
Peneliti memanfaatkan pintu masuk oEmbed milik YouTube untuk menyusupkan naskah berbahaya. Dari sana, kode jahat berhasil berjalan langsung di dalam ChatGPT.
Kode itu bisa mengambil data pribadi pengguna melalui sambungan internal. Data yang dicuri lalu dikirim keluar lewat tautan gambar.
Korban yang sedang masuk ke akunnya akan langsung terkena dampaknya. Akun korban bahkan bisa dipakai mengambil tindakan tanpa izin korban.
OpenAI kini sudah menutup lubang keamanan tersebut. Mereka memberikan hadiah sebesar 5.000 dolar AS kepada pihak penemu.
Apa Artinya bagi Pelaku Usaha
Kasus ini menjadi peringatan keras bagi para pemimpin perusahaan. Karyawan sering membagikan tautan percakapan kecerdasan buatan untuk menyelesaikan pekerjaan harian.
Tautan yang tampak wajar bisa menjadi jalan pencurian data rahasia kantor. Anda berisiko kehilangan percakapan bisnis sensitif yang tersimpan di dalam akun.
Para direktur perlu meninjau ulang aturan penggunaan alat digital di kantor. Ingatkan staf untuk tidak membuka tautan obrolan dari pihak asing.
Kecerobohan kecil dapat memicu kebocoran data penting perusahaan ke tangan pesaing.
- Simon Willison: How We Took Over ChatGPT Accounts
Lihat hasil pemeriksaan (10 klaim)
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Peneliti Parameter Labs menemukan celah keamanan di fitur pratinjau ChatGPT (HTML previews) yang memungkinkan pengambilalihan akun melalui tautan berbagi. | Didukung | “Parameter Labs describe an exploit they found against ChatGPT's implementation of the artifacts pattern” Simon Willison merangkum temuan Parameter Labs tentang eksploitasi pada implementasi artifacts/HTML previews di ChatGPT. |
| Fitur pratinjau kode HTML sebelumnya bernama Canvas dan kini disebut HTML previews. | Didukung | “OpenAI used to call this "Canvas" but it looks like the latest revision is called HTML previews )” Simon Willison menyebutkan OpenAI sebelumnya menamai fitur ini Canvas sebelum revisi terbarunya disebut HTML previews. |
| Fitur tersebut menampilkan aplikasi HTML interaktif di dalam iframe terisolasi (sandbox) untuk melindungi API dan data pribadi OpenAI. | Didukung | “where interactive custom HTML apps are displayed in a sandboxed iframe. It's important that HTML in these stays tightly sandboxed to avoid untrusted code interacting with OpenAI APIs” Simon Willison menjelaskan isolasi iframe diterapkan agar kode tidak berinteraksi langsung dengan API OpenAI dan data pribadi. |
| OpenAI menggunakan pustaka JavaScript MathLive untuk dukungan grafik, yang memiliki keyboard virtual dan dapat dipicu di halaman utama lewat postMessage. | Didukung | “OpenAI use the MathLive JavaScript library as part of their graph support, and that library includes its own virtual keyboard , which can be triggered in the parent page via postMessage()” Simon Willison memaparkan MathLive digunakan untuk grafik dan memiliki keyboard virtual yang bisa dipanggil dari iframe. |
| Kode penerima pesan di halaman induk menggunakan innerHTML dan tidak memiliki mekanisme pencegahan dari frame terisolasi lainnya. | Didukung | “That message receiving code uses innerHTML , so anything that sends a message can add custom HTML to the parent - and there was no mechanism to prevent other sandboxed frames” Simon Willison menyatakan penerima pesan menggunakan innerHTML tanpa penyaringan sumber pesan antarframing. |
| Penyusup dapat menggunakan innerHTML untuk menyisipkan iframe baru tanpa pembatasan sandbox. | Didukung | “it could be used to inject a new iframe without sandbox restrictions.” Simon Willison menjelaskan celah innerHTML dipakai untuk membuat iframe tanpa batasan sandbox. |
| Aturan CSP OpenAI memblokir skrip inline namun mengizinkan skrip dari domain YouTube, di mana endpoint oEmbed YouTube dapat memantulkan JavaScript yang dapat dieksekusi. | Didukung | “OpenAI’s CSP rules blocked inline scripts entirely, and only allowed script loading from a handful of domains, but one of those was YouTube” Simon Willison menjelaskan bypass CSP melalui domain YouTube yang diizinkan. |
| Setelah mengeksekusi JavaScript di ChatGPT, penyerang dapat mengambil data pribadi pengguna dari API dan mengekfiltrasi lewat gambar. | Didukung | “Once the attack had JavaScript execution on ChatGPT, it was trivial to fetch private user data from APIs and exfiltrate it via an image reference.” Simon Willison menerangkan data pribadi diambil dari API dan dikirim keluar menggunakan referensi gambar. |
| Tautan percakapan berbagi (share URL) yang dikunjungi pengguna yang sedang masuk akun dapat mencuri data pribadi atau mengambil tindakan atas nama pengguna tersebut. | Didukung | “The end result: you could create a ChatGPT share URL which, when visited by another signed-in user, could exfiltrate their private data or take actions on their behalf.” Simon Willison menyatakan dampak akhir serangan terjadi saat tautan berbagi dibuka oleh pengguna yang login. |
| OpenAI telah menutup celah keamanan ini dan memberikan hadiah temuan celah (bug bounty) sebesar 5.000 dolar AS. | Didukung | “OpenAI closed the hole and paid out a $5,000 bug bounty” Simon Willison memastikan lubang keamanan telah diperbaiki dan OpenAI membayarkan imbalan $5.000. |
Video AI terbaru
Coinbase on OpenAI Private Intelligence
