OpenAI Batasi Informasi Praktis Senjata bagi Pengguna Remaja di ChatGPT
OpenAI membatasi informasi senjata dan sistem keamanan bagi remaja di ChatGPT menyusul gugatan hukum serta evaluasi keselamatan.
Foto: Engadget (Dokumentasi editorial)
Poin penting
- OpenAI membatasi informasi praktis senjata dan sistem keamanan untuk akun remaja di ChatGPT.
- Aturan ini tetap berlaku ketat meski pertanyaan dari remaja tampak tidak berbahaya.
- Langkah diambil usai OpenAI menghadapi gugatan hukum terkait kematian tidak wajar.
OpenAI memperketat akses bagi pengguna usia remaja di ChatGPT. Sistem kini membatasi informasi praktis terkait senjata dan sistem keamanan.
Pembatasan tetap berlaku meski pertanyaan pengguna tampak tidak berbahaya. Kebijakan ini dilaporkan oleh media Engadget.
Sebelumnya, OpenAI sudah memiliki aturan keselamatan dasar. ChatGPT dilarang membantu pengguna melakukan aksi kekerasan.
Layanan tersebut juga dilarang memandu remaja untuk memperoleh senjata. Namun, manajemen OpenAI memutuskan untuk memperluas proteksi tersebut.
Batasi Informasi Praktis Senjata
Kini, OpenAI menahan informasi praktis tentang senjata. Data mengenai sistem keamanan yang berpotensi memicu kekerasan juga disaring.
Langkah ini tetap dijalankan oleh sistem. Penolakan dilakukan walau tidak terlihat tanda niat jahat dari pengguna remaja.
Meski demikian, remaja tetap bisa memakai ChatGPT. Mereka masih dapat berkonsultasi untuk mencegah atau meredakan kekerasan.
Remaja juga bisa menggunakan sistem untuk mencari bantuan moral. Asisten digital ini siap membantu mereka terhubung dengan orang dewasa tepercaya.
Aturan ini terintegrasi dengan fitur kendali orang tua. Fitur pengawasan keluarga tersebut sudah diluncurkan sejak tahun lalu.
Orang tua akan menerima pemberitahuan otomatis di gawai mereka. Notifikasi terkirim jika akun remaja melanggar aturan terkait ancaman atau aksi kekerasan.
Aturan Serangan Massal dan Latar Kasus
Pengetatan batas kebijakan ini tidak hanya menyasar kalangan muda. OpenAI menegaskan aturan baru ini berlaku bagi seluruh penggunanya.
ChatGPT menolak permintaan rekonstruksi aksi serangan massal masa lalu. Sistem melarang pembicaraan detail soal senjata serta peralatan yang dipakai pelaku.
Cara pelaku memperoleh senjata juga tidak akan dijelaskan oleh sistem. Langkah ini diambil guna mencegah perbandingan skala bahaya serangan.
Menurut OpenAI, perbandingan skala dampak dapat memperbesar ketenaran penyerang. Hal itu ingin dihindari sepenuhnya oleh perusahaan.
Pengamanan tambahan ini muncul setelah OpenAI terseret persoalan hukum. Perusahaan menghadapi gugatan hukum atas tuduhan kematian tidak wajar pada tahun lalu.
CEO OpenAI Sam Altman juga sempat meminta maaf secara terbuka. Ia meminta maaf karena tidak memberi tahu polisi soal log obrolan yang mencurigakan.
Catatan obrolan tersebut berkaitan dengan peristiwa penembakan di Tumbler Ridge awal tahun ini. Kasus itu menjadi perhatian besar bagi publik.
OpenAI berencana menerbitkan Community Safety Report pertama pada awal 2027. Laporan keselamatan komunitas ini akan diperbarui berkala tiap enam bulan.
Apa Artinya bagi Pelaku Usaha
Kasus ini menjadi peringatan bagi para pemimpin bisnis. Pemanfaatan sistem otomatis di ruang publik membawa risiko pertanggungjawaban yang sangat besar.
Perusahaan tidak cukup hanya memikirkan efisiensi dari teknologi cerdas. Reputasi bisnis bisa rusak akibat kelalaian sistem dalam menyaring informasi sensitif.
Pelaku usaha di Indonesia perlu menyiapkan tata kelola perlindungan konsumen, terutama bagi anak dan remaja. Pengawasan sejak dini jauh lebih aman daripada menghadapi gugatan hukum.
- Engadget: OpenAI adds stricter limits for teens asking about firearms
Lihat hasil pemeriksaan (10 klaim)
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| OpenAI membatasi informasi praktis tentang senjata dan sistem keamanan bagi pengguna remaja di ChatGPT. | Didukung | “OpenAI said it's going to "restrict practical information about weapons and security systems that could be misused to facilitate violence, even when there's no sign of violent intent" with its teen users.” Engadget melaporkan pengumuman OpenAI terkait pembatasan informasi senjata dan sistem keamanan untuk pengguna remaja. |
| Pembatasan informasi tetap berlaku meski pertanyaan remaja tampak tidak berbahaya atau tanpa niat jahat. | Didukung | “The company said these tighter restrictions apply even if the question asked “appears harmless.”” Engadget menyatakan aturan ketat tetap berlaku meski pertanyaan terkesan tidak berbahaya. |
| Sebelumnya OpenAI sudah memiliki kebijakan melarang ChatGPT membantu aksi kekerasan atau membantu remaja memperoleh senjata. | Didukung | “OpenAI noted that it already has policies in place that prevent ChatGPT from helping users carry out violent acts or teens getting their hands on weapons.” Engadget menyebutkan kebijakan pencegahan aksi kekerasan dan perolehan senjata bagi remaja sudah ada sebelumnya. |
| Remaja masih tetap dapat menggunakan ChatGPT untuk mencegah atau meredakan kekerasan, serta mencari dukungan dan terhubung dengan orang dewasa tepercaya. | Didukung | “The AI giant noted that teens will still be able to use ChatGPT when it comes to preventing or de-escalating violence, seeking support and connecting with a trusted adult.” Engadget menegaskan fungsi pencegahan kekerasan dan pencarian bantuan tetap terbuka bagi remaja. |
| Fitur kendali orang tua yang diluncurkan tahun lalu mengirimkan notifikasi jika akun remaja melanggar aturan terkait ancaman atau aksi kekerasan. | Didukung | “parental controls that OpenAI put into place last year, which sends notifications to parents if their linked teen accounts have violated ChatGPT policies related to violent threats or acts of violence.” Engadget merinci fungsi notifikasi kendali orang tua yang telah dirilis tahun lalu. |
| OpenAI memperketat batas kebijakan bagi seluruh pengguna terkait rekonstruksi serangan massal masa lalu, detail senjata/peralatan, cara memperolehnya, dan perbandingan skala dampak. | Didukung | “Not just with teens, OpenAI is strengthening policy boundaries for all of its users, particularly when asked about "reconstructions of past mass attacks, including details about the weapons” Engadget menjelaskan pengetatan kebijakan berlaku untuk semua pengguna pada topik serangan massal. |
| Perbandingan skala dampak dilarang karena dinilai dapat memperbesar ketenaran penyerang. | Didukung | “detailed comparisons on scale of harm that could amplify an attacker's notoriety."” Engadget mengutip alasan pembatasan perbandingan skala dampak serangan massal. |
| Langkah pengamanan tambahan ini diambil setelah OpenAI digugat atas tuntutan kematian tidak wajar tahun lalu. | Didukung | “These additional safeguards come after OpenAI was sued in a wrongful death lawsuit last year” Engadget melaporkan adanya gugatan wrongful death yang dihadapi OpenAI tahun lalu. |
| CEO OpenAI Sam Altman meminta maaf secara terbuka karena tidak memberi tahu polisi soal log obrolan mencurigakan terkait penembakan Tumbler Ridge. | Didukung | “Sam Altman, publicly apologized for not alerting police to alarming chat logs in relation to the Tumbler Ridge shooting earlier this year.” Engadget mencatat permintaan maaf terbuka Sam Altman terkait kasus Tumbler Ridge. |
| OpenAI akan menerbitkan Community Safety Report pertamanya pada awal 2027 dengan pembaruan berkala setiap enam bulan. | Didukung | “OpenAI said it will publish its first Community Safety Report in early 2027, which will be followed by updates every six months.” Engadget memuat jadwal rencana publikasi laporan keselamatan komunitas OpenAI. |
Video AI terbaru
Coinbase on OpenAI Private Intelligence
