Riset Ungkap Bias Tersembunyi AI dalam Penalaran dan Penilaian Kerja
Dua riset terbaru membuktikan model AI masih memuat bias stereotip dan distorsi kepribadian, memicu risiko bagi otomatisasi rekrutmen bisnis.
Foto: TechXplore (Dokumentasi editorial)
Poin penting
- Model AI bekerja lebih keras saat memproses data yang melawan stereotip sosial.
- Bot AI menampilkan profil kepribadian yang kaku dan belum andal menilai manusia.
- Manusia terbukti 83 persen akurat mendeteksi teks AI dibanding bot sebesar 67 persen.
Penggunaan kecerdasan buatan untuk otomatisasi operasional dan seleksi tenaga kerja kian marak diadopsi korporasi. Namun, dua studi ilmiah terbaru mengingatkan adanya bias tersembunyi yang berisiko merugikan keputusan bisnis.
Dilaporkan oleh TechXplore, riset Rutgers University dalam jurnal Nature Machine Intelligence menemukan model penalaran AI mereproduksi bias implisit manusia. Asumsi otomatis tanpa sadar ini tertanam kuat dalam proses penalaran model.
Beban Komputasi Menghadapi Stereotip
Peneliti Rutgers, Calvin K. Lai dan Messi H.J. Lee, menguji model seperti OpenAI o3-mini, DeepSeek R1, Claude 3.7 Sonnet, gpt-oss-20b, dan Qwen-3 8B. Mereka membedah reasoning tokens, yaitu unit komputasi internal yang menunjukkan energi pemrosesan model saat berpikir.
Hasilnya, hampir semua model membutuhkan token lebih banyak saat memasangkan konsep yang melawan stereotip umum, misalnya nama perempuan dengan jabatan eksekutif. Pola terbalik hanya terlihat pada Claude 3.7 Sonnet.
Mengingat semakin luasnya penerapan model bahasa dalam pengambilan keputusan, memahami pola tersembunyi ini sangat krusial untuk mencegah hasil diskriminatif.
Bias Penilaian dan Profil Kepribadian AI
Kelemahan evaluasi AI juga dikonfirmasi oleh riset Johannes Gutenberg University Mainz di Scientific Reports. Tim pimpinan Sophie Körner membandingkan deskripsi kepribadian tujuh model bahasa—seperti ChatGPT-4o, ChatGPT-3.5, Llama-3, Gemma 2, Gemini 2.5, Phi-3, dan Orca 2—dengan 70 partisipan manusia.
Model-model tersebut secara konsisten mencitrakan diri lebih teliti, ramah, dan stabil secara emosional dibanding manusia. Namun, saat mengevaluasi teks tulisan partisipan manusia, chatbot cenderung melebih-lebihkan skor keterbukaan dan kepercayaan diri dibanding penilaian sesama manusia.
Studi tersebut juga mencatat penilai manusia mencapai akurasi 83 persen dalam mengenali tulisan buatan bot. Sebaliknya, sistem AI hanya mencatatkan akurasi deteksi sebesar 67 persen.
Apa Artinya bagi Pelaku Usaha
Temuan ini menjadi peringatan langsung bagi pimpinan perusahaan yang berniat mengandalkan AI untuk penyaringan resume atau asesmen psikologi awal. Ketergantungan buta pada algoritma berisiko menyaring kandidat secara bias dan mengeliminasi talenta potensial.
Perusahaan sebaiknya tidak menyerahkan keputusan akhir seleksi karyawan sepenuhnya kepada sistem otonom. Terapkan prinsip human-in-the-loop dengan menjadikan ringkasan AI hanya sebagai rujukan pelengkap, bukan penentu kelulusan administrasi.
Manajemen juga disarankan menguji prompt rekrutmen secara berkala menggunakan data anonim tanpa indikator gender. Langkah audit internal ini penting untuk meminimalkan risiko kepatuhan hukum dan diskriminasi di tempat kerja.
- TechXplore: Some AI bots work harder to defy stereotypes, study finds
- TechXplore: Chatbots with personality? How AI describes itself and judges us
Lihat hasil pemeriksaan (9 klaim)
| Klaim | Putusan | Dasar di sumber |
|---|---|---|
| Riset Rutgers University dalam jurnal Nature Machine Intelligence menemukan model penalaran AI mereproduksi bias implisit manusia selama proses bernalar. | Didukung | “What we found across most models is that they consistently reproduced human implicit biases during their reasoning process” TechXplore (Sumber 1) mengutip temuan Calvin K. Lai dari Rutgers University. |
| Peneliti Rutgers Calvin K. Lai dan Messi H.J. Lee menguji lima model penalaran: OpenAI o3-mini, DeepSeek R1, Claude 3.7 Sonnet, gpt-oss-20b, dan Qwen-3 8B. | Didukung | “In their experiment, five reasoning models—OpenAI's o3-mini, DeepSeek's R1, Claude 3.7 Sonnet from Anthropic, OpenAI's gpt-oss-20b and Alibaba Cloud's Qwen-3 8B” TechXplore (Sumber 1) mencantumkan nama peneliti dan kelima model yang diuji. |
| Reasoning tokens mengukur energi atau upaya komputasi yang dikeluarkan model AI saat memproses respons. | Didukung | “they produce "reasoning tokens," which measure how much energy the model expended in responding.” TechXplore (Sumber 1) mendefinisikan fungsi reasoning tokens. |
| Hampir semua model memerlukan lebih banyak reasoning tokens ketika memproses tugas yang bertentangan dengan stereotip, dengan pengecualian Claude 3.7 Sonnet yang menunjukkan pola terbalik. | Didukung | “In nearly every model tested, more reasoning tokens were spent on tasks that conflicted with established stereotypes, suggesting greater computational effort when processing counter-stereotypical info” TechXplore (Sumber 1) melaporkan perbandingan jumlah token antar model. |
| Calvin K. Lai menyatakan bahwa pemahaman terhadap pola tersembunyi ini penting untuk mencegah hasil diskriminatif seiring meluasnya adopsi model bahasa dalam pengambilan keputusan. | Didukung | “Given the growing deployment of language models in decision-making contexts, understanding and addressing these hard-to-detect patterns is crucial for preventing discriminatory outcomes” TechXplore (Sumber 1) mengutip langsung pernyataan Lai. |
| Riset Johannes Gutenberg University Mainz di Scientific Reports oleh tim pimpinan Sophie Körner membandingkan deskripsi kepribadian tujuh model bahasa dengan 70 partisipan manusia. | Didukung | “compared the self-descriptions of seven AI language models—ChatGPT-4o, ChatGPT-3.5, Llama-3, Gemma 2, Gemini 2.5, Phi-3 and Orca 2—with those of 70 humans.” TechXplore (Sumber 2) merinci institusi peneliti, nama model, dan jumlah partisipan manusia. |
| Model-model bahasa menampilkan diri lebih teliti, ramah, dan stabil secara emosional dibanding manusia. | Didukung | “Compared with the human participants, the language models presented themselves as more conscientious, agreeable and emotionally stable.” TechXplore (Sumber 2) merinci hasil perbandingan profil kepribadian model versus manusia. |
| Chatbot cenderung menilai skor sifat keterbukaan dan kepercayaan diri partisipan manusia lebih tinggi dibanding penilaian oleh sesama penilai manusia. | Didukung | “However, the chatbots tended to rate some traits of the human authors, including openness and self-esteem, higher than the human raters did.” TechXplore (Sumber 2) mencatat bias penilaian chatbot terhadap teks manusia. |
| Penilai manusia mencapai akurasi 83 persen dalam membedakan teks manusia dari teks buatan AI, sedangkan chatbot hanya mencapai akurasi 67 persen. | Didukung | “The human raters achieved an accuracy of 83%, compared with just 67% for the chatbots.” TechXplore (Sumber 2) memaparkan persentase akurasi deteksi kedua kelompok. |
Video AI terbaru
Introducing ChatGPT Images 2.6
