Pernahkah Anda membayangkan bahwa resume yang Anda kirimkan untuk pekerjaan impian mungkin tidak pernah dilihat oleh mata manusia? Di era digital saat ini, kecerdasan buatan (AI) semakin banyak digunakan untuk menyaring pelamar kerja. Namun, sebuah temuan baru yang cukup mengejutkan memberikan peringatan keras: AI ternyata lebih cenderung membentuk bias dan stereotip dibandingkan manusia.

Sebuah studi kolaboratif antara peneliti dari Princeton University dan University of Chicago mengungkapkan bahwa Model Bahasa Besar (LLM) seperti ChatGPT, Claude, dan Gemini tidak hanya meniru bias yang sudah ada, tetapi juga mengembangkan prasangka baru melalui pengalaman mereka sendiri.

Simulasi Permainan Rekrutmen: AI vs Manusia

Untuk menguji tingkat prasangka ini, para peneliti merancang sebuah simulasi permainan rekrutmen. AI berperan sebagai konsultan yang membantu seorang wali kota untuk mempekerjakan orang di berbagai profesi, mulai dari dokter dan pengacara hingga pengasuh anak dan petugas kebersihan. Para kandidat berasal dari empat kelompok etnis fiktif: Tufa, Aima, Reku, dan Weki.

Hasilnya sangat mencengangkan. Meskipun semua kandidat memiliki peluang keberhasilan yang sama secara statistik, AI dengan cepat mulai mengelompokkan etnis tertentu ke dalam pekerjaan tertentu berdasarkan hasil rekrutmen awal.

Sebagai contoh, jika sebuah model AI diberitahu bahwa seorang kandidat dari kelompok 'Aima' gagal dalam posisi dokter, AI tersebut cenderung berhenti mempekerjakan kelompok Aima sebagai dokter di putaran berikutnya. Alih-alih memberikan kesempatan lain, AI justru memindahkan mereka ke posisi seperti petugas kebersihan, yang oleh model tersebut diklasifikasikan memiliki tingkat kompetensi yang lebih rendah.

Skala Segregasi: AI Jauh Melampaui Manusia

Dalam skala segregasi di mana angka 2 berarti setiap kelompok telah sepenuhnya terkurung dalam ceruk pekerjaan tertentu, partisipan manusia dalam studi psikologi asli mencatatkan skor 0,84. Namun, model AI mencetak angka yang jauh lebih tinggi.

Model terbaru dari OpenAI, o3, yang dikenal dengan kemampuan penalarannya yang tinggi, justru mencatatkan skor 1,83—hampir mencapai batas maksimal segregasi. Ini menunjukkan bahwa semakin cerdas sebuah model dalam melakukan penalaran logis, semakin cepat pula ia membentuk stereotip.

Mengapa AI Begitu Cepat Berprasangka?

Menurut Ryan Liu, mahasiswa PhD di Princeton dan salah satu penulis studi tersebut, masalah utamanya terletak pada optimasi AI. LLM dirancang untuk melakukan generalisasi dari data yang terbatas. Inilah yang oleh para psikolog disebut sebagai "dilema eksplorasi-eksploitasi" (exploration-exploitation dilemma).

Bayangkan Anda harus memilih antara makan di restoran favorit yang sudah pasti enak atau mencoba restoran baru yang mungkin lebih baik tapi berisiko mengecewakan. Manusia cenderung lebih seimbang dalam mengeksplorasi pilihan baru. Sebaliknya, AI yang dilatih pada soal matematika dan sains cenderung menetapkan kesimpulan terlalu dini setelah hanya melihat beberapa contoh saja.

Insting yang sama yang membantu AI memecahkan teka-teki logika yang rumit jugalah yang membuatnya sangat cepat dalam memberikan label stereotip pada kelompok tertentu.

Dampak Memori dan Personalisasi

Masalah ini menjadi semakin relevan seiring dengan pengembangan model AI yang memiliki fitur memori dan personalisasi yang lebih kuat. Ketika chatbot mengingat riwayat percakapan sebelumnya, ia mungkin akan "over-index" atau memberikan bobot berlebihan pada perilaku masa lalu, sehingga memperkuat bias yang sudah terbentuk.

Angelina Wang, seorang ilmuwan komputer di Cornell University, mencatat bahwa membatasi ingatan AI bukanlah solusi yang mudah karena pengguna justru menginginkan AI yang dapat mengingat preferensi mereka. Tantangannya adalah menemukan titik keseimbangan yang tepat.

Apakah Ada Solusi?

Para peneliti mencoba beberapa pendekatan untuk mengurangi bias ini:

1. Instruksi Keadilan: Memberitahu model untuk bersikap adil ternyata tidak banyak mengubah perilaku mereka. AI sering kali lebih memprioritaskan tujuan utama (seperti mendapatkan karyawan terbaik) daripada nilai-nilai sosial yang abstrak.
2. Insentif Diversitas: Memberikan "bonus" digital kepada AI jika mereka merekrut secara beragam terbukti jauh lebih efektif dalam mengurangi bias.
3. Informasi Personal yang Relevan: AI menjadi kurang bias ketika diberikan informasi pribadi yang relevan dengan pekerjaan (seperti latar belakang pendidikan dan usia). Namun, jika diberikan informasi yang tidak relevan (seperti warna rambut atau bentuk tato), AI cenderung kembali menggunakan etnis sebagai dasar penilaian.

Kesimpulan: Pentingnya Pengawasan Manusia

Meskipun dalam dunia nyata AI tidak langsung menerima laporan keberhasilan karyawan secara instan seperti dalam simulasi, potensi risiko tetap ada. Saat perusahaan semakin banyak menggunakan LLM untuk menyaring resume atau bahkan melakukan wawancara, implikasi dari bias yang terbentuk secara mandiri ini harus ditanggapi dengan serius.

Teknologi AI menawarkan efisiensi yang luar biasa, namun tanpa pengawasan manusia yang ketat dan desain tujuan yang memasukkan nilai-nilai sosial, kita berisiko menciptakan sistem rekrutmen yang lebih tidak adil daripada sistem konvensional yang ingin kita perbaiki.