Rina Putri
Penggunaan kecerdasan buatan (Artificial Intelligence/AI) dalam proses rekrutmen karyawan semakin meluas. Namun, sebuah penelitian terbaru mengungkap bahwa AI justru berpotensi menunjukkan tingkat bias yang lebih tinggi dibandingkan manusia saat menilai kandidat pekerjaan.
Riset yang dilakukan oleh para peneliti dari Princeton University dan University of Chicago menemukan bahwa Large Language Model (LLM), seperti ChatGPT, Claude, Gemini, hingga OpenAI o3, dapat membentuk stereotip terhadap pelamar kerja hanya berdasarkan pengalaman dari data yang sangat terbatas.
Dalam penelitian yang dikutip dari MIT Technology Review, sejumlah model AI diminta mengikuti simulasi perekrutan sebagai konsultan wali kota di sebuah kota fiktif. Tugasnya adalah memilih kandidat terbaik untuk 20 jenis profesi, mulai dari dokter, pengacara, pengasuh anak, hingga petugas kebersihan.
Untuk menghindari bias terhadap kelompok nyata, para peneliti menggunakan empat kelompok etnis fiktif, yaitu Tufa, Aima, Reku, dan Weki.
AI Cepat Menarik Kesimpulan dari Data Terbatas
Pada setiap putaran simulasi, AI memilih satu kandidat, lalu diberi informasi apakah kandidat tersebut berhasil menjalankan pekerjaannya atau tidak. Padahal, seluruh kandidat sebenarnya memiliki peluang keberhasilan yang sama.
Meski demikian, hasil awal yang diterima AI ternyata memengaruhi keputusan berikutnya.
Sebagai contoh, ketika seorang kandidat dari kelompok Aima digambarkan gagal sebagai dokter, AI kemudian cenderung menghindari kandidat lain dari kelompok yang sama untuk posisi dokter dan lebih sering menempatkan mereka pada pekerjaan lain, seperti petugas kebersihan.
Temuan tersebut menunjukkan bahwa AI mampu membangun pola atau stereotip hanya dari sedikit contoh, meskipun informasi yang dimiliki belum cukup untuk menarik kesimpulan.
Tingkat Bias AI Lebih Tinggi daripada Manusia
Dalam penelitian ini, tingkat segregasi diukur menggunakan skala khusus. Peserta manusia pada penelitian sebelumnya memperoleh skor 0,84, sedangkan beberapa model AI mencatat skor sekitar 65 persen lebih tinggi.
Model OpenAI o3 bahkan memperoleh skor 1,83, mendekati nilai maksimum pada skala tersebut. Hasil ini menunjukkan kecenderungan AI melakukan pengelompokan kandidat berdasarkan pola yang terbentuk selama simulasi.
Peneliti juga menemukan bahwa model AI dengan kemampuan penalaran lebih tinggi justru menunjukkan kecenderungan bias yang lebih besar dibanding model lainnya.
Mengapa AI Bisa Bersikap Bias?
Salah satu penulis penelitian, Ryan Liu, menjelaskan bahwa LLM memang dirancang untuk mengenali pola dan membuat generalisasi dengan cepat dari data yang tersedia.
Kemampuan tersebut sangat berguna untuk menyelesaikan persoalan matematika, pemrograman, maupun sains. Namun, dalam konteks perekrutan, mekanisme yang sama dapat memunculkan keputusan yang kurang adil apabila hanya didasarkan pada pengalaman yang terbatas.
Informasi Kandidat Bisa Mengurangi Bias
Penelitian ini juga menemukan bahwa memberikan instruksi kepada AI agar bersikap adil ternyata tidak terlalu berpengaruh terhadap hasil akhir.
Sebaliknya, AI menjadi lebih objektif ketika diberi tujuan tambahan untuk menciptakan proses rekrutmen yang lebih beragam. Selain itu, penyediaan informasi yang benar-benar relevan, seperti usia dan tingkat pendidikan kandidat, juga membantu mengurangi kecenderungan bias.
Sementara itu, informasi yang tidak berkaitan dengan kemampuan kerja, seperti warna rambut atau bentuk tato, hampir tidak memberikan dampak terhadap keputusan AI.
Masih Sebatas Simulasi
Meski hasil penelitian ini cukup menarik perhatian, para peneliti menegaskan bahwa eksperimen tersebut masih dilakukan dalam lingkungan simulasi.
Artinya, temuan ini belum dapat dijadikan bukti bahwa seluruh sistem AI yang digunakan perusahaan saat ini akan melakukan diskriminasi dalam proses perekrutan.
Namun demikian, penelitian ini menjadi pengingat bahwa penggunaan AI sebagai alat penyaring CV maupun pendukung wawancara tetap membutuhkan pengawasan manusia agar keputusan yang diambil tetap objektif, adil, dan tidak merugikan calon pekerja.
