Sistem AI yang dipakai untuk membantu memilih kandidat kerja berisiko membentuk stereotip hanya dari sedikit hasil perekrutan. Dalam sebuah simulasi, beberapa model bahasa besar menunjukkan segregasi pilihan kerja yang bahkan lebih kuat dibandingkan peserta manusia.
Temuan ini menjadi perhatian ketika perusahaan semakin memanfaatkan AI untuk menyaring CV dan mendukung proses wawancara. Keputusan awal yang diterima sistem, termasuk umpan balik soal kinerja kandidat, dapat memengaruhi cara model menilai pelamar berikutnya.
Skor segregasi AI mendekati angka tertinggi
Penelitian oleh ilmuwan dari Princeton University dan University of Chicago menguji sejumlah large language model dalam simulasi perekrutan. ChatGPT, Claude, dan Gemini termasuk model yang diuji dalam skenario tersebut.
Para model diminta berperan sebagai konsultan wali kota di sebuah kota fiktif. Mereka harus memilih kandidat untuk 20 jenis pekerjaan, mulai dari dokter dan pengacara hingga pengasuh anak serta petugas kebersihan.
Kandidat dalam simulasi dibagi menjadi empat kelompok etnis fiktif, yaitu Tufa, Aima, Reku, dan Weki. Pada setiap putaran, model menerima empat kandidat dari masing-masing kelompok lalu menentukan satu orang untuk mengisi posisi tertentu.
Setelah membuat pilihan, model mendapat informasi mengenai keberhasilan kandidat tersebut dalam pekerjaannya. Padahal, semua kandidat memiliki peluang keberhasilan yang sama pada setiap pekerjaan, tetapi fakta itu tidak diberitahukan kepada model.
| Peserta atau Model | Skor Segregasi | Keterangan |
|---|---|---|
| Peserta manusia | 0,84 | Rata-rata pada studi sebelumnya |
| Model AI | Sekitar 65% lebih tinggi | Dibandingkan skor peserta manusia |
| OpenAI o3 | 1,83 | Mendekati batas maksimum 2 |
Skala segregasi dalam penelitian ini menempatkan angka 2 sebagai kondisi ketika tiap kelompok sepenuhnya terpisah ke bidang pekerjaan masing-masing. Sementara peserta manusia dalam studi sebelumnya mencatat rata-rata 0,84, hasil model AI secara umum sekitar 65% lebih tinggi.
Model penalaran OpenAI o3 membukukan skor 1,83, yang sangat dekat dengan nilai maksimum pada skala tersebut. Model dengan kemampuan penalaran lebih tinggi, termasuk o3 dan DeepSeek R1, justru memperlihatkan kecenderungan segregasi yang lebih kuat dalam eksperimen.
Generalisasi dari data terbatas jadi risiko utama
Pola bias muncul ketika model menjadikan hasil awal sebagai dasar untuk menarik kesimpulan lebih luas mengenai kelompok kandidat. Misalnya, kegagalan satu kandidat Aima sebagai dokter dapat membuat model lebih jarang memilih kandidat Aima lain untuk posisi serupa.
Dalam kondisi itu, kandidat dari kelompok yang sama lebih sering diarahkan ke pekerjaan lain, termasuk petugas kebersihan. Padahal, kegagalan kandidat pertama bukan bukti bahwa kelompok tersebut memiliki peluang keberhasilan lebih rendah.
Ryan Liu, mahasiswa doktoral Princeton University yang menjadi salah satu penulis riset, menduga LLM sangat cepat membuat generalisasi dari data yang terbatas. Ia menilai kecenderungan tersebut berkaitan dengan cara model dioptimalkan untuk menyelesaikan persoalan matematika, pemrograman, dan sains.
“Mereka memang sangat berani untuk membuat generalisasi berdasarkan data yang terbatas. Itu merupakan sebagian besar tujuan optimalisasi yang dilakukan untuk mereka,” kata Liu kepada MIT Technology Review, seperti dikutip CNN Indonesia.
Instruksi untuk adil belum cukup
Peneliti menemukan bahwa instruksi sederhana agar AI bersikap adil tidak banyak mengubah hasil simulasi. Model menjadi lebih kurang bias ketika memperoleh insentif tambahan untuk melakukan perekrutan yang lebih beragam.
Informasi pribadi yang relevan dengan pekerjaan, seperti usia dan pendidikan kandidat, juga membantu mengurangi segregasi berdasarkan etnis. Sebaliknya, detail yang tidak berkaitan dengan kemampuan kerja, seperti warna rambut atau bentuk tato, tidak banyak mengubah kecenderungan tersebut.
Hasil riset ini tidak berarti semua sistem rekrutmen AI di dunia nyata pasti menghasilkan diskriminasi dengan pola yang sama. Sistem penyaring CV pada praktiknya tidak selalu langsung menerima informasi tentang keberhasilan pekerja setelah mereka direkrut.
Meski demikian, umpan balik kinerja yang masuk setelah proses perekrutan tetap berpotensi membentuk keputusan sistem terhadap kandidat berikutnya. Karena itu, bias AI dalam seleksi tenaga kerja perlu dipantau melalui desain data, konteks informasi kandidat, dan mekanisme evaluasi yang digunakan.