Hızlı Cevap: Evet — işe alım teknolojiniz çeşitlilik hedeflerinize karşı aktif olarak çalışıyor olabilir. Geçmiş verilere göre eğitilmiş algoritmik işe alım araçları, mevcut iş gücü önyargılarını kodlayabilir ve güçlendirebilir, az temsil edilen gruplardan nitelikli adayları sistematik olarak eleyebilir. Bunun nasıl olduğunu — ve bu konuda ne yapılması gerektiğini — anlamak artık stratejik bir iş zorunluluğudur.
İşe alım algoritmaları, kurumsal dünyaya insan önyargılarının panzehiri olarak pazarlandı. Sunum sezgiseldi: İçgüdüsel kararları veri odaklı puanlamayla değiştirin ve insanların her mülakat odasına taşıdığı önyargıyı ortadan kaldırın. Akran denetimli araştırmalar ve yüksek profilli kurumsal başarısızlıklarla belgelenen gerçeklik ise önemli ölçüde daha karmaşık.
Amazon, 2018'de yapay zeka tabanlı işe alım aracını sessizce rafa kaldırdığında, ortaya çıkan hikaye öğreticiydi. On yıllık geçmiş işe alım verileriyle eğitilen sistem, başarılı adayların ağırlıklı olarak erkek olduğunu öğrenmişti ve "kadınlar" (örneğin "kadınlar satranç kulübü"ndeki gibi) kelimesini içeren özgeçmişleri cezalandırmaya, sadece kadınlara yönelik kolejlerden mezun olanların puanlarını düşürmeye başladı. Algoritma arızalı değildi. Tam olarak tasarladığı şeyi yapıyordu: geçmiş kalıpları tekrarlamak. Sorun, kalıpların kendisiydi.
2024'te algoritmik işe alımın temel paradoksu şudur: işe alım teknoloji yığınınız ne kadar güçlüyse, kuruluşunuzun tarihsel önyargılarını o kadar verimli bir şekilde ölçeklendirebilir.
Algoritmik Önyargı İşe Alım Sürecine Nasıl Girer?
Önyargı, işe alım yazılımınıza tek, görünür bir kirletici olarak girmez. Çoğu zaman eş zamanlı olarak birden fazla yoldan girer.
1. Eğitim Verisi Kirliliği
Çoğu ticari aday takip sistemi (ATS) ve yapay zeka eleme aracı, geçmiş işe alım sonuçlarına göre eğitilir — kimler mülakata çağrıldı, kimler iş teklifi aldı, kimler terfi etti. Kuruluşunuz (veya bir satıcı tarafından kullanılan daha geniş sektör veri kümesi) tarihsel olarak homojen bir iş gücünü işe aldıysa, bu tarih, modelin "başarılı aday" tanımı haline gelir.
MIT Technology Review'da 2019'da yayınlanan bir araştırma, birkaç büyük işe alım platformunun, aday niteliklerine bağlanamayan istatistiksel olarak önemli cinsiyet ve ırksal farklılıklar gösterdiğini ortaya koydu.
2. Vekil Değişkenler ve Korelasyon Tuzakları
Algoritmalar nadiren doğrudan korunan özellikleri (ırk, cinsiyet, yaş) kullanır. Bunun yerine, korunan özelliklerle ilişkili olan ancak yasal olarak ayrımcılık teşkil etmeyen veri noktaları olan vekil değişkenler kullanırlar. Örnekler şunları içerir:
- Posta kodu veya işe gidiş mesafesi — birçok metropol bölgesinde ırk ve sosyoekonomik geçmişle ilişkilidir
- Eğitim kurumu — seçkin üniversiteye devam, aile zenginliği ve dolayısıyla ırkla ilişkilidir
- İstihdam boşlukları — kadınları (bakım görevleri nedeniyle) ve askeri gazileri orantısız şekilde etkiler
- İsim tabanlı analiz — National Bureau of Economic Research (NBER) tarafından yapılan araştırmalar, stereotipik Siyahi isimlere sahip özgeçmişlerin, stereotipik beyaz isimlere sahip aynı özgeçmişlere göre %14-50 daha az geri dönüş aldığını tekrar tekrar göstermiştir; bu, NLP tabanlı sistemlerin istemeden üretebileceği bir önyargıdır
3. Geri Bildirim Döngüsü Amplifikasyonu
Birçok yapay zeka işe alım aracı, zamanla iyileşmek için işe alım uzmanı geri bildirimlerini içerir. İşe alım uzmanları kültürel olarak homojen bir norma "uyan" adayları sistematik olarak ilerletirse, model bu tercihi öğrenir ve her yinelemede daha hızlı ve daha büyük ölçekte yapar.
Araştırmacıların algoritmik amplifikasyon adını verdiği şey budur: sistem sadece önyargıyı miras almakla kalmaz, onu birleştirir.
Bunu Göz Ardı Etmenin İş Boyutundaki Karşılığı
İşe alımda algoritmik önyargı sadece etik bir endişe değildir. Birden fazla boyutta ölçülebilir iş riski taşır.
Yasal risk hızlanıyor. ABD Eşit İstihdam Fırsatları Komisyonu (EEOC), 2023'te işverenleri, otomatik istihdam karar araçlarını kullanmanın onları Başlık VII veya ADA yükümlülüğünden korumadığı konusunda açıkça uyaran bir kılavuz yayınladı. 2023'te yürürlüğe giren New York City'nin Yerel Yasa 144'ü, yapay zeka işe alım araçlarını kullanan işverenlerin yıllık önyargı denetimleri yapmasını gerektiriyor; bu, diğer yargı bölgelerinin aktif olarak incelediği bir düzenleyici model.
Yetenek piyasası kayıpları ölçülebilir. McKinsey'nin 2023 Diversity Wins raporu, etnik ve kültürel çeşitlilikte üst çeyrekte yer alan şirketlerin, emsallerine göre ortalama üstü kârlılık elde etme olasılığının %36 daha fazla olduğunu buldu. İşe alım teknolojileri çeşitlilik gösteren yetenekleri sistematik olarak eleyen kuruluşlar sadece adayları kaybetmekle kalmıyor, aynı zamanda rekabetçi konumlarını da kaybediyorlar.
İnovasyonun bozulması yapısal bir sorundur. Harvard Business Review'dan yapılan araştırmalar, çeşitlilik gösteren ekiplerin karmaşık problem çözme görevlerinde homojen ekipleri sürekli olarak geride bıraktığını göstermektedir. ATS'niz sistematik olarak dar bir aday arketipini tercih ettiğinde, kuruluşunuza ölçekli bilişsel homojenlik inşa ediyorsunuz demektir.
İşe Alım Teknoloji Yığınınızı Denetleme: Nereden Başlamalı?
Yetenek kazanımı veya İnsan Kaynakları teknolojisinden sorumluysanız, aşağıdaki denetim çerçevesi yapılandırılmış bir başlangıç noktası sağlar.
Adım 1: Satıcılardan Algoritmik Şeffaflık Talep Edin
Birçok İK teknoloji satıcısı kara kutu gibi çalışır. Herhangi bir sözleşmeyi yenilemeden veya genişletmeden önce satıcılardan şunları sağlamalarını isteyin:
- Eğitim verisi bileşimi ve kaynak oluşturma metodolojisi
- Korunan özellikler arasında farklı etki analizi
- Bağımsız üçüncü taraf denetim raporları (kendi değerlendirmeleri değil)
Bir satıcı bu belgeleri sağlayamıyorsa, bunu önemli bir kırmızı bayrak olarak değerlendirin.