Yapay zekanın da mı önyargısı var?
Yapay zeka, İK alanında hızla yükselen bir trend. Bu teknoloji, CV'lerin analiz edilmesi ve aday seçiminde kullanılıyor. Ancak yapay zekanın önyargılı olabileceği endişesi, CV'lerde fotoğraf, yaş ve hatta isim kullanımını azaltmaya başladı.
Veri setleri aslında bizleriz, bizi yansıtıyor…
Öncelikle, yapay zekanın önyargılı olabileceği korkusu, yapay zeka sistemlerinin eğitiminde kullanılan veri setlerinden kaynaklanıyor. Çünkü bu veri setlerini aslında yapay zekaya tanıtan, geri planda çalışan ve “işaretleyiciler, etiketleyenler” olarak dünyanın farklı bölgelerinde görev yapan pek çok insan. Bunlar çoğunlukla genç, nispeten düşük eğitim seviyesine sahip ve düşük ücretlerle uzun saatler makine başında çalışan işçiler. Neticede verileri de oluşturanlar, kendi sosyoekonomik geçmişlerinden getirdikleri ön yargıları işaretledikleri görsel, sözel veri setlerine yansıtan gerçek bireyler.
İşte bu mekanizma nedeniyle eğer bu veriler, çeşitlilikten yoksunsa veya belirli bir grup hakkında yanlış bilgiler içeriyorsa, yapay zeka da bu önyargıları aynen öğreniyor ve karar verme sürecine dahil ediyor, işe alım süreçlerinde adaletsizliğe, hatalara yol açabiliyor.
Peki, bu endişelerin kaynağı nedir ve yapay zeka temelli seçim süreçleri ne gibi olumlu ve olumsuz yönler taşıyor?
Kuşkusuz devrimsel değişiklikler getiren bu teknoloji (yapay zeka), esas kullanım amacı itibariyle öncelikle insan kaynakları ekiplerinin verimliliğini artırıyor, süreçleri hızlandırıyor ve büyük veri setlerini analiz ederek daha kapsamlı değerlendirmeler yapılmasına olanak tanıyor. Özgeçmişlerdeki anahtar kelimeleri ve nitelikleri hızla tarayarak adayların iş ilanına uygunluğunu daha objektif bir şekilde değerlendirebiliyor. Yararları oldukça fazla ancak yukarıda dikkat çektiğim olumsuzlukları yine belirttiğim nedenlerle, içerme ihtimali de var.
Örneğin, geçmişte erkek adayların daha çok tercih edildiği bir sektörde yapay zeka, kadınları dezavantajlı hale getirebilir. Geçmişte dönemsel siyasi ve politik tercihlerle veya zorunluluklarla şekillenmiş istatistikler, farklı ırk, renk, din, millet veya yaşa sahip adayları otomatik olarak elleyebilir veya öne çıkarabilir. Aynı, benzer yetkinliklerde olmalarına rağmen insanları bu saydığım özelliklerden dolayı ayrıştırabilir. Haklı, haksız sonuçlara maruz kalabilirler.
Tarafsızlık ve adil kararlar için ne yapılmalı?
Örneklediğim olasılıklar nedeniyle yapay zekanın önyargılarının, hatalarının minimize edilmesi ve daha adil bir işe alım süreci yürütülebilmesi için yapay zekanın kullanımında dikkat edilmesi gereken en önemli nokta; eğitim verilerinin çeşitliliği ve kalitesi. İnsan kaynakları profesyonelleri, yapay zeka sistemlerini eğitirken farklı cinsiyet, etnik köken ve sosyoekonomik geçmişten insanların verilerini dengeli bir şekilde kullanmalı. İnsan dokunuşunu ve sezgisel değerlendirmeleri hiçbir zaman devre dışı bırakmamalı.
CV'lerde fotoğraf, yaş veya isim gibi bilgilerin eksikliği, objektiflik açısından olumlu bir adım olarak görülebilir. Bu, adayların yalnızca nitelikleri ve yetenekleri üzerinden değerlendirilmesine olanak sağlar, böylece ayrımcılığın önüne geçilir. Ancak bu bilgilerin eksikliği, bazen adayların kişisel hikayelerini ve deneyimlerini tam olarak yansıtamayabilir. Örneğin, bir adayın yaşının, belirli bir görev için gereken olgunluk veya deneyim seviyesi hakkında fikir vermesi mümkündür. Ayrıca, isim ve fotoğraf, adayın kişiliğini ve profesyonel kimliğini daha iyi anlamayı sağlayabilir. İşte bu tip detaylar hala ve ancak gerçek bir insan tarafından daha iyi değerlendirilebilir.
Sonuç olarak, yapay zeka veriye dayalı kararlar alırken yöneticiler de adayın kişilik özellikleri, takım uyumu ve şirket kültürüne adaptasyonu gibi unsurları dikkate almalı. Önyargıyı elimine edecek dikkati ve duyarlılığı göstermeli.