Önyargı ve işgücü üzerindeki etkisi toplumumuzda önemli bir sorun. Örneğin ilgili işe alımcıların kendisinden daha bakımlı, daha şık giyinen adaylara daha agresif davrandıkları bilinmektedir. Ya da bölgeler arası üslup ve konuşmalara karşı İstanbul’da aman ne olacak diyerek karşılayan kişi sayısı kurumsal dünyada çok sınırlı. Peki ya Suriyeli? Arap, Zenci vb… Gerçekten tarafsız gibi mi davranıyoruz?
Farklı bir işgücüne neden olan tarafsız bir toplumun önemli finansal ve kültürel artışlar yaratabileceğini biliyoruz. Örneğin, bir McKinsey çeşitlilik çalışması, çeşitlilik performansının en üst çeyreğinde yer alan şirketlerin rakiplerinden yüzde 35 daha fazla finansal getiri sağladığı sonucuna varmıştır.
Öte yandan toplumumuz, önyargıların ortaya çıkarılmasında ve öğrenilmesinde önemli ilerlemeler kaydetmiştir. Bununla birlikte, toplumu suçlama konusundaki ilerlememiz, yapay zeka gelişmeleriyle potansiyel olarak risk altında. Ve yapay zekanın geleceği belirgin ama onu doğru bir şekilde elde etmek bizim kolektif sorumluluğumuzda.
Önyargıya neden olan nedir?
Mevcut işe alım süreçlerimizde, çoğu karar insanlara bağımlı ve bunlardan kaynaklanıyor. Bir kişinin kararları genellikle az sayıdaki anekdotsal veri noktalarına dayanabilir (örneğin, benzer üç başvuranın bir satış yöneticisi görüşmesinde iyi performans göstermesi halinde, bilinçaltı olarak kendileri için ortak olan özelliklerin taranmasına başlayabiliriz). Ayrıca, bu karar çağrıları karar vericinin kültürel, sosyal ve eğitim geçmişine dayanarak farklılık gösteriyor ve bireyler arasında düşük tutarlılığa yol açıyor. Bununla beraber, yargılama yapmak için başvurduğumuz tüm filtrelerin her zaman farkında değiliz. Bu genellikle bilinçsiz önyargı olarak adlandırılıyor.
Zamanla otomasyondaki artışlar ile, insanlar karar alma sürecinde daha az noktada yer alacaklar. Bu, tutarsızlığı ve görev tamamlama hatalarını azaltırken, gerçek önyargı riski çok fazla azaltmayabilir, çünkü otomatikleştirilmiş görevlerin çoğu başlangıçta oldukça objektiftir (örneğin ATS’deki durumların otomatik olarak değişmesi). İnsanlar kontroller ve dengeler olmadan öznel kararlar verdikleri sürece, sistemde yanlılık olacaktır.
Yapay Zeka yanlılığı azaltabilir mi?
Yapay zeka led otomasyonunun yeni dönemi, insanın öznel karar verme sürecinin yerini almakta ve şimdi, daha önce metodik olarak hesaba katılmayan büyük miktardaki verileri değerlendirmektedir. Makinelerin kullanımının avantajı, kararların istatistiksel olarak anlamlı bir örnek üzerinde bütünsel korelasyonlara dayanmasıdır. Bu durum yüksek tutarlılığa ve daha iyi sonuçlara yol açar.
Bununla birlikte, aşağıdaki ihtiyaçların farkında olmak gerekir:
Açık bir dış rehberlik olmadan, makineler her faktörü yüz değeri için kullanacaktır. Bu, matematiksel olarak önyargılı değilken, sosyal olarak uygunsuz bulduğumuz faktörleri kullanıyor olabilir.
Yapay zekaların makine öğrenimi biçimindeki mevcut uygulaması, kara kutuya daha çok benzemektedir. Bu sistemleri incelemek ve kararların kendi içinde nasıl oluştuğunu anlamak genellikle zordur. İçsel cesaret ve akışlar her zaman gerçek dünya kavramlarına dönüşmez.
Bu sistemlerin çoğu çöplükte var. Bu, yanlış veri veya yetersiz veri le beslenirse, modellerin yanlış eğitimli ya da aşırı eğitimli olabileceği ve bu nedenle iyi kararlar vermede çok iyi olamayacağı anlamına gelir.
İnsanların yapacağı aynı sonuçlara yönelik eğitim, önyargıyı gerçekten çıkarmaz (asıl kararlar, orijinal kararların önyargı içermemesi gibi).
Şimdi subjektif karar alma için satılan yapay zeka teknolojisinde işe alım örneklerine bakalım:
Kişilik / beceriye dayalı değerlendirme:
Mevcut yüksek ve düşük performanslı çalışanlarınızı, yeni bir işe alımın doğru niteliklerini belirlemek için profilleyen bir ton değerlendirme sistemi vardır. Bu sistemlerin daha akıllı versiyonu, bir kişinin kişisel bilgilerini hesaba katmazken, dikkate alınan niteliklerin, daha fazla çatışık olan faktörlerle doğrudan ilişkili olmadığından nasıl emin olur? Aynı türden “yüksek performanslı” insanlardan mevcut miktarda sahip olsaydık, şirket performansının gerçekten iyileşeceğini biliyor muyuz?
İş eşleştirmesi için otomatik özgeçmiş taraması:
Özgeçmişlerin standart bir şablona sahip olmadıkları göz önüne alındığında, genellikle aday yeteneklerini ve niteliklerini temsil etmede yetersiz ve tutarsız olduğu için sık sık uğraşılır. Farklı cinsiyetlerin özgeçmişlerdeki becerileri hakkında nasıl konuştukları konusunda da bilinen tercihler vardır. Yine de özgeçmiş ayrıştırma teknolojisi, adayları puanlarken bu faktörleri genellikle hesaba katmaz.
Video değerlendirmesi:
Bir adayın “lütfen sözcüğünü” veya kaç kez gülümsediğini söylemesi gibi belirli nitelikler için otomatik olarak görüntülenen görüntülü görüşme araçları vardır. Ayrıca, işe alım yöneticilerine, görüşme için birisini davet etmeden önce videoları görüntüleyebilmelerini sağlar. Bunun, cinsiyet veya ırk için bilinçsiz taramaya yol açmamasını nasıl sağlarız?
Önyargı sürdürme zorluğunu çözmek için Yapay Zekayı nasıl doğru uygulayabiliriz?
Makine öğrenme sistemleri, giriş ve eğitim verilerine duyarlı olan algoritmalara sahiptir. Bu nedenle, girdi verilerinin gerçekten uygun olmasını ve önyargıya neden olan faktörlerden (örn. Kişisel kimlik bilgileri ve cinsiyet, ırk, isim, askeri durum vb.) arındırılmış olduğuna dikkat edilmelidir.
Bir sistemi satın almadan ve dağıtmadan önce aşağıdakileri göz önünde bulundurun:
Sistemin girdi parametrelerinin sonuçlarla nasıl ilişkili olduğunu paylaşabildiğinden emin olun (ör. Korelasyon güçlüleri).
Eğitim setinden ayrı bir kontrol veri seti bulundurun. Bir algoritma, değişiklikler veya kendini geliştirme sürecinden geçtiğinde, kontrol seti için sonuçların nasıl değiştiğine ve net pozitif olup olmadığına dair görünürlük sağlamalıdır.
Sistemin, herhangi bir korelasyona dayanarak çıktı üretmediğinden emin olun. Korelasyonların önemi olan kalıpları ve mantıksal bir açıklama (nedensellik) olup olmadığını anlayın. Ayrıca, insan sonuçlarının makineden farklı olup olmadığını inceleyin ve farklılıklardan öğrenin. Özünde, korelasyonlardan ayrı nedensellik.
Sistemin bilinçli önyargıyı aktif olarak teşvik ettiğini ve sadece önemli olan faktörleri kullandığını gösterin.
Sistem dağıtım için yapılandırıldıktan sonra, geleneksel önyargıyı temsil eden veri noktalarına sahip bir test veri seti oluşturun .
Algoritmayı bu sete karşı test edin ve sonucun beklenenden farklı olduğunu gözlemleyin.
İnsan işe alımcıların bağımsız olarak adım atmaları halinde, kontrol için bu sonuçların ne olacağını karşılaştırınız. Bu, sistemi daha iyi eğitebilir ve ayrıca insan işe alımcıların kendi önyargılarını ortaya çıkarmasına yardımcı olabilir!
Bilinmeyen için odadan çıkın ve harici giriş için süreçler oluşturun.
İnsanların şikayetlere ekleyebileceği bir süreç oluşturun.
Son olarak, önyargıyı eleme zaman alacaktır; Toplumumuzun ortaya çıkması ve öğrenmesini sağlamak için ilerlediği bir evrim var. Bir sistem, tıpkı bir insan gibi, ne bilmediğini bilmez, bu yüzden her zaman eğitim verisi olarak girebilecek geri bildirim için yer olmalıdır.
Test seti, sistemin başa çıkamayacağı benzersiz karmaşık durumlarla büyümelidir. Algoritma dahilinde olmayan bir veri noktası her göründüğünde, bunu kontrol etmek için kontrol kümesine eklemeliyiz.
İnsanları, önyargıları ortaya çıkarmak ve azaltmak için nasıl eğittiğimiz gibi, yapay zeka sistemleri de, kaliteli ve yerinde olmayan eğitim verileri sağlayarak yapay zeka önyargı sorununu çözmek için gerekli görünürlük ve kontrolü sağlayacak şekilde oluşturulmalıdır.
