Yapay zeka bile kadınlara önyargılı

Amazon’un, işe alımların otomasyonu için dört yıldır üzerinde çalıştığı yapay zekâ destekli bilgisayar programını, kadınlara önyargılı davrandığı ortaya çıktığı için iptal ettiği öğrenildi.

Reuters’in haberine göre, e-ticaret’in yanı sıra, yapay zekâ destekli akıllı asistanı Alexa ve Echo başta olmak üzere Amazon Prime, Fire TV ve Dash gibi yenilikçi ürünleriyle de bilinen Amazon’un bilgisayar programları geliştiren ekibi (AMZN.O), 2014’ten itibaren iş başvurularını değerlendirecek, aranan özelliklere sahip çalışanları bulabilmek üzere “kafa avcılığı” yapacak özel bir program üzerinde çalışmaya başladı. Söz konusu işe alım programı, adaylara 1 ile 5 arasında değişen puanlar vererek değerlendirme yapıyordu. Ancak 2015 yılında yazılımcılar, programın puanlama yaparken kadınlarla erkeklere eşit davranmadığını fark etti. Zira program değerlendirmesini, son 10 yıl içinde Amazon’a yapılan işbaşvuruları, bu başvurular için verilen cv’ler üzerinden yapıyordu ve yapılan başvuruların çoğu teknoloji sektöründeki erkek egemenliğini yansıtacak şekilde, erkeklere aitti.

Sonuçta, Amazon’ın geliştridiği yapay zekâ destekli program da kendine, erkek adayların daha tercih edilir olduğunu öğretti. Örneğin “kadın satranç takımı kaptanı” gibi bir ifade içinde yer alan “kadınların” kelimesiyle karşılaştığında adayın puanını kırdı. Reuters’e bilgi veren kaynaklar, programın sadece kadınların okuduğu iki kolejin mezunlarının hepsinin puanlarını kırdığını aktardı. Amazon bunun üzerine, programın toplumsal cinsiyet eşitliğini dikkate alacak şekilde düzeltilmesiyle sonuç alabileceğinden emin olamamış ve nihayetinde geçen yıl tamamen iptal etmiş.

ABD’deki insan kaynakları yöneticilerinin yüzde 55’i önümüzdeki 5 yıl içinde işe alımlarda yapay zekâ destekli programlardan yararlanmayı umuyor. Ancak uzmanlar algoritmalara, adil ve eşitlikçi olmayı öğretmek için uzun yıllar gerekeceğini söylüyor.

Kaynak: Medyascope

İlginizi çekebilir