Yapay zekanın cinsiyetçiliği

Yapay zekanın cinsiyetçiliği: Kadın elinden çıkan algoritmalar kadınlara karşı ayrımcılık yapıyor

İngiltere / 6 Kasım 1946
İngiltere / 6 Kasım 1946   –   ©  Eddie Worth/1946 AP

İlk bilgisayar algoritmasını, 19’uncu yüzyılda yazan kişinin bir kadın olmasına rağmen, yapay zeka bile kadınlara karşı cinsiyet ayrımı yapabiliyor.

“İki yüzyıl geçmesine rağmen algoritmalar bizi geriye doğru itme özelliğine sahip” diyor University College Dublin’den araştırmacı Susan Levy. İrlanda merkezli üniversite, yapay zeka algoritmalarında cinsiyetçiliği engellemeye çalışan bir proje yürütüyor.

Levy’e göre algoritmalar, “toksik masküliniteyi körükleyip, toplumun yıllardır verdiği mücadeleyi baltalayabilecek boyutta” olabiliyor.

Yapay zeka, toplanan veriler sayesinde işlevsel hale gelebiliyor ancak bu veriler de önyargılı veya ayrımcı bir tarafı olduğu düşünüldüğünde, teknolojinin de cinsiyet ayrımı yapması kaçınılmaz.

Bilgisayarlar veya işletim sistemi ile çalışan aygıtlarda toplanan verilerin geçmişi ancak 10-20 yıla dayanıyor ki bu da kasıtsızca önyargılı sonuçlar doğurabiliyor. Cinsiyet eşitliğinden elde edilen kazanımların bu verilere yansıtılmaması durumunda da yapay zekada kullanılan dil ve anlatım biçimleri aslında geçerliliğini yitirmiş toplumsal cinsiyet kalıplarının sürdürülmesine aracı oluyor.

Örnek verecek olursak, yapay zekanın çoğu, nispeten yeni sayılan #Metoo hareketi ile veya Şilili feminist hareketi Las Tesis’in marşları ile henüz tanışmış değil. Dolayısıyla yapay zeka veri bazlı olduğundan ve bu verilerin belirli bir süreye dayanmasından dolayı, günümüze göre aslında geriden geliyor.

Programlamada ortaya çıkan cinsiyetçi dil, iş aramaktan havaalanlarındaki güvenlik kontrollerine kadar gündelik hayatı tümüyle etkileyebiliyor.

Programlamanın öncüleri kadınlar

1815-1852 yılları arasında yaşayan Ada Lovelace, bilgisayarlar icat edilmeden yüzyıl önce, ilk programcı olarak adını tarihe yazdırmıştı.

İngiliz matematikçi, bilim insanı eşi Charles Babbage’in geliştirdiği bilgisayar tarzı bir makine için algoritma yazmıştı.

Programlamanın öncü isimlerinin çoğunu kadınlar oluşturuyor. Kadınlar ince ayrıntılara dikkat edilmesi gereken işlerde daha başarılı görülüyor. İkinci Dünya Savaşı sırasında Amerikan ordusunun yürüttüğü gizli bir proje kapsamında, ilk bilgisayarların programlamasını yapan 6 kadındı ancak proje 1946 yılında kamuya duyurulduğunda isimleri gizli tutuldu.

AP/Ahmad Seir
Afganistan’da kodlama yapan kadınlar / ArşivAP/Ahmad Seir

Bilim ve teknolojide erkek egemenliği

1980’lere gelindiğinde ise programlama sektöründe hakimiyet erkeklere geçti. Avrupa İstatistik Ofisi Eurostat’ın verilerine göre, günümüzde bile Avrupalı bilim insanlarının ve mühendislerin yüzde 59’u erkek.

Bu eşitsizlik farkında olmadan ve istemsizce algoritma diline de yerleşti.

“Cinsiyet eşitsizliği büyük bir sorun, özellikle de yapay zekanın öğrenme sürecinde” diyor Levy: “Bu, eleştirel bakış açısından yoksunuz anlamına geliyor”.

Peki erkek programcıların sektöre taşıdığı ayrımcılığı belirleyip ortadan kaldırmak mümkün mü? Levy’e göre konunun uzmanları cinsiyet ve ırk ayrımcılığı yapan algoritma yazma hevesinde değil zaten. Ancak ‘niyet’ sorunları çözmüyor. Levy, önyargının yapay zekaya sızmasını engelleyebilmek için programlama yapan ekiplerin tüm kesimleri kapsamasının önemine vurgu yapıyor.

Levy ayrıca teknoloji şirketlerine, ürünlerini kadınlar tarafından da test edilmesini öneriyor.

Algoritmalar nasıl ayrımcılık yapıyor?

New York’taki AI Now Enstitüsü’nden Joy Lisi Rankin, yapay zeka ve algoritmik teknolojilerin gündelik hayatımızı her yönden şekillendirdiğini söylüyor.

Cinsiyet, ırk ve yapay zekanın gücü üzerine araştırmalar yapan Rankin, “Bu etkinin farkında değiliz çünkü teknoloji gözle görülür bir şey değil ve nasıl çalıştığı da çok net değil” diyor, “algoritma sistemleri kimin önemli kaynaklara erişimi olup olmadığını da belirliyor” diye de ekliyor.

Amazon’un istihdam sistemini otomasyonlaştırma girişimi, yapay zeka bağlantılı cinsiyet ayrımcılığının en bilindik örneği oldu.

ABD merkezli dev firma, ‘cinsiyetçi’ sonuçlar doğurduğu için dört yıl boyunca işe alımlarda kullanılan sistemden 2018 yılında vazgeçmişti.

Amazon’un kullandığı sistemde, veri toplayıp model geliştirme amacıyla geçmişe dönük 10 yıllık öz geçmişler (CV) referans alınmış, sektörde erkeklerin egemen olmasından dolayı yapay zeka, erkek personelin daha tercih edilir yargısına varıp, cinsiyetçi kararlara sebep olmuştu.

Levy’e göre öz geçmiş seçimi en problemli alanlardan biri: “Algoritmalara cinsiyeti dikkate alma komutu verilse bile, başka yollarla bir şekilde ortaya çıkıyor”.

Amazon’un sorunlu algoritmasının, kadın cinsiyetiyle ilişkili kelimelerin yer aldığı öz geçmişleri elediği ortaya çıkmıştı.

Ayrımcılık cinsiyetle sınırlı değil

Yapay zekada ayrımcılık sadece cinsiyetle de sınırlı değil. Bu tür algoritmalar her türlü çeşitliliği deyim yerindeyse cezalandırıp, topluma daha imtiyazlı olarak sunulan “beyaz erkek” grubundan yana tercihler yapabiliyor.

Yüz tanıma sistemleri de sorunlu görülen alanlar arasında. Levy’e göre koyu renkli tende bir kadınsanız, işiniz çok daha zor

Cinsiyetçi algoritmanın kadınlar üzerindeki etkilerini sosyal medya ve arama motorlarında da görmek mümkün.

Kişiye göre ayarlanmış reklamlarda bile karşımıza çıkan ilanlar aslında cinsiyet ve ırk ayrımının birer ürünü. Rankin, buna örnek olarak sosyal medyayı gösteriyor: “Facebook’ta beyaz erkeklerin karşısına geliri daha yüksek iş ilanları çıkarken, kadın veya beyaz ırktan olmayanlar içinse daha az ücretli iş ilanları gösteriliyor. ‘Siyahı kadın’ veya ‘Latin Amerika kökenli’ kelimeleriyle arama yapıldığında cinsiyetçi ve pornografik sonuçlarla karşılaşmanız kuvvetle muhtemel.”

Kaynak: Euronews

İlginizi çekebilir