Dev şirketin yapay zekası `cinsiyetçi` çıktı!

ABD’li e-ticaret devi Amazon’un işe alımlarında kullanılmak için geliştirdiği yapay zeka programının, ayrımcılık yaptığı gerekçesiyle sessiz sedasız iptal edildiği ortaya çıktı.

Reuters’ın haberine göre Amazon, şirket bünyesindeki işe alımları otomatik hale getirmenin bir yolunu bulmak için 2014 yılında İskoçya’nın Edinburgh kentinde bir mühendislik ekibi kurdu.

Ekibin bu iş için geliştirdiği yapay zeka destekli bilgisayar programının kadınlara karşı önyargılı davrandığı ortaya çıkınca, Amazon bu girişimini 2017 yılında rafa kaldırdı.

İskoçya’daki ekibin geliştirdiği program, şirketin mevcut ve eski çalışanları ile geçmişte iş başvurusu yapmış olan adayların özgeçmişlerini inceleyip, 50 bin anahtar kelimeyi tarayan, 500 farklı işe alım modeli sunuyordu. Bir arama motoru gibi çalışan bu program, en iyi adayların özgeçmişlerini (CV) insan kaynakları birimindeki yöneticilerin karşısına çıkarıyordu.

Ancak bu sistem bir yıl çalıştıktan sonra ekipteki mühendisler, bir şeylerin ters gittiğini fark etti: Yapay zeka temelli bu arama motoru, kadın adayları görmezden geliyordu.

Buna sebep olan ise programın kullandığı Amazon’un 10 yıllık geçmişindeki işe alımlarla ilgili veri tabanında (ve teknoloji sektörünün genelinde) erkeklerin hakimiyetinin bulunmasıydı.

DÜZELTTİLER AMA GÜVENEMEDİLER

Erkeklerin daha çok tercih edildiği sonucuna varan yapay zeka, işe alım için geliştirilen arama motorunda “kadın” kelimesini filtreleyerek, adayların CV’lerini sunuyordu.

Sorunu fark eden Amazon’daki mühendis ekibi, buna benzer önyargı biçimlerini düzeltmek için yapay zeka programını elden geçirdi. Ancak habere göre yapay zekanın adaylara karşı haksız bir şekilde ayrımcılık yapmak için yeni yollar bulabileceğinden endişe duyan şirket, bu programdan vazgeçti.

TEKNOLOJİ DEVLERİNİN KARNESİ OLDUKÇA ZAYIF

Aslında kadın çalışan oranında diğer büyük teknoloji şirketlerinin karnesi Amazon'dan daha kötü durumda. Amazon'un toplam çalışanlarının yüzde 40'ı kadınken; bu oran Facebook'ta yüzde 36, Apple'da yüzde 32, Google'da yüzde 31 ve Microsoft'ta ise yüzde 26 seviyesinde.