Twitter algoritması ırkçı ve cinsiyetçi seçimler mi yapıyor?

Geçtiğimiz yıl, ırkçı fotoğraf kırpma algoritmasıyla gündeme gelen Twitter, hala algoritmasının önyargılarını giderememiş görünüyor. Beyaz yüzleri öne çıkarmayı tercih eden algoritmanın ayrıca daha genç ve feminen yüzlere odaklandığı ortaya çıktı.

Twitter geçtiğimiz sene fotoğraf kırpma algoritmasının kullanıcılar tarafından yapılan araştırmalar sonucunda taraflı davrandığı ve daha açık tenli yüzleri tercih ettiğini fark etmişti. Bu skandalın ardından kullanıcılardan özür dileyen firma, algoritmayı devre dışı bırakarak herkesin kendi fotoğraflarını manuel olarak kırpmasına olanak tanımıştı. Geçtiğimiz günlerde ise sorunu daha yakından incelemek ve başka problemler olup olmadığını görmek isteyen Twitter, bir hata bulma yarışması başlatarak kullanıcılardan sorunları tespit etmelerini istedi.

Yarışma sonucunda daha önceki iddialar doğrulandı ve algoritmanın taraflı seçimler yaptığı ortaya çıktı. Yarışmanın kazananı Bogan Kulynych, algoritmanın yüzde 37 oranınla daha açık cilt tonu olan yüzleri tercih ettiğini tespit etti. İkinci ve üçüncü olan yarışmacılar ise algoritmanın ayrıca yaş ayrımı yaparak beyaz ve gri saçlı kişilere önyargılı davrandığını ve yüzde 18 oranla genç görünen yüzleri tercih ettiğini keşfetti. Ayrıca, Arapça yerine İngilizce’yi öne çıkaran uygulama yüzde 25 oranla daha feminen yüzleri ön plana çıkarıyor.

Twitter’ın META ekibinin yöneticisi Rumman Chowdhury, DEF CON 29 konferansında verdiği demeçte, “Modellerimizdeki önyargılar hakkında düşündüğümüzde, bu sadece akademik ya da deneysel değil aynı zamanda toplumsal düşüncelerimizle de alakalı. Bu filtreleri yaratıyoruz çünkü güzel olanın bu olduğunu düşünüyoruz. Bu da modellerimizi eğitmek ve çekici olmanın ne anlama geldiğine dair gerçekçi olmayan fikirleri yönlendirmekle sonuçlanıyor,” dedi.

Algoritmanın her yönüyle incelenmediğini söylemekte fayda var. Kulynych, testler sırasında yapay zeka tarafından yaratılan yüzler kullanmıştı ve şu an yalnızca onun çalışmasından yola çıkarak tam bir sonuca varmak mümkün değil. Ayrıca, fotoğraflarda farklı arka planların bulunmasının da yanıltıcı sonuçlar verip vermeyeceği de bilinmiyor.

Kulynych’in çalışmasını buradan inceleyebilirsiniz.