Twitter, fotoğraf algoritmasının bazen beyaz yüzleri siyah yüzlere tercih ettiğinin kullanıcılar tarafından ortaya çıkartılmasının ardından, konunun araştırıldığını açıkladı.
Kullanıcılar, bir paylaşımda iki fotoğraf olduğunda, Twitter’ın cep telefonu uygulamalarında, sıklıkla beyaz yüzün gösterildiğini fark etti.
Twitter, algoritmanın geliştirilmesi aşamasında ırk ve cinsiyet taraflılığı testleri yapıldığını belirtti.
Ancak şirket “Daha çok analiz yapılması gerektiği de net” dedi.
Twitter’ın baş teknoloji yetkilisi Parag Agrawal da paylaşımında “Modelimiz üzerinde analizlerimizi yaptık ve kullanıma soktuk ama sürekli gelişmeye ihtiyacı var. Bu kamuya açık ve zorlu testleri seviyoruz ve bundan ders almaya niyetliyiz” dedi.
Son tartışma, Kanada’nın Vancovuer kentindeki üniversite yöneticisi Colin Madland’ın, video konferans uygulaması Zoom’da, bir iş arkadaşının başının ortadan kaybolması sorununu çözmeye çalışmasıyla başladı.
Yazılım, siyah iş arkadaşının başını yanlışlıkla geri plan olarak algılayıp, yok etmişti.
Madland, bu konu hakkında Twitter’da paylaşım yapınca, Twitter’ın mobil uygulamasındaki ön izlemede, siyah arkadaşının değil, kendi resminin gösterildiğini farketti. Madland, resimlerin sıralamasını değiştirse de, durum aynıydı.
Madland’in keşfi sonrası, diğer kullanıcılar da denemelerde bulunduğu ve şu sonuçlar ortaya çıktı.
Twitter’ın Baş Tasarım Yetkilisi, Dantley Davis, ten rengiyle kontrastı nedeniyle, Madland’in sakalını ve gözlüğünü çıkartmanın sorunu giderdiğini söyledi. .
Eleştirilere yanıt veren Dantley “Burada suçu benim üzerime atmak eğlenceli, biliyorum, ama bundan ben de herkes kadar rahatsızım. Ancak, bunu düzeltebilecek bir konumdayım ve düzelteceyim. Bu yüzde yüz bizim hatamız. Kimse tersini söylememeli” dedi.
Geçen yıl ABD hükümetinin yaptığı bir araştırmada, yüz tanıma algoritmalarının, siyah ve Asyalıların yüzlerini tanımada, beyazlara kıyasla çok daha başarısız olduğu sonucuna varılmıştı.
Geçen yıl da İngiltere’deki polis memurları, algoritmaların önyargıları “büyüttüğünü” söylemiş ve teknolojinin kullanımı için net bir talimatname hazırlanmasını istemişlerdi.
Son olarak da geçtiğimiz aylarda, IBM benzer kaygılarla, yüz tanıma yazılımı üretmeyeceğini açıklamıştı.
