Haziran 2020'de IBM, Amazon ve Microsoft ırk ve cinsiyet önyargısını güçlendireceği endişesiyle yüz tanıma yazılımlarında geri adım attıklarını duyurdu. ABD'de insan hakları ihlallerini engelleyebilecek yeni yasalar kabul edilmeden Amazon ve Microsoft, polise yüz tanıma yazılımı satmayacaklarını söyledi. IBM, teknolojinin kötüye kullanımına dikkat çeken açıklamalar yaptı, gözden geçirilmesine yönelik çağrıda bulundu.

Yüz tanıma sistemleri, belirli yüz özelliklerinin geometrisini kullanarak insanların "yüz izlerini" oluşturur. Bunu yaparken model çok sayıda görüntü kullanılarak eğitilir. Yüz izleri, bir yüzü cinsiyet, yaş veya ırk gibi kategorilere ayırmak ve veri tabanlarında depolanan diğer yüz izleriyle karşılaştırmak için kullanılır.

ABD Ulusal Standartlar ve Teknoloji Enstitüsü'nün (NIST) 2018 raporuna göre, 2014 ile 2018 yılları arasında yüz tanıma sistemleri, 12 milyon portre fotoğraftan oluşan bir veri tabanında, eşleşme bulmada 20 kat daha iyi hale geldi. Ancak Aralık 2019'da NIST tarafından yayınlanan ayrı bir çalışma, Afrikalı-Amerikalı ve Asyalı yüzlerin Kafkasyalı erkeklerden 10 ila 100 kat daha sık yanlış tanımlandığını belirtti. Yüz tanıma sistemler ayrıca eğitildikleri veri setlerinin yanlılığı sebebiyle kadınları tespit etmekte de zorlanıyor.

Google Etik Yapay Zeka Takımı eski eş başkanı Timnit Gebru ve Buolamwini, erkek ve açık tenli deneklerin kadın ve koyu tenli deneklere göre daha doğru sınıflandırıldığı buldu. Çalışma, bu tür hataların büyük ölçüde, sistemlerin çoğunlukla beyaz, erkek egemen veri kümeleri kullanılarak eğitilmesinden kaynaklandığını belirtiyor. Yaygın olarak kullanılan veri kümelerinin erkek ve beyaz egemen olduğu biliniyor.

Yüz tanıma söz konusu olduğunda, özellikle marjinal topluluklar için yüksek riskli sonuçlar doğuyor. Yüz tanımanın azınlık gruplarını nasıl etkileyebileceği ile ilgili olan rahatsızlıklar, kullanımın yaygınlaşmasıyla artacağa benziyor.

New York Polis Departmanı (NYPD) gözetim ve olay yeri fotoğraflarını kimliği belirsiz suçluların yüzlerini izleme listelerindekilerle eşleştirmek için 2011'den beri yüz tanıma teknolojisini kullanıyor. Algoritmaların yanlı olduğu bilindiği halde bu sistemlerin kullanılması, yapay zeka etiğinin üzerine daha çok düşülmesi gerektiğini gösteriyor.

İnsanlar genellikle polis tarafından ceza soruşturmalarında yüz tanıma sisteminin kullanılmasını desteklerken, kamusal alanlarda, okullarda ve iş yerlerinde canlı gözetim altında olmaktan mutlu değiller. Meseleyi sadece gözetim olarak görmeyi bırakıp algoritmaların vereceği yanlış kararların sonuçlarına odaklanmak gerektiği apaçık ortada.

Tüm bu endişelere rağmen, yüz tanıma yazılımlarının kullanımı ülkelerde giderek artıyor. Şu anda Çin'de yaygın kullanılan sistem, Hindistan'da da hızla artıyor.

2019 yılında, Avustralya hükümeti, yüz görüntülerinin ve diğer kimlik bilgilerinin devlet kurumları ve bazı durumlarda özel kuruluşlar arasında paylaşılmasına yönelik tesisler oluşturulması ve sürdürülmesine dair yetkiyi verdi.

Belgrad Cumhuriyet Meydanı, Sırbistan hükümetinin geçen yıl Huawei'den satın aldığı yüz tanıma yazılımı ile donatılmış kameraları kullanarak izleyeceğini söylediği şehirlerdeki 800 noktadan biri…

Hükümet, tam da beklenildiği gibi vatandaşlarına kameraları isteyip istemediklerini bile sormadı.
 

Nehir Günce Daşcı

[email protected]

İletişim: https://www.linkedin.com/in/nehir-gunce-dasci/