Son dönemde yapay zekaya dair yapılan uyarılar bir kıyamet senaryosuna ilişkin endişeleri tetikledi. Ancak uzmanlar bazı toplulukların sağlık hizmetlerinden mahrum bırakılmalarına, konut krizi yaşamasına veya cezai hükümlerin otomatikleştirilmesi gibi yapay zekaya dair korkulardan zaten zarar gördüğünü söylüyor.
Öne çıkanlar
• Algorithmic Justice League’in kurucusu Joy Buolamwini, yapay zeka risklerinin “varoluşsal tehditler” etrafında merkezileştirilmesinin doğası gereği elitist olduğunu ve odağı daha yoksul topluluklara halihazırda verilen zararlardan uzaklaştırdığını savunuyor.
• Buolamwini’nin araştırmaları, kendi deyimiyle “kodlanmış bakış” olarak adlandırdığı konuya odaklanıyor. Artık kanıtlanmış olan bu yaklaşım, bir sistemin yaratıcılarının önyargılarının ve tercihlerinin doğrudan yazılıma kodlandığı fikrine dayanıyor. Yapay zekayı eğitmek için kullanılan veri kümeleri tarihsel olarak beyaz erkeklere doğru bir eğilim gösterdiğinden, günümüzde modellerin kendisi de aynı önyargıları taşıyor.
• Gender Shades adlı bir araştırma, yüz tanıma araçlarının açık tenli erkeklerde yüzde 1’in altında hata oranlarına sahip olduğunu ancak koyu tenli kadınlarda bu oranın yüzde 35 ila yüzde 47’ye kadar çıktığını ortaya koydu. Bu teknik hatalar, ABD genelinde siyah erkeklerin haksız yere tutuklanmasına yol açtı.
• Mülk yönetim şirketlerinin potansiyel kiracıları değerlendirmek için kullandığı algoritmaların, nitelikli düşük gelirli başvuru sahiplerini herhangi bir açıklama veya itiraz imkanı sunmadan reddettiği tespit edildi.
• Kiracı taraması yapan şirketlerden SafeRent Solutions, 400’den fazla davacının algoritmasının siyah ve Hispanik başvuru sahiplerine ve devlet destekli konut kuponlarını kullanan kiracılara orantısız biçimde daha düşük puan verdiğini iddia etmesinin ardından açılan bir davayı 2,3 milyon dolar ödeyerek sonuçlandırmak zorunda kaldı.
• Science dergisinde yayımlanan bir araştırma, ticari bir sağlık hizmetleri algoritmasının, geçmiş sağlık harcamalarını sağlık hizmeti ihtiyacının göstergesi olarak kullanması nedeniyle, aynı derecede hasta olan siyah hastalar yerine beyaz hastalara ek tıbbi bakım verilmesine öncelik verdiğini ortaya koydu. Sistemik eşitsizlikler nedeniyle tarihsel olarak siyah hastalara daha az para harcandığından, sistem siyah hastaların “daha sağlıklı” olduğu sonucuna vardı.
• Algoritmik önyargı; otomatik iş taraması ve işe alım süreçlerinde, polislik uygulamalarında ve çocuk refahı alanındaki risk değerlendirmelerinde de tespit edildi.
Arka plan
Önde gelen yapay zeka şirketlerinin CEO’ları, sektör içerisinden gelen bir dizi ciddi uyarının ardından, güvenlik ve hukuk yetkililerinin gelişmelere yetişebilmesine olanak tanımak için öncü modellerin geliştirilmesine ara verilmesi çağrısında bulunuyor. Anthropic’ten Evan Hubinger geçen hafta, gelecek 10 yıl içinde yapay zeka nedeniyle insanlığın yok olma ihtimalinin yüzde 10’dan fazla olduğunu düşündüğünü söyledi. Eski Anthropic ve OpenAI araştırmacısı Jacob Coxon ise bu araçları geliştiren kişilerin “2030'a kadar hepimizi öldürebileceğine içtenlikle inandığını” söyledi. Sektördeki birkaç başka çalışan da benzer uyarılarda bulundu. Önde gelen yapay zeka şirketlerinde çalışan 1.300’den fazla kişi Pacing the Frontier adlı girişime imza attı. Girişimin amacı geliştiricilerin anlayışının, kendi kendini geliştirme yolunda ilerleyen yazılımların hızına yetişmesine olanak tanımak.