Verilerden gelen ön yargılar

Suriyeli bir taksi sürücüsünün oğlu olarak İngiltere’de doğup sonra da yapay zekanın temellerini atmış Deepmind şirketinin kurucusu olan Mustafa Süleyman, Yaklaşan Dalga (Coming Wave) kitabında şu cümleyi kullanıyor: Toxic bias was, it seemed, ingrained in human writing and then amplified by AI. (Görünüşe göre toksik ön yargı, insan yazınına kök salmış daha sonrasında yapay zekayla daha da güçlenmişti.)

Bu cümle, YZ sistemlerinin eğitildikleri veri setlerindeki ön yargıları öğrenip bu ön yargıları karar alma süreçlerine yansıtabileceğini ve böylece mevcut toplumsal ön yargıları pekiştirebileceğini ifade ediyor. Süleyman aslında burada ön yargıyı ‘toksik’ yani zehirli olarak tarif ediyor.

Ben de bu yazıda yapay zekayı doğuran ‘veri’ kavramının aslında nasıl ön yargılarımızı da var edebileceğini anlatmaya çalışacağım. Ancak ön yargılarımızdan kurtulmanın da çaresinin yine verilerde saklı olduğunu en baştan söylemeden lafımıza devam etmeyelim.

Toplumsal ön yargıların tanımına baktığımızda genel olarak bireylerin veya grupların başka bireyler veya gruplar hakkında yeterli bilgiye sahip olmadan düşünce ve varsayımlar oluşturması şeklinde bir tarif görüyoruz. Ön yargı olumsuz bir kelime ama bir grup insan hakkında tümden iyimser bir ifade ortaya koymak da hayli ön yargı aslında. Örneğin, tüm Bolu doğumlu erkeklerin iyi yemek yaptığını düşünmek de çok anlamsız bir ön yargıdır nihayetinde.

Ön yargıları besleyen yetersiz bilgi olarak düşünülüyor ama yine karşılaştığımız veriler ön yargımızı oluşturuyor. Mesela, eğer 28 Mayıs 2023 tarihli Cumhurbaşkanlığı seçimi ikinci tur oylamasında Bayburt ilinde Cumhurbaşkanı Erdoğan’ın aldığı oyun yüzde 82 olduğunu biliyorsanız, sizinle iş görüşmesine gelen Bayburtlu birinin de Erdoğan sevdalısı olduğundan emin olabilirsiniz. Ancak basit bir hesap yaparsanız 58 bin seçmenli Bayburt’ta Erdoğan’a oy vermemiş 20 bin kişinin yaşadığını da anlamak, karşınızdaki insanı değerlendirmeden önce idrak etmeniz gereken bir bilgi olmalıdır.

Dolayısıyla ön yargılar sadece az bilmekten değil çok bilmişlikten de ortaya çıkabiliyor.

Dev veri setleri içinde güçlü işlemcilerin akıl almaz tekrarlar yaparak öğrenim yapmasıyla var olabilmiş yapay zeka sistemleri de bazen karşımıza çok bilmiş bir karakter olarak çıkabiliyor. Yazının başında referans verdiğim Mustafa Süleyman, Coming Wave kitabında insanlığa yapay zeka ile ilgili temelde bu uyarıyı yapıyor.

Haddim olmayarak ben de bu konuya toplumsal araştırmaları sunarken insanların ön yargılarıyla sıkça karşılaşan birisi olarak katkı sağlamak istiyorum.  

Yapay zeka her geçen gün daha becerikli oluyor, kendisiyle ilgili bir çok açığı kapatılıyor ve hataları azalıyor. Ancak halen kullandığı en önemli yakıt ‘data’ faydalandığı doğa olayı da ‘olasılık.’ Bu noktada unutmayalım ki insanlığın vazgeçmediği en büyük gayreti olasılıkları yenmek ve "Ya tutarsa!" demek. Hayatlarımızı ne kadar veriye dayalı rasyonel hale getirsek de hepimiz olasılıklar dışı hayalleri kurmaya devam edeceğiz.

Bankalar artık kredi değerlendirmelerini büyük ölçüde yapay zeka araçlarıyla yapıp batık kredi ihtimallerini en aza düşürmeye başladılar. Ancak halen bankaların olaslılık hesaplarını yerle bir eden sıra dışı yatırım hikayeleriyle de karşılaşmak mümkün günümüzde.

ChatGPT adlı yakın dostuma son zamanlarda ilk önce bir personaya bürünüp sonra cevap vermesini istiyorum. Kendisine cevaplarını hangi kaynağa dayandırdığını sorduğumda ise çok uzun ve genel bir cevap verip özetini de şu cümleyle yapıyor: Bu süreç, hem mantıksal hem de yaratıcı bir sentez içerir. Hedefim, tarif edilen persona için otantik ve kullanıcıya yardımcı bir yanıt sunmaktır.

ChatGPT bundan bir yıl öncesine göre bile çok daha az ön yargılı. En azından yüksek olasılıklı cevapları önünüze getirirken tersini olabileceği konusunda uyarı yapıyor. Dindar ve yaşlı bir kadının örtülü olma ihtimalini öne çıkartırken "Tabii bu durum kişilere göre değişir" demeyi ihmal etmiyor. Veya kırsal bölgelerde yaşayanların eğitimlerinin daha düşük olacağını belirtirken istisnaların olabileceğini hatırlatıyor.

Zira 60 yaş üstü olup da kendini dindar olarak tarif eden kadınların yüzde 20’si başını örtmüyor. Ayrıca köylerde yaşayan vatandaşlarımızın da yüzde 15’i üniversite mezunu.

Yapay zeka başka toplumsal ön yargılara dair de temkinli davranabiliyor; Metropolde doğup büyümüş birisinin akşam yemeğini nerede yiyeceğini sorduğunuzda büyük olasılıkla ‘yemek masası’ cevabını veriyor ama ayrıcalıklı durumlar olabileceğini de ihmal etmemek gerektiğini belirtiyor. Konda verilerine baktığımızda da bu profile uygun insanların bile yüzde 12’si yer sofrasında akşam yemeğini yediğini görüyoruz.

Etnik kimlikle ilgili sorular sorduğumuzda ise artık tüm yapay zeka araçları son derece temkinli. Ser verip sır vermiyor. Ne gelirlerine ne de eğitimine dair bir Kürt vatandaş personasıyla ilgili akıl yürütmekten imtina ediyor, hep yuvarlak cevaplar veriyor. Halbuki Kürtlerin eğitim seviyesi de gelirleri de Türkiye ortalamasına göre daha düşük.

Oysa aynı yapay zekaya bu konularda toplumda ne tür ön yargıların hakim olduğunu sorduğumuzda, dindarların tutucu olduğu yönünde yaygın bir kanı, kırsal kesimde yaşayanların yeterli eğitim almadığına dair bir inanış, Kürtlerin ayrılıkçı emeller beslediği düşüncesi ve şehirli kesimin aşırı modern olduğu yönünde bir algı olduğunu belirtiyor. Görünen o ki yapay zeka, toplumun ön yargılarına son derece vakıf ve bu ön yargılardan kendini sakınmaya çalışıyor. Başka bir ifadeyle gelişmekte olan yapay zeka adeta hepimize şu mesajı veriyor: Siz ön yargılısınız ancak ben bu konuda kendimi geliştiriyor ve daha medeni bir yaklaşım sergilemeye gayret ediyorum.