Verilerden gelen ön yargılar

Suriyeli bir taksi sürücüsünün oğlu olarak İngiltere’de doğup sonra da yapay zekanın temellerini atmış Deepmind şirketinin kurucusu olan Mustafa Süleyman, Yaklaşan Dalga (Coming Wave) kitabında şu cümleyi kullanıyor: Toxic bias was, it seemed, ingrained in human writing and then amplified by AI. (Görünüşe göre toksik ön yargı, insan yazınına kök salmış daha sonrasında yapay zekayla daha da güçlenmişti.)

Bu cümle, YZ sistemlerinin eğitildikleri veri setlerindeki ön yargıları öğrenip bu ön yargıları karar alma süreçlerine yansıtabileceğini ve böylece mevcut toplumsal ön yargıları pekiştirebileceğini ifade ediyor. Süleyman aslında burada ön yargıyı ‘toksik’ yani zehirli olarak tarif ediyor.