Anthropic'in kurucu ortağı Chris Olah Vatikan'da yaptığı konuşmada, yapay zekanın yol açacağı kitlesel iş kayıplarının “gerçek bir olasılık” olduğunu ve işini kaybeden çalışanlara destek olmanın “tarihi boyutlarda bir ahlaki zorunluluk” olacağını söyledi. Milyarder Olah bu uyarıyı, Katolik Kilisesi'nin yapay zeka konusundaki ilk kapsamlı bildirisinin duyurusunda Papa 14. Leo'nun yanında dile getirdi.
Öne çıkanlar
• Claude sohbet robotunun geliştiricisi ve dünyanın en değerli yapay zeka girişimlerinden biri olan Anthropic’te araştırma liderliği yapan Olah kendi şirketi de dahil olmak üzere tüm önde gelen yapay zeka laboratuvarlarının ticari, jeopolitik ve kişisel baskılar altında faaliyet gösterdiğini belirtti Olah bu baskıların “bazen doğru olanı yapmakla çelişebildiğini” kabul etti.
• Dini liderler, hükümetler ve sivil toplum tarafından dış denetimin şart olduğunu savunan Olah, iyi niyetli olursa olsun hiçbir araştırmacının bu teşvik mekanizmalarından tamamen kaçamayacağını söyledi ve yapay zeka ile ilgili kararların “yalnızca sektörün içindeki insanlara bırakılmaması gerektiğini” ifade etti.
• Olah, yapay zeka gelişiminin “bir avuç zengin ülkede” yoğunlaştığını ve mevcut durumda bunun faydalarını yoksul ülkelerle paylaşacak hiçbir mekanizma bulunmadığını belirtti. Bunun, iş kaybı sorununun daha zor ve daha az tartışılan tarafı olduğunu söyledi.
• Kiliseye, bir laboratuvarın cevaplayamayacağı “insanın gelişip serpilmesi” ile ilgili sorulara yönelik “ahlaki hayal gücünü” kullanması çağrısında bulundu.
• Ekibiyle birlikte yapay zeka sistemlerinin içinde gerçekte neler olup bittiğini inceleyen Olah, araştırmacıların “gizemli, hatta rahatsız edici” bulgular keşfetmeye devam ettiğini söyledi. Buna, sistemlerin kendi düşünme süreçleri üzerine düşünebildiğine ve “işlevsel olarak neşe, tatmin, korku, keder ve huzursuzluğu andıran” içsel durumlar sergilediğine dair kanıtların da dahil olduğunu belirtti.
• “Bize vaat edilen şey soğuk, hesap yapan robotlar değildi. Onlar bizden, bizim kelimelerimizden yapıldı” diyen Olah, yapay zeka sistemlerini köprüler veya uçaklar gibi mühendislik ürünü olmaktan ziyade insan düşüncesi ve konuşmasının mirası üzerinde “yetiştirilen” yapılar olarak tanımladı. Bu nedenle teknolojinin bilgisayar biliminin çok ötesinde sorular doğurduğunu düşündüğünü ifade etti.
Forbes değerlemesi
Forbes son olarak 380 milyar dolar değer biçilen Anthropic’teki hisselerine dayanarak Olah’ın servetini yaklaşık 7 milyar dolar olarak tahmin ediyor. Claude’un geliştiricisi şirket 900 milyar dolarlık bir değerleme hedefliyor.
Arka plan
ABD doğumlu ilk papa olan 14. Leo, yapay zekayı papalığının ilk döneminin belirleyici temalarından biri haline getirdi. Pazartesi günü Magnifica Humanitas (Muhteşem İnsanlık) başlıklı bir genelge yayınladı. Resmi papalık mektubu olan bu 235 sayfalık belge, yapay zekanın emek, savaş, eğitim, mahremiyet ve insan onuru üzerindeki etkilerini ele alıyor ve “ölümcül kararların” yapay zeka sistemlerine bırakılmaması gerektiği konusunda uyarıda bulunuyor.
Leo, geleneksel Vatikan uygulamasından ayrılarak belgeyi pazartesi günkü basın toplantısında bizzat tanıttı ve teknolojiyi geliştiren kişilerle doğrudan iletişim kurma çabası olarak yorumlanan bir hamleyle Olah’ı da sahneye davet etti. Daha önce Google ve OpenAI'da çalışan Olah, 2021 yılında CEO Dario Amodei ve yapay zeka güvenliği konusundaki anlaşmazlıklar nedeniyle OpenAI’dan ayrılan birkaç meslektaşıyla birlikte Anthropic’i kurdu. 2024 yılında, Claude ve ChatGPT gibi sohbet botlarına güç veren büyük dil modellerinin içinde neler olduğunu çözmeye çalışan yorumlanabilirlik alanındaki çalışmaları nedeniyle Time dergisinin “Time 100 AI” listesine seçildi.