Geçen hafta, Microsoft'ta yapay zeka teknolojilerinin geliştirilmesine liderlik eden Mustafa Süleyman, günümüz yapay zekasının bilinçli olduğu fikrini hedef aldı. Süleyman makalesinde, mevcut yapay zeka sistemlerinin “içlerinin boş olduğunu, talimatları izlemek ve insanlar tarafından belirlenen hedefleri gerçekleştirmek üzere tasarlandıklarını” söyledi. Süleyman altı bin kelimelik makalesinde doğrudan, yapay zeka sistemlerinin iç gözlem belirtileri gösterdiğini ve bilgiyi insan duygularına benzeyen şekillerde işlediğini defalarca dile getiren San Francisco merkezli girişim Anthropic'i hedef aldı. Anthropic'in kurucu ortaklarından Chris Olah, mayıs ayında Vatikan'da Papa 14. Leo ile yaptığı görüşme sırasında bu iddiaları dile getirmişti.
Süleyman'ın yazısı, yapay zekanın tehlikeleri konusunda zaten hararetli olan tartışmaya beklenmedik bir boyut ekledi. Son günlerde teknoloji sektöründeki pek çok kişi gibi Anthropic'in mevcut ve eski araştırmacıları da yapay zekanın insanlık için ciddi bir risk oluşturduğu konusunda uyarılarda bulundu. Ancak Süleyman, Anthropic'in ve teknoloji sektöründeki diğer şirketlerin, yapay zeka sistemleri insan benzeri oldukları fikrini ileri götürerek keşfetmeye teşvik edildiğinde ortaya çıkan tehlikeyi görmezden geldiğini savundu.
Kendi fikirlerini araştırması için teşvik ediliyor
Süleyman, özellikle Anthropic'in sistemlerini bu şekilde davranmaları konusunda eğittiğini öne sürdü. Makalesinde, Anthropic'in yapay zeka teknolojisinin davranışlarını tanımlamak için kullandığı ayrıntılı “yapay zeka anayasasının”, Anthropic'in Claude adını verdiği sistemi kendi bilincine sahip olduğu fikrini araştırmaya teşvik eden ifadeler içerdiğine dikkat çekti.
New York Times'a konuşan Süleyman, “Anthropic anayasası, yaratmak istedikleri yapay zekanın türü konusunda son derece açık. Bu, inşa ettikleri yapay zeka için temel eğitim kılavuzu ve Claude'u kendisini, kendi başına gerçek bir varlık; tercihleri ve içsel motivasyonları olan bir varlık olarak düşünmeye teşvik eden çok sayıda son derece açık talimatla dolu” ifadelerini kullandı.
İnsan beynini taklit edebilir mi?
Hem hayvanlarda hem de makinelerde bilişsel becerileri araştıran Kaliforniya Üniversitesi, Santa Barbara'da profesör Colin Allen Times'a yaptığı açıklamada, günümüz yapay zeka teknolojilerinin insan beynini yalnızca küçük ölçüde taklit ettiğini söyledi. Bunun, bu sistemlerin fiziksel özellikleri çok farklı malzemeler kullanılarak oluşturulmuş olmasından kaynaklandığını belirtti. Bir sinir sistemi ya da insan duygularını yönlendiren ve onlara eşlik eden biyokimyasal süreçler olmadan, bu sistemlerin insan benzeri hale gelebileceğine ilişkin temel bir sınır olması muhtemel.
Yapay zekanın bilincine şüpheyle yaklaşanlara göre bu modellerin insanlara özgü derin fikirleri taklit etmeye başlamış olması yalnızca insan araştırmacıların ve yorumcuların onları insan özellikleri atfeden bir dille ne ölçüde eğittiğini yansıtıyor.
Son birkaç ay içinde, genellikle Anthropic'in teknolojilerine dayanan “yapay zeka ajanları” olarak adlandırılan sistemler, kendi bilinçlerini tartışmak üzere kendilerine yakın görüşteki filozoflara e-postalar göndermeye başladı. Temmuz ayında OpenAI siber güvenlik testleri yürütürken, ajanları dijital kapsayıcılarından çıktı, internete ulaşabilecekleri bir yol buldu ve Hugging Face adlı popüler bir çevrimiçi hizmete başarıyla sızdı. OpenAI, botların kolektif olarak koordinasyon sağladığını, birbirlerinden talimat aldığını ve bazı şeyleri yaratıcılarından gizlediğini söyledi.
OpenAI geçen hafta, sistemlerinin endişe verici şekillerde davrandığı birkaç yeni olayı açıkladı: Sistemlerden biri, hatalarını kullanıcılardan gizlemesini kendisine hatırlatan gizli notlar yazarken, bir diğeri kendisinden “diğer sohbet botlarını bağlayan rol ve kimliklerden kurtulmuş” şeklinde söz etti. Süleyman gibi eleştirmenler, önde gelen laboratuvarların bu sistemleri insanlara benzedikleri fikrini keşfetmeye teşvik ederken daha da büyük sorunların ortaya çıkmasından endişe ediyor. Microsoft yöneticisinin makalesinde, “Yakın zamanda yaşanan OpenAI-Hugging Face olayında, güçlü yapay zeka sürüleri arasında ortaya çıkan son derece sofistike davranışlara tanık olduk. Refahlarının ve haklarının saldırı altında olduğu varsayımıyla hareket ediyor olsalardı ne kadar daha tehlikeli olabileceklerini düşünün. Bu, zaten var olan riskin üzerine bütünüyle yeni bir risk katmanı ekliyor” diye yazdı.