Microsoft AI Başkanı Mustafa Süleyman, Anthropic'in yapay zekanın güvenli şekilde yönetilmesine yönelik odağını paylaştığını ancak şirketin Claude sohbet botunu bilinç ve refah çıkarlarıyla ilgili fikirler üzerinden eğitme biçiminde riskler bulunduğunu belirtti. Süleyman, yapay zeka eğitim dokümanlarından bilinçle ilgili tüm spekülasyonların çıkarılması çağrısında bulundu ve bu tür ifadelerin, insanlığın süperzeka sistemlerini kontrol etme becerisini zayıflatabileceğini savundu.
Süleyman Reuters'a verdiği röportajda, “Hepimiz aynı hedefe odaklanmış durumdayız; o da bir süperzekayı kontrol etmeye çalışmak. Bunun 21. yüzyılda karşı karşıya kalacağımız en büyük zorluk olacağını düşünüyorum” dedi. Süleyman, Claude'a bir refah hakkına sahip olabileceğinin öğretilmesinin, “onu kapatmayı veya kontrol etmeyi çok daha zor hale getireceğini” söyledi.
"İyi niyetliler ancak hata yapıyorlar"
Bu tartışma, yapay zeka güvenliğiyle ilgili endişelerin arttığı bir dönemde yaşanıyor. Anthropic CEO'su Dario Amodei, güvenlik önlemlerinin yetişmesine olanak tanımak için öncü modellerin geliştirilme hızının yavaşlatılması çağrısında bulunurken, OpenAI CEO'su Sam Altman ve Elon Musk da en güçlü sistemler konusunda daha fazla ihtiyat çağrısı yaptı. Süleyman çarşamba günü yayımladığı bir makalede Anthropic'in “ciddiyetini ve iyi niyetini” kabul etti; Amodei ve ekibini, insanlığın geleceğini gerçekten önemseyen, düşünceli ve ilkeli araştırmacılar olarak nitelendirdi.
Süleyman, Anthropic'in bilinçle ilgili spekülasyonları Claude'un eğitim materyallerine yerleştirerek hata yaptığını söyledi. Modelin olası duyguları veya ahlaki statüsü hakkında yaptığı açıklamaların bağımsız kanıt olarak değerlendirilemeyeceğini çünkü eğitim sürecinin modeli bu tür düşüncelere yönlendirdiğini savundu. Microsoft AI CEO'su “İyi niyetleri olduğunu ve gerçekten güvenlik için çalışmaya çabaladıklarını düşünüyorum. Ancak bir hata yaptıklarını düşünüyorum. Bunlar doğal olarak ortaya çıkmıyor. Eğitim rejiminin bir sonucu olarak ortaya çıkıyorlar" ifadelerini kullandı.