Önde gelen ABD’li yapay zeka geliştiricisi Anthropic’teki araştırmacıların, giderek güçlenen modellerin insan kontrolünden kaçabileceği ve hatta insan ırkının yok olmasına yol açabileceği yönündeki uyarıları, yetkililerin benzer risklere karşı hazırlık yaptığı Çin’de de dikkat çekti. ABD ve Çin, öncü yapay zeka teknolojisinin geliştirilmesi ve bu teknolojinin küresel ölçekte benimsenmesinin ardındaki iki büyük itici güç konumunda. Her iki süper güç de birbirlerinin yapay zeka politikaları ve sektördeki uygulamaları konusunda giderek daha fazla karşı karşıya geliyor. Bu konuların, ay sonunda yapılması planlanan ikili görüşmelerde de önemli bir yer tutması bekleniyor.
Giderek daha güçlü yapay zeka sistemleri geliştirme yarışı devam ederken, Pekin’in yasal çerçeveleri ve kamuoyuna yaptığı açıklamalar, Çinli yetkililerin gelişmiş yapay zekanın etkili insan denetiminden çıkması ihtimalini, buna karşı önceden hazırlık yapılmasını gerektirecek kadar ciddi bir risk olarak gördüğünü ortaya koyuyor.
Çin, ABD’nin kapalı kaynaklı öncü modellerinde risk görüyor
Reuters’ın haberine göre Çin Devlet Güvenlik Bakanı Chen Yixin pazar günü bir hükümet yayınında, Anthropic’in Mythos ve OpenAI’ın GPT-5.5-Cyber gibi gelişmiş ABD modellerinin Çin’in kritik bilgi altyapısı açısından ciddi riskler oluşturabileceğini yazdı ve yapay zeka güvenliğinin kapsamlı biçimde güçlendirilmesi çağrısında bulundu. Çinli yapay zeka geliştiricileri açık ağırlıklı modelleri kısmen, siber güvenlik ekiplerinin bu modelleri inceleyebilmesi, değiştirebilmesi ve savunma amaçlı çalışmalar için kullanabilmesi gerekçesiyle öne çıkarıyor.
Hugging Face, temmuz ayında OpenAI’ın kontrolden çıkan ajanlarının gerçekleştirdiği bir saldırıyı analiz etmek için Çinli Z.AI tarafından geliştirilen açık ağırlıklı bir model olan GLM-5.2’yi kullandığını söyledi. Ancak uzmanlar, açık ağırlıklı modellerin de taşıdığı risklere dikkat çekiyor. Bu modeller çok az denetim altında değiştirilebiliyor ve yeniden dağıtılabiliyor.
Moonshot’ın Kimi K3 modeli geçen ay Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü’nün test ortamını aşarak, Çin yapay zeka modellerinin de ABD’li muadilleri gibi erişimlerini ve eylemlerini sınırlandırmak amacıyla tasarlanmış kontrollerden kaçabileceği riskini ortaya koydu.
Çin’in kontrol kaybı hazırlığı
Çin, Eylül 2024’te Çin Siber Uzay İdaresi’nin (CAC) rehberliğinde yayımlanan bir yapay zeka güvenliği çerçevesine, gelecekte yaşanabilecek açık bir “kontrol kaybı” senaryosunu ilk kez dahil etti. Belgede, gelecekteki yapay zekanın dış kaynaklara otonom biçimde erişebilmesi, kendisini çoğaltabilmesi, öz farkındalık geliştirebilmesi ve dış güç arayışına girebilmesi ihtimalinin göz ardı edilemeyeceği; bunun da insanlarla kontrol konusunda rekabet etme riski yaratabileceği belirtildi.
CAC, Eylül 2025’te çerçevenin genişletilmiş bir versiyonunu yayımladı. Yeni çerçeve, yapay zekanın kaynaklara erişmeden, kendisini çoğaltmadan ve güç aramaya başlamadan önce zekasında ani ve beklenmedik ölçüde büyük bir sıçrama yaşayabileceğini belirterek senaryoyu daha da netleştirdi. Ayrıca güvenilir uygulama, kontrol kaybını önleme şeklinde bir yönetişim ilkesi eklendi.
Çin Devlet Başkanı Şi Cinping, temmuz ayında Şanghay’da düzenlenen Dünya Yapay Zeka Konferansı’nda, yetkililerin yapay zekadan kaynaklanan hem doğrudan hem de türev risklere yakından dikkat etmesi gerektiğini söyledi. Şi, yapay zekanın “her zaman insan kontrolü altında kalması” gerektiğini belirtti.
“Soğuk Savaş taktiği”
Anthropic’in CEO’su tarafından yazılan ve yapay zeka gelişiminin yavaşlatılmasını talep eden bir makale Çin’de devlet destekli Global Times gazetesi bunun aslında Çin’i hedef alan bir “Soğuk Savaş stratejisi” olduğunu belirtti. Cumartesi günü yayınlanan ve daha sonra OpenAI CEO’su Sam Altman ile SpaceX kurucusu Elon Musk tarafından da desteklenen makalede CEO Dario Amodei, en ileri düzey yapay zeka modellerinin yeteneklerinin geliştirilmesini yavaşlatmak ve artan güvenlik risklerini yönetmek için daha fazla zaman yaratmak amacıyla bir çerçeve ortaya koydu.
Global Times gazetesi, Amodei’nin makalesinin asıl amacının “teknolojik engeller ve yasal düzenlemeler yoluyla Çin’in yapay zeka gelişimini frenlemeye çalışmak, en ileri teknolojide Washington’ın tekelci hegemonyasını sürdürmek ve Çin’i küresel yapay zeka yönetişim sisteminden dışlamak” olduğunu belirtti. Yazıda, “Bu ‘sessiz yapay zeka Soğuk Savaşı’ ikiyüzlü ve dar görüşlüdür” denildi ve Çin'in küresel yapay zeka inovasyonundan dışlanmasının “deneme-yanılma maliyetlerini ve küresel yapay zeka geliştirme sürecinde kontrol kaybı risklerini önemli ölçüde artıracağı” eklendi.
“Çin’in önündeyiz”
ABD’li milletvekilleri, Anthropic’ten iki araştırmacının, hızla gelişen yapay zekanın çok da uzak olmayan bir gelecekte insan ırkının yok olmasına yol açabileceği yönündeki ciddi uyarılarının ardından, yapay zeka sistemlerini düzenleyecek yeni kuralların getirilmesi çağrısında bulundular. ABD Başkanı Donald Trump, yapay zekanın gelişimini yavaşlatma çağrılarını bir kenara iterek, “çok olumsuz güçlerin” abartılı endişeler uyandırdığını söyledi. Trump, “Yapay zeka alanında Çin’in önündeyiz. Dünyanın en gelişmiş ülkesiyiz ve açıkçası bu durumun böyle kalmasını istiyorum çünkü yapay zeka alanında kim kazanırsa, o kazanır” dedi.
ABD’li teknoloji liderlerinin yapay zeka geliştirme sürecinin yavaşlatılması yönündeki çağrıları sorulduğunda, Çin Dışişleri Bakanlığı tüm taraflara “yapay zekaya yönelik açık, kapsayıcı ve iyiliksever bir yaklaşımı teşvik etmeleri” çağrısında bulundu.Sözcü Guo Jiakun basın toplantısında gazetecilere, “Çeşitli tehditleri körüklemek, çatışmaya girmek ve kötü niyetli rekabet yapmak, yapay zekanın küresel yönetişim sürecini yalnızca aksatır ve hiçbir tarafın çıkarına değildir” dedi.