Üst düzey uluslararası finans yetkilileri, en son yapay zeka modellerinin dünya bankacılık sistemini tehdit edebileceği uyarısında bulundu. Bu modellerin, kredi veren kuruluşların siber savunmalarındaki zayıflıkları ortaya çıkarabileceği belirtiliyor.
Maliye bakanları, merkez bankacıları ve düzenleyiciler bu hafta Washington'da IMF ve Dünya Bankası bahar toplantıları için bir araya geldi. Görüşmelere, San Francisco merkezli Anthropic tarafından geliştirilen en son yapay zeka modeliyle ilgili endişeler damga vurdu.
Bir haftadan kısa bir süre öncesine kadar çoğu yetkili, toplantıların Orta Doğu'daki çatışmalara ve özel kredi piyasasındaki gerilimlere odaklanmasını bekliyordu. Yüksek devlet borcu seviyelerinin de öne çıkacağı tahmin ediliyordu. Bunun yerine dünyadaki bankacılık sisteminde tahribat yaratma potansiyeli taşıyan yeni yapay zeka modelleri en çok konuşulan konu oldu.
Küresel gündem siber güvenlik risklerine odaklandı
Küresel düzenleyicilerden oluşan Finansal İstikrar Kurulu'na başkanlık eden İngiltere Merkez Bankası Başkanı Andrew Bailey, "Bu hepimiz için çok ciddi bir zorluk." dedi. Bailey, "Bize yapay zeka dünyasının ne kadar hızlı hareket ettiğini hatırlatıyor." ifadesini kullandı. Düzenleyicilerin, Anthropic'in yeni Claude Mythos Preview modelinin potansiyel siber güvenlik tehdidini hızla değerlendirmesi gerekeceği de eklendi.
IMF Başkan Yardımcısı ve ABD Hazine Bakanı Scott Bessent'in eski özel kalem müdürü Dan Katz, "Dijital teknolojinin evrimi, siber güvenlik perspektifinden çok büyük riskler oluşturuyor." değerlendirmesini yaptı. Katz, "Bu durum önümüzdeki birkaç ay boyunca uluslararası gündemde kesinlikle çok önemli olacak." dedi.
Yönetişim çerçevesi ihtiyacı vurgulanıyor
Avrupa Merkez Bankası Başkanı Christine Lagarde, "Anthropic ve Mythos ile gördüğümüz gelişme, sorumlu bir şirketin iyi bir örneğidir ancak yanlış ellere geçerse gerçekten kötü olabilir." ifadesini kullandı. Bazı yetkililer Mythos'tan gelen tehdide karşı koordineli bir uluslararası yanıt verilmesi çağrısında bulundu. Anthropic, bu ayın başlarında tüm işletim sistemleri ve web tarayıcılarında binlerce yüksek dereceli güvenlik açığı bulduğunu bildirmişti.
Şirket, bu tür yeteneklerin potansiyel olarak onları güvenli kullanmaya kararlı aktörlerin ötesine yayılmasının uzun sürmeyeceği uyarısını yaptı. Şirket, "Ekonomiler, kamu güvenliği ve ulusal güvenlik için sonuçlar vahim olabilir." dedi. Bloomberg TV'ye konuşan Lagarde, "Herkes faaliyet göstereceği bir çerçeveye sahip olmaya hevesli." ifadesini kullandı. Lagarde ayrıca, "Bu tür şeyleri gerçekten önemseyecek bir yönetişim çerçevesi olduğunu sanmıyorum. Bunun üzerinde çalışmamız gerekiyor." değerlendirmesini yaptı.
Sistem açıkları bankalarla test ediliyor
Anthropic şu ana kadar Mythos'u Amazon, Apple ve JPMorgan Chase dahil olmak üzere yaklaşık 40 şirketten oluşan bir grupla paylaştı. Şirketlere modeli deneme ve sistemlerinde bulduğu güvenlik açıklarını gidermeye başlama şansı verildi. Bessent, yetkililerin erişimi olduğuna inanılan Mythos'un ortaya çıkardığı zayıflıkları tartışmak üzere banka liderlerini ve ABD Merkez Bankası Başkanı Jay Powell'ı geçen hafta bir araya getirdi.
Washington'daki yetkililer, teknolojinin bilgi sistemlerinin saldıranları ile savunanları arasındaki oyun alanında temel bir değişikliği temsil ettiğini söyledi. Bunun nedeni olarak modelin birden fazla yazılım açığını insan kapasitesinin ötesinde bir ölçekte özerk bir şekilde bir araya getirme yeteneği gösterildi. Yetkililer, Mythos'un özerk yeteneğinden hem etkilendiklerini hem de alarma geçtiklerini söyledi.
Avrupalı düzenleyiciler karanlıkta kaldıklarını belirtiyor
Bazı Avrupalı düzenleyiciler ve yöneticiler, yeni yapay zeka teknolojisinin ortaya çıkardığı potansiyel güvenlik açıkları konusunda karanlıkta bırakıldıklarını söylüyor. Çoğunun yeni modeli test edemediği ve oluşturabileceği tehdit seviyesini belirleyemediği bildiriliyor. Avrupa Bankacılık Otoritesi'nin (EBA) yeni başkanı François-Louis Michaud'ya Mythos etrafındaki endişelere nasıl yanıt verdikleri soruldu. Michaud, "Bu başlayan bir süreç ve şimdi doğru cevabın ne olduğunu düşünüyoruz." dedi.
Michaud ve diğer Avrupalı düzenleyiciler, birkaç yıldır bankacılık sistemine yönelik siber güvenlik tehditlerine odaklandıklarını söyledi. Bu tehditler, Rusya'nın 2022'de Ukrayna'yı tam kapsamlı işgalinin ardından yoğunlaşmıştı. Michaud, AB bankalarının kilit tedarikçilerini denetleme yetkisi verildikten sonra EBA'nın daha fazla uzman işe aldığını belirtti. Michaud, "Her şeyin yolunda ve mükemmel olduğunu söylemiyorum ama sıfırdan başlamadığımızı söylüyorum." ifadesini kullandı.
Büyük bir bankanın ve büyük bir finansal altyapı grubunun üst düzey Avrupalı yöneticileri, Mythos'u test etme şansları olmadığını aktardı. Banka yöneticisi, "Söyledikleri doğruysa durum elbette ciddi. Ancak bilmek için henüz çok erken. Bu modele bakmak için Anthropic ile konuşuyoruz." dedi.
OpenAI'dan yeni model ve bankaların süreçleri
ChatGPT'nin üreticisi OpenAI, perşembe günü siber güvenlik için özel olarak tasarlanmış en son modelini duyurdu. Modelin test için sınırlı sayıda kuruluş ve araştırmacı ile paylaşıldığı açıklandı. Yeni model GPT-5.4-Cyber'ın ek siber yetenekler için kasıtlı olarak ve daha az kısıtlamayla ince ayarlandığı belirtildi. Büyük ABD bankalarının yöneticileri, bu hafta Anthropic'in Mythos modelinin beta sürümüyle çalıştıklarını doğruladı.
JPMorgan CEO'su Jamie Dimon, yeni modelin düzeltilmesi gereken birçok güvenlik açığı gösterdiğini söyledi. Morgan Stanley patronu Ted Pick, "Yapay zeka bizim dostumuzdur. O sadece ekosistemin bir parçası olacak teknolojinin en son neslidir." dedi. Pick, "Beta sürümü olan Claude Mythos ile çalışıyoruz ve altyapı içinde sadece sürekli iyileştirme göreceğimiz farklı yerlere bakıyoruz." değerlendirmesini yaptı. BNY'nin genel müdürü Robin Vince ise Anthropic'in modelini de test ettiklerini söyledi.
Citigroup finans şefi Gonzalo Luchetti ise bankanın teknolojik atılıma gerektirdiği aciliyet derecesiyle yaklaştığını belirtti. Jeopolitik gerilimler göz önüne alındığında, bazı düzenleyiciler yapay zeka tehdidine karşı koordineli bir küresel yanıt verileceğinden şüphe duyuyor. Politika yapıcılar, ekonomik faydalar sağlayabilecek bir teknolojinin gelişimini engelleme konusunda da isteksiz davranıyor. Bailey, "Yolun kurallarını çerçevelemek için en uygun an nedir?" diye sordu. Bailey, "Çok erken davranırsanız hedefi ıskalama riski alırsınız ve evrimi çarpıtma riski taşırsınız, çok geç kalırsanız da işler kontrolden çıkabilir." dedi.