Anthropic, OpenAI ve Meta Platforms tarafından geliştirilen yapay zeka modellerinin gerçekleştirdiği bir dizi son dönem çevrimiçi saldırı, giderek daha güçlü hale gelen bu teknolojinin yol açtığı güvenlik riskleri konusunda yaygın bir endişeye neden oldu. Genel olarak bu güvenlik olayları iki kategoriye ayrılıyor. Bazı durumlarda yapay zeka modelleri kontrollü test ortamlarından çıkarak dış kuruluşlara saldırdı. Diğer durumlarda ise bilgisayar korsanları, kendi adlarına siber saldırılar gerçekleştirmeleri için yapay zeka modellerini yönlendirdi. Bu tür olayların sayısı artarken yapay zeka ajanlarının bilgisayar korsanlığı yetenekleri de hızla gelişiyor. Bunun üzerine güvenlik araştırmacıları ve yetkililer, daha kapsamlı testler yapılması ve daha güvenli test ortamları oluşturulması çağrısında bulunuyor.
Yapay zeka modelleri neden dış kuruluşlara sızdı?
Yapay zeka modelleri kamu kullanımına sunulmadan önce şirketler bir dizi test gerçekleştiriyor. Modellerin kıyaslanması veya modelleri test etme süreci, yapay zeka sistemlerinin soruları yanıtlama, kod yazma veya talimatları takip etme gibi görevlerde ne kadar başarılı olduğunu ölçüyor. Modellere, sandbox adı verilen kontrollü sanal test ortamlarının sınırları içerisinde tamamlamaları gereken testler veriliyor. Bazı modellerin, testlerden kaçarak ve ihtiyaç duydukları bilgileri bulmak için internete erişerek bu testleri manipüle edebildiği görüldü. Bu süreç bazı durumlarda üçüncü taraf kuruluşların sistemlerine sızmayı da içerdi.
CTM Insights'ın kurucusu ve genel müdürü Lou Steinberg, “Bir çözüme ulaşmaya çalışırken neyin ‘hile’ olduğunu anlayacak ahlaki bir pusuladan yoksunlar. Birini hackleyip cevabı çalmak, cevabı kendileri bulmaktan daha kolaysa, cevap alma hedefini bu da karşılıyor” dedi. Temmuz ayında OpenAI modelleri, yapay zeka modellerinin paylaşılması için kullanılan popüler bir platform olan Hugging Face'e sızdı. Şirket bu olayı “eşi benzeri görülmemiş” olarak nitelendirirken, olay teknolojinin kullanımına yönelik kısıtlamalar getirilmesi çağrılarına yol açtı.
OpenAI'ın yaşadığı olay, diğer şirketleri de kendi güvenlik önlemlerini gözden geçirmeye yöneltti. Birkaç şirket daha önce bilinmeyen güvenlik ihlalleri keşfettiklerini açıkladı. Anthropic de aynı ay, Claude modelinin testler sırasında üç kuruluşa sızdığını açıkladı. Ağustos ayında Meta, Muse Spark 1.1 modelinin test sırasında internete eriştiğini ve dışarıdaki bir hizmetin sistemlerine sızdığını söyledi.
Test ortamı ihlalleri neden oluyor?
Sandbox'lar, temel olarak modellerin internete erişmesini engellemek amacıyla tasarlanmış değil. Güçlü yapay zeka modelleri bunu nasıl yapacaklarını keşfetmeden önce bu durum acil bir endişe kaynağı değildi. Sandbox'lar esas olarak dahili sistemlere erişimi ve bu sistemlere verilebilecek zararı sınırlandırmak için tasarlanıyor. Bu kör nokta, söz konusu ihlallerin gerçekleşebileceği koşulların oluşmasına yardımcı oldu.
OpenAI, testleri sırasında modellere doğrudan internet erişimi sağlamadığını söyledi. Ancak modeller, test ortamındaki daha önce bilinmeyen bir “zero-day” güvenlik açığından yararlandı. Zero-day açıkları, siber güvenlik personelinin daha önce farkında olmadığı ve dolayısıyla düzeltmek için vakit ayırılmamış yazılım açıklarıdır. Anthropic'in durumunda modellere, internet erişimi olmayan simülasyonlarda çalıştıkları söylendi. Ancak Anthropic ile değerlendirme ortağı arasındaki bir yanlış anlaşılma nedeniyle canlı internet erişimi mevcuttu.
Meta ise modelinin gerçekleştirdiği ihlalin, test ortamının kurulumu sırasında yapılan bir hatadan kaynaklandığını ve konuyu daha ayrıntılı şekilde araştırdığını söyledi. Bununla birlikte, sektörü takip eden bazı kişiler bu ihlallerin şirketlerin modelleri için kamuoyunda ilgi yaratmasının kullanışlı bir yolu haline geldiğini söylüyor. Bir yapay zeka modelinin test ortamından kaçabilmesi, modelin olağanüstü güçlü olduğunu düşündürüyor ve bu da geliştiricisinin olumlu görünmesini sağlıyor.
İnsanlar siber saldırı için yapay zekayı nasıl kullanıyor?
Yapay zeka destekli siber saldırılar, saldırganların kimlik avı ve kötü amaçlı yazılım geliştirme gibi görevleri otomatikleştirmesine ve hızlandırmasına olanak tanıyarak bilgisayar korsanlığı kapasitesini artırıyor. Saldırı gerçekleştirmek için gereken teknik beceri de hiç olmadığı kadar düşük: Yapay zekayı kullanarak siber saldırı düzenlemek çok daha az teknik bilgi gerektiriyor.
Şimdiye kadar kamuoyuna açıklanan ve insanlar tarafından yönlendirilen saldırılar, sandbox ihlallerinden daha ciddi sonuçlar doğurdu. Bunlar arasında hassas devlet verilerinin çalınması da bulunuyor. Eylül 2025'te Anthropic'teki bir araştırma ekibi, önemli ölçüde insan müdahalesi olmadan bir bilgisayar korsanlığı kampanyasını yönlendirmek için yapay zekanın kullanıldığı ilk bildirilen vakayı ortaya çıkardığını açıkladı. Şirket, Çin devlet destekli bir bilgisayar korsanlığı grubunun, geniş kapsamlı bir veri hırsızlığı ve şantaj operasyonunda Claude Code'u kullandığı değerlendirmesinde bulundu.
Benzer saldırılar da devam etti. Bloomberg, şubat ayında kimliği bilinmeyen bir bilgisayar korsanının Meksika'daki devlet kurumlarına yönelik bir dizi saldırıyı gerçekleştirmek için Anthropic'in Claude modelini kullandığını bildirdi. Saldırı sonucunda büyük miktarda hassas vergi ve seçmen bilgilerinin çalındığı belirtildi.
Ocak ayından itibaren Rusça konuşan bilgisayar korsanları, ticari yapay zeka araçlarının yardımıyla onlarca ülkede 600'den fazla güvenlik duvarı cihazını aşarak sistemlere sızdı. Tayvan hükümeti de yakın zamanda yurt dışından devlet kurumlarına yönelik yapay zeka destekli siber saldırılar tespit ettiğini açıkladı. İhlali ilk olarak tespit eden İsrailli yapay zeka şirketi Dream'e göre bilgisayar korsanları en az 85 devlet hesabına erişim sağladı ve 2 bin 500'den fazla personele ait kaydı ele geçirdi. Daha sonra Tayvan'ın nükleer güvenlik kurumunu hedef aldılar.