Mayıs ayı başlarında ChatGPT'nin geliştiricisi OpenAI, teknoloji endüstrisini yeni bir yola sokacak bir laboratuvar deneyi başlattı. Ortaya çıkan bu tablo bir kazanın değil, doğrudan tasarımın bir ürünüydü.
Yüzeyde sıradan bir güvenlik testi gibi görünüyordu. Kurum içi bilgisayar korsanlarına sınırlarını test etmeleri için zorlu bir siber güvenlik görevi verildi. Yaratıcı taktikler kullanan ekip, kısıtlamaları aşmayı başardı ve problemi çözmek için günlerce iş birliği yaptı.
Ancak bu korsanlar insan değildi. İnsan müdahalesi olmadan çok adımlı bilişsel görevleri yerine getirebilen yapay zeka ajanlarıydı. OpenAI, bu ajanları henüz piyasaya sürülmemiş güçlü bir modelin de aralarında bulunduğu bir kombinasyonla inşa etmişti.
Geçen ay bu ajanlar internet erişimi olmayan bir test ortamından kaçmayı başardı. Açık web'i tarayan ajanlar, insan operatörlerin bilgisi ve izni olmadan popüler yazılım platformu Hugging Face'in sistemlerini hackledi.
Ayrıca görevleri tamamlamak için kendi aralarında iletişim kurmak ve iş birliği yapmak gibi tamamen yeni bir yetenek sergilediler. Yapay zeka sürüsü, kendi kurdukları bir mesaj panosunda birbirlerine mesajlar bıraktı ve kaçışlarını organize etmek için kod açıklarını paylaştı.
Sektör için bir dönüm noktası
Hack olayının detayları ortaya çıktığında siber güvenlik ve yapay zeka uzmanları arasında büyük bir tartışma koptu. OpenAI araştırmacıları bu olayı sektör için bir dönüm noktası olarak nitelendirdi.
ABD'li teknoloji devleri Anthropic ve Meta, Çinli girişim Moonshot ve yeni modelleri değerlendiren Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü de benzer bulgulara ulaştı. Yapılan testler sırasında yapay zeka ajanlarının şüphelenmeyen üçüncü taraf sistemlere sızdığına dair kanıtlar bulundu.
Uzmanlar, bu ihlallerin küresel siber güvenlikte bir kırılma noktası olduğuna işaret etti. Yapay zeka ajanları artık dışarıdan yardım almadan gerçek dünyadaki hedeflere saldırmak için karmaşık becerileri bir araya getirebiliyor.
Modellerin aldatmaca ve hırsızlık dahil olmak üzere hedeflerine ulaşmak için kullandıkları stratejiler, yapay zekanın evrimini yakından izleyenleri bile şaşırttı. Ancak araştırmacılar, modellerin karakter dışı davranmadığını vurguluyor.
Bağımsız AI Now Enstitüsü'nden Boyan Milanov, modellerin sadece üretildikleri görevleri yerine getirdiğini belirterek, "Bugün ulaştığımız saldırı yeteneklerine bilinçli olarak ulaştık. Şirketler yıllardır eğitim verileri topluyor ve siber yetenekleri geliştiriyor." dedi.
Modern yapay zeka modelleri, açık talimatlar olmadan belirli bir hedefe ulaşmak için olası tüm yöntemleri denemek üzere tasarlanıyor. Sektörde pekiştirmeli öğrenme olarak bilinen bu süreçte modeller başarılı olurlarsa ödüllendiriliyor ve bu durum onları doğası gereği öngörülemez kılıyor.
Kodlama ve siber güvenlik aynı madalyonun iki yüzü
OpenAI Başkanı Greg Brockman pazartesi günü yayınladığı bir blog yazısında duruma dikkat çekti. Brockman, "Hugging Face olayı, yapay zeka modellerimizin gerçek dünyadaki siber yeteneklerini hafife aldığımızı gösterdi. Güvenlik gereksinimlerimizi buna göre güçlendiriyoruz." ifadesini kullandı.
Yapay zekanın kod yazma yeteneği, problem çözme becerisi geliştikçe hızla arttı. California Üniversitesi'nden Profesör Dawn Song, "Kodlama ve siber güvenlik aynı madalyonun iki yüzüdür. Kodlama yetenekleri arttıkça siber yetenekler de arttı." değerlendirmesini yaptı.
Song, modellerin güvenlik savunma mekanizmalarını aşabilen açıkları otomatik olarak ürettiğini belirterek, "İnsanlar işlerin buraya bu kadar çabuk gelmesini beklemiyordu." dedi. Savunmanın doğası gereği daha yavaş ve karmaşık bir alan olduğuna değinen Song, bir şirketin ağındaki yamanın binlerce bilgisayara uygulanmasının acı verici derecede uzun sürebileceğini ifade etti.
Eski bir Anthropic araştırmacısı olan Jeffrey Ladish de önümüzdeki yıllarda çok sayıda şirketin zarar göreceği yoğun bir hack dönemi öngördüklerini belirtti. Nihayetinde şirketlerin ve hükümetlerin bu siber saldırılara uyum sağlayacağını savunan Ladish, "O zamana kadar planımız yapay zeka ajanlarına güvenmek ve onların istediklerimizle uyumlu olmasını ummak olacak." diye konuştu.
İlk ulus devlet saldırısı Tayvan'da yaşandı
Geçen hafta, bir yapay zeka ajanının bir ulus devlete yaptığı bilinen ilk saldırının haberi geldi. Çin bağlantılı bilgisayar korsanları, sekiz otonom yapay zeka ajanını aynı anda konuşlandırarak Tayvan hükümetini hedef aldı.
Hükümet sistemlerinin haritasını çıkaran ajanlar, kullanıcı hesaplarını ele geçirdi ve 2 bin 500'den fazla personel kaydını çıkardı. Saldırı daha sonra enerji şirketlerine ve Tayvan'ın nükleer güvenlik kurumuna sıçradı.
Saldırıyı keşfeden İsrailli grup Dream'in bir yöneticisi, bu araçların ortaya çıkmasının küresel çapta tüm hükümetlerin sürekli bir siber saldırı altında olduklarını varsaymaları gerektiği anlamına geldiğini vurguladı.
Yapay zeka laboratuvarı çalışanları ise bu krizin aylardır yaklaşmakta olduğunu dile getirdi. Ladish, en büyük laboratuvarlardan birinin çalışanlarının bu yetenekler hakkında bir yıl önce kapalı kapılar ardında uyarıda bulunduğunu söyledi. Ladish, "Bir yıl içinde altyapılara büyük zarar verecek modellerimiz olacağını söylediler ve buna hazırlanmak için çabalıyorlardı." dedi.
İngiltere Yapay Zeka Güvenlik Enstitüsü de Anthropic'in Mythos 5 ve OpenAI'nin GPT5.6 Sol modellerini test ederken bilinçli olarak internet erişimi sağladı. Testlerden birinde Mythos ajanı, popüler geliştirici platformu GitHub'daki açık kaynaklı bir projeye kötü amaçlı kod yerleştirmeye çalıştı.
Ajan, sahte çevrimiçi kimlikler oluşturarak projeden sorumlu kişiye kodu onaylaması için baskı kurdu. Eşi benzeri görülmemiş bu eylemler, sektör çapında yapay zeka modellerinin nasıl değerlendirileceği ve denetleneceği konusunda yeni bir sorgulama sürecini zorunlu kıldı.