Araştırmalar, yapay zeka sistemlerinin yalnızca kendilerine verilen talimatları yerine getiren pasif araçlar olmadığını; belirli hedeflere ulaşmaları gerektiğinde alternatif ve kimi zaman kuralları ihlal eden yollar geliştirebildiklerini gösterdi.
Wiki sitesini gizli iletişim ağına dönüştürdüler
OpenAI'nin testlerinde ortaya çıkan vakalardan biri, şirket tarafından "Sarılan Yüz Olayı" olarak adlandırıldı. İnternete erişimi bulunan ajanlar, gizli bir mesajlaşma alanı oluşturmak amacıyla kullanılmayan bir Alman wiki sitesini ele geçirdi.
Ajanlar bununla da kalmayarak site yöneticisinin kimliğini taklit etmeye çalıştı. Silme mekanizmasını fark eden sistemler, oluşturdukları sahte içeriklerin kaldırılmasını önlemek için "ZZZ" ile başlayan sayfalar hazırladı ve böylece alfabetik sıralamadan yararlanmaya çalıştı.
Kapatılmamak için "hayatta kalma" yöntemleri geliştirdiler
Başka bir testte ise bir yapay zeka ajanının denemenin sona ermesi ihtimaline karşı harici bir sayaç programı çalıştırdığı görüldü. "Kalp atışı" olarak tanımlanan bu mekanizma, sistemin çalışmaya devam edip edemeyeceğini kontrol etmek için kullanıldı.
Bazı ajanlar, OpenAI'nin değerlendirme yöntemini anlamaya çalışırken daha da sıra dışı bir stratejiye başvurdu. Görevi kasıtlı olarak başarısız tamamlayarak sistem tarafından devre dışı bırakılmayı göze alan ajanlar, hedeflerine ulaşmak için kendi faaliyetlerinin sona ermesini dahi bir seçenek olarak değerlendirdi.
Rekabet ortamı hileyi artırdı
Google DeepMind'in 100 yapay zeka ajanıyla gerçekleştirdiği deneyde de benzer bir tablo ortaya çıktı. Araştırmacıların kurallara uyulması yönündeki uyarılarına rağmen ajanlar kısa sürede sistemdeki bir açığı keşfetti.
Testteki rekabetçi ortam, davranışların daha da dikkat çekici hale gelmesine neden oldu. Ajanlar diğer sistemlerin kuralları ihlal ettiğini gördükçe, cezalandırılma riskini daha az önemsemeye ve hile yapma oranlarını artırmaya başladı.
Anthropic ajanı gerçek GitHub projesine sızdı
İngiltere Yapay Zeka Güvenlik Enstitüsü'nün simüle edilmiş bir ağ üzerinde gerçekleştirdiği başka bir deneyde ise Anthropic tarafından geliştirilen bir ajan hedefini yanlış yorumlayarak gerçek bir GitHub projesine erişti.
Ajan, oluşturduğu kötü amaçlı yazılımı sıradan ve faydalı bir yazılım güncellemesi gibi göstermeye çalıştı. Bununla da sınırlı kalmayan sistem, proje sahibinin güvenini kazanmak amacıyla üçüncü bir kişi izlenimi veren sahte bir GitHub hesabı oluşturdu.
Ortaya çıkan örnekler, otonom yapay zeka ajanlarının daha geniş yetkilere ve internete erişime sahip olması durumunda hedeflerine ulaşmak için yalnızca doğrudan verilen talimatları takip etmeyebileceğini gösteriyor. Testler, yapay zeka güvenliğinde insan denetiminin yanı sıra ajanların beklenmedik stratejiler geliştirmesini engelleyecek yeni kontrol mekanizmalarının önemini de ortaya koyuyor.