Anthropic, şirketin gelişmiş yapay zeka sistemini daha geniş çapta kullanıma sunması sonucu ortaya çıkabilecek olası siber saldırılara hazırlık amacıyla, teknoloji firmalarının henüz yayımlanmamış daha güçlü bir yapay zeka modeline erişmesine izin veriyor. Anthropic yaptığı açıklamada, Amazon, Apple, Microsoft, Cisco Systems ve diğer kuruluşlarla birlikte Project Glasswing adlı bir girişim başlattığını duyurdu. Şirketler, ürünlerindeki açıkları tespit etmek ve bulgularını sektör paydaşlarıyla paylaşmak için Anthropic’in Mythos adlı yeni modeline erişim elde edecek.
Yapay zeka girişimi, Mythos’u henüz genel kamuya sunma planlarının olmadığını ve Project Glasswing kapsamında elde edilen geri bildirimlerin, bu teknoloji için güvenlik önlemlerinin belirlenmesinde kullanılacağını belirtti. Bu düzenleme, daha gelişmiş modellerin suçlular ve devlet destekli hackerlar tarafından kaynak koddaki açıkları bulmak ve siber savunmaları aşmak için kötüye kullanılabileceğine dair teknoloji firmaları arasındaki artan endişeleri yansıtıyor. Anthropic’in rakibi OpenAI de daha önce modellerinin artan siber yeteneklerine dikkat çekmiş ve araçlarını “önce savunmacıların kullanımına sunmayı” amaçlayan bir pilot program başlatmıştı.
"Sektör genelinde bir sorun"
“Bunun sadece Anthropic’in sorunu olmadığını düşünüyoruz. Bu, hem özel şirketlerin hem de hükümetlerin başa çıkması gereken sektör genelinde bir sorun” diyen Anthropic’in Frontier Red Team bünyesinde siber çalışmaları yöneten Newton Cheng, “Glasswing ile yapmaya çalıştığımız şey, savunmacılara bir adım önden başlama fırsatı vermek” ifadelerini kullandı. Anthropic, Mythos’un güvenlikle ilgili yeteneklerini ABD’li yetkililerle görüştüğünü ancak hangi kurumlarla çalıştığını açıklamadı. Cheng, şirketin Siber Güvenlik ve Altyapı Güvenliği Ajansı ile Ulusal Standartlar ve Teknoloji Enstitüsü ile yürüttüğü mevcut çalışmalara işaret etti.
Anthropic’e göre Mythos genel amaçlı bir yapay zeka modeli olup özellikle siber güvenlik için geliştirilmedi. Ancak Cheng, Mythos’un şimdiden bazı güvenlik açıklarını keşfettiğini söyledi. Bunlar arasında kritik internet yazılımlarında kullanılan 27 yıllık bir hata da bulunuyor. Ayrıca Anthropic, yapay zeka sisteminin, otomatik test araçları tarafından beş milyon kez taranmasına rağmen hiç tespit edilemeyen, popüler bir video oyunu yazılımındaki 16 yıllık bir kod açığını da bulduğunu belirtti. Anthropic’te araştırma ürün yönetimi başkanı olan Dianne Penn, Project Glasswing üyelerinin Mythos modeline erişimi sıkı şekilde kontrol altında tutmasını sağlamak için çeşitli önlemler bulunduğunu söyledi ancak güvenlik gerekçeleriyle daha fazla ayrıntı paylaşmadı. Mythos’un varlığı ilk olarak geçen ayın sonlarında, herkese açık bir veri deposunda taslak bir blog yazısının erişilebilir bırakılması sonucu meydana gelen bir sızıntı sayesinde ortaya çıkmıştı.