OpenAI şimdiye kadarki en gelişmiş siber güvenlik yapay zeka modelini yakında piyasaya süreceğini açıkladı. Bu model, yüksek güçlü otonom siber güvenlik özellikleri nedeniyle nisan ayında finans dünyasında ve hükümetlerde alarma yol açan Anthropic’in Mythos modeline doğrudan bir rakip olacak.
Öne çıkanlar
• OpenAI, Astra’yı yakında piyasaya sürmeyi planlıyor. Ancak şirket, modelin “en gelişmiş siber güvenlik yeteneklerinin sınırlı olacağını” ve bu yeteneklere yalnızca seçilmiş bir grup test kullanıcısının erişebileceğini belirtti.
• OpenAI, Astra’nın geliştirme sürecinde ve piyasaya sürülmeden önce “daha güçlü güvenlik önlemleri” gerektirdiğini belirtti. Şirket, Astra’nın artık bilinmeyen siber güvenlik açıklarını bulabildiğini ve “iyi korunan birçok sistemde” bunlardan yararlanmak için yöntemler geliştirebildiğini ifade etti.
• Astra’nın duyurusu, Anthropic’in Mythos için bir önizleme sürümünü piyasaya sürmesinden aylar sonra geldi. Mythos’un kullanımı Apple ve Nvidia gibi denetlenmiş ortaklarla sınırlı tutulmuştu. Modelin finansal hizmetleri, işletim sistemlerini ve internet tarayıcılarını hacklemek için kullanılma potansiyelinin fark edilmesi, gözlemciler arasında endişeye yol açmıştı.
• OpenAI, siber kötüye kullanıma karşı korumaları güçlendirmek ve test etmek amacıyla Astra’nın geliştirilmesinin bazı bölümlerini erteledi. Bu çalışmalar arasında modeli, zararlı talepleri güvenilir biçimde reddedecek şekilde eğitmek de bulunuyor.
• Şirketin açıklamasına göre Astra da Mythos gibi geliştiriciler tarafından henüz bilinmeyen güvenlik açıklarına gerçek dünyadaki sistemlere karşı insan müdahalesi olmadan kullanılabilecek yöntemlerigeliştirebiliyor.
Arka plan
Astra Mythos’a rakip olacak olsa da model, Mythos’un piyasaya sürülme takviminin hala aylar gerisinde. Anthropic’in modelinin önizleme sürümü nisan ayında kullanıma sunuldu ve ilk kamuya açık sürümü haziran ayında yayımlandı. Anthropic, Mythos’a kötüye kullanımı tespit etmeye yönelik yeni özellikler ekleyeceğini ve şirketin federal hükümetle birlikte çalışarak Mythos’un daha gelişmiş modeline erişimi “istikrarlı bir şekilde genişletmek” için çalıştığını söyledi.
Hem Mythos hem de Astra, verimlilik açısından insan siber güvenlik çalışanlarından daha iyi performans gösterebiliyor. Bununla birlikte OpenAI ve Anthropic, modellerin yapabileceği hataları düzeltmek ve modellerin gerçek dünyadaki bağlamı doğru şekilde değerlendirmekte zorlanabileceği durumlarda bu bağlamı doğrulamak için insanların hala gerekli olduğunu kabul etti.