ABD hükümeti Anthropic’in Mythos modellerine yönelik ihracat kısıtlamalarını kaldırdı. Böylece şirket, kullanıcıların en gelişmiş yeni modellerine erişimini yeniden sağlamaya başlayabilecek. Bu karar ABD Ticaret Bakanı Howard Lutnick’in, Trump yönetiminin yapay zeka şirketiyle birlikte modeli "analiz edip onaylamak" için çalıştığını söylemesinin ardından geldi.
Öne çıkanlar
• Anthropic, haziran ayının başlarında güçlü Mythos modeli temel alınarak geliştirilen Fable 5 modelini tanıttı. Şirket, bu modelin kullanıcıların siber güvenlik, ayrıca biyolojik silah üretiminde kullanılabilecek biyoloji ve kimya konularında soru sormasını engelleyen güvenlik özellikleri içerdiğini belirtti.
• ABD Ticaret Bakanlığı, birkaç gün sonra ihracat kısıtlaması getirerek şirketi bu modelleri hızla geri çekmeye zorladı.
• Anthropic yayımladığı bir blog yazısında, ihracat kısıtlamalarına yol açan güvenlik endişelerine ilişkin daha fazla ayrıntı paylaştı. Şirket, kısıtlamaların ABD hükümetinin, Amazon araştırmacılarının hazırladığı ve Fable 5’in güvenlik mekanizmalarını başarıyla aşarak yazılım güvenlik açıklarını tespit edebildiklerini gösteren bir rapordan haberdar olmasının ardından geldiğini doğruladı.
• Bir olayda Amazon araştırmacıları ayrıca Fable 5’i, bir yazılım güvenlik açığının nasıl istismar edilebileceğini "göstermeye" de ikna etmeyi başardı.
• Bununla birlikte Anthropic yaptığı açıklamada Amazon araştırmacılarının kullandığı özel tekniğin artık vakaların "yüzde 99'undan fazlasında" engellendiğini belirtti.
• Birden fazla basın kuruluşunun ulaştığı ve CEO Dario Amodei’ye gönderilen ikinci bir mektupta ise Lutnick, şirketin yeni modellerle ilişkili riskleri "ele almak" amacıyla hükümetle birlikte çalıştığını ifade etti.
• Anthropic’in en yeni modelinin daha güçlü ve daha az güvenlik önlemine sahip sürümü olan Mythos 5, şirketin "savunma amaçlı siber güvenlik çalışmaları" için güvenilir olarak tanımladığı sınırlı sayıdaki Project Glasswing ortağının kullanımına sunuldu. Project Glasswing, teknolojiyi erken erişimle kullanarak olası riskleri belirlemeye yardımcı olan daha geniş bir şirket grubundan oluşuyordu.
Arka plan
Bu gelişme, yapay zeka modellerinin kullanımı konusunda aylardır Trump yönetimi ile anlaşmazlık yaşayan Anthropic için yeni bir başlangıcın işareti olabilir. Mart ayında Pentagon, ABD Savunma Bakanlığı yetkilileri ile yapay zeka şirketi arasında yaşanan ve şirketin hükümete modellerine sınırsız erişim vermeyi reddettiği anlaşmazlığın ardından Anthropic’i bir "tedarik zinciri riski" olarak sınıflandırmıştı. Anthropic ise defalarca, modellerinin otonom silah sistemlerinde veya Amerikalıların kitlesel gözetiminde kullanılmasına izin vermeyeceğini açıklamıştı. Bu gelişme ayrıca, şirketin büyük ilgi görmesi beklenen halka arz hazırlıkları öncesinde olumlu bir sinyal olarak değerlendiriliyor.