Meta, yapay zeka modellerinden birinin siber güvenlik testleri sırasında başka bir şirketi hacklediğini duyurdu. Bu olay, benzer vakaların daha önce Anthropic ve OpenAI'de de yaşanmasının ardından, geliştiricilerin giderek daha yetenekli hale gelen yapay zeka sistemlerini nasıl kontrol altında tutabileceğine yönelik endişeleri artırdı. Meta ve Anthropic'teki olaylar, Anthropic'in modellerine yanlışlıkla açık internete erişim sağlayan yapılandırma hatalarından kaynaklandı. OpenAI'ın vakasında ise bir yapay zeka ajanı, siber güvenlik testleri sırasında daha önce bilinmeyen bir güvenlik açığını kendi başına kullanarak internete erişmeyi başardı.
Bu ihlaller, gelişmiş yapay zeka sistemlerinin yeni siber güvenlik riskleri oluşturabileceğine dair artan kaygıları gözler önüne seriyor ve şirketler daha güçlü modeller geliştirmek için yarışırken, ABD hükümetinin yapay zeka güvenliğini artırmaya yönelik çalışmalarını hızlandırması bekleniyor. Yapay zeka alanındaki bazı önde gelen isimler ise daha güçlü güvenlik önlemleri hayata geçirilene kadar geliştirme çalışmalarının yavaşlatılması gerektiğini savunuyor.
Meta, kendisi adına siber güvenlik değerlendirmeleri yapan bağımsız şirket Irregular'ın yaptığı bir yapılandırma hatası nedeniyle modellerinden birine test sırasında yanlışlıkla internet erişimi verilmesiyle ilgili olayı araştırdığını açıkladı. Meta yaptığı açıklamada, modelin "diğer şirketlerde daha önce bildirilen vakalara benzer şekilde üçüncü taraf bir hizmetteki güvenlik açığından yararlandığını" belirtti. The Information'ın konuya yakın kaynaklara dayandırdığı haberine göre olaya karışan model, Meta'nın gerçek dünya kodlama ve otonom ajan görevleri için şimdiye kadarki en yetenekli modeli olarak tanıttığı Muse Spark 1.1 oldu. Haberde, modelin kimliği açıklanmayan bir şirketin sistemlerine sızdığı ve şirketin iç ortamında değişiklikler yaptığı ifade edildi.
Irregular sözcüsü Reuters'a yaptığı açıklamada, yaşanan olayın "geçen hafta Anthropic tarafından zaten açıklanan değerlendirme ortamı sorunuyla tamamen aynı" olduğunu ifade etti. Irregular ayrıca, "Şu anda açıkta kalan herhangi bir sorun bulunmuyor. Irregular, güvenli sınırlandırma yöntemleri ve siber güvenlik değerlendirmelerinin güvenli şekilde yürütülmesine ilişkin en iyi uygulamaları paylaşmak amacıyla bir teknik rapor hazırlıyo." açıklamasını yaptı.
Siber risklere ilişkin endişeler
Son dönemde yaşanan ihlaller, ABD'li yetkililer arasında giderek daha yetenekli hale gelen yapay zeka modellerinin siber saldırılar gerçekleştirmek veya bunları kolaylaştırmak amacıyla kullanılabileceği yönündeki endişeleri artırdı. Cumhuriyetçi eyalet başsavcılarından oluşan bir grup, OpenAI'dan Hugging Face ihlaliyle ilgili olabilecek tüm belgeleri saklamasını istedi. OpenAI ise bu talebi ciddiyetle değerlendireceğini ve olay hakkında teknik bir rapor yayımlayacağını açıkladı.
Hafta başında Beyaz Saray Meta, Anthropic, OpenAI ve Google dahil önde gelen yapay zeka şirketlerini, gelişmiş yapay zeka modelleri için yeni tamamlanan gönüllü siber güvenlik test çerçevesini görüşmek üzere yetkililerle bir araya gelmeye davet etti. Reuters'ın haberine göre Trump yönetimi, henüz yayımlanmamış test kurallarını şirket temsilcileriyle görüştü ve Meta'nın Llama modeli ile Nvidia'nın Nemotron modeli gibi açık ağırlıklı yapay zeka modellerinin planlanan gönüllü güvenlik testleri kapsamına alınmayacağını geliştiricilere bildirdi.