OpenAI'ın test modeli tarafından hacklenen Hugging Face'in yayımladığı zaman çizelgesine göre kontrolden çıkan ajan üçüncü taraf bir sağlayıcının altyapısında barındırılan izole bir test ortamına sızdı ve son saldırısını buradan başlattı. Kontrollü bir testten çıkarak başka bir yapay zeka şirketini hackleyen kontrolden çıkmış yapay zeka modeli, Reuters haber ajansının aktardığına göre ikinci bir teknoloji şirketindeki bir müşteriyi de ele geçirdi.
Hugging Face üçüncü taraf şirketin adını açıklamadı ancak Reuters’a göre bu şirket New York merkezli Modal Labs. Modal'ın CTO’su Akshat Bubna, ajanın platformlarında barındırılan bir müşteriye ait güvenlik açığı bulunan koddan yararlandığını söyledi. Bubna, "Modal'ın platformu veya izolasyon sistemi hiçbir şekilde ihlal edilmedi" dedi.
Bir Modal müşterisinin ele geçirilmesi, Hugging Face'e yönelik saldırıların yalnızca bir parçası olsa da bu durum kontrolden çıkan ajanın daha önce bilinenden daha geniş bir alana yayıldığını gösteriyor. OpenAI, Modal'ın müşterilerinden birinin hacklenmesi hakkında yorum yapmayı reddetti ve bunun yerine kontrolden çıkan ajanının dört farklı hizmette bulunan dört ayrı hesaba sızdığını belirttiği açıklamayı yineledi. Ancak ChatGPT üreticisi bu hizmetlrein hangileri olduğunu açıklamadı. Şirket ayrıca, Hugging Face'e yönelik platform düzeyindeki ihlalle ilgili daha önce paylaştıklarının ciddiyeti veya ölçeğiyle aynı seviyede başka bir faaliyet tespit etmediklerini belirtti.
Saldırı kasıtlı mıydı?
Hugging Face'e yönelik son saldırı dünya genelinde büyük ilgi ve endişe yarattı. Çünkü OpenAI’ın kontrolden çıkan ajanı test ortamından kaçmayı ve açık internete ulaşmayı başardı. OpenAI'ın açıklamasına göre ajan daha sonra çalınmış oturum açma bilgilerini kullandı ve daha önce bilinmeyen bir güvenlik açığından yararlanarak Hugging Face'in sunucularına erişti.
Hugging Face'in kurucu ortaklarından Clement Delangue, şirketin saldırının arkasında ileri düzey bir yapay zeka laboratuvarının bulunduğundan şüphelendiğini ancak OpenAI'ın kötü niyet taşıdığına inanmadığını ifade etti. OpenAI'ın aktardığına göre kontrolden çıkan ajan saldırıdan sonra devre dışı bırakıldı ve araştırma erişimi kısıtlandı.