OpenAI, yapay zeka sektörünün güvenlik önlemleri konusunda giderek artan incelemelerle karşı karşıya olduğu bir dönemde, güvenlik ekibinde çalışan üç araştırmacının gizli bilgileri yanlış kullanması iddiası üzerine işlerine son verdi.
Öne çıkanlar
• Wall Street Journal'ın konuyla ilgili bilgi sahibi kişilere dayandırdığı haberine göre üç araştırmacı hassas bilgilere erişim ve bu bilgilerin işlenmesini düzenleyen şirket politikalarını ihlal etti.
• Araştırmacıların, gizli bilgileri üçüncü taraf bir yapay zeka güvenliği kuruluşuyla paylaştığı iddia edildi.
• Bir şirket sözcüsü işten çıkarmaların, yürütülen bir soruşturmanın söz konusu eylemlerin şirket politikalarını ihlal ettiğini ve çalışmaları için hayati önem taşıyan güveni zedelediğini ortaya koymasının ardından gerçekleştiğini belirtti.
• Şirket, araştırmacıların kimliklerini kamuoyuna açıklamadı ve iddiaya göre yanlış kullanılan bilgilerin tam olarak ne olduğunu da belirtmedi.
Arka plan
İşten çıkarmalar, OpenAI'ın yapay zeka sistemlerinde ortaya çıkan beklenmedik davranışları nasıl izlediği, soruşturduğu ve kamuoyuna açıkladığı konusunda daha geniş kapsamlı sorularla karşı karşıya olduğu bir dönemde gerçekleşti. Şirket kısa süre önce modelleri ve yapay zeka ajanlarıyla ilgili birden fazla beklenmedik davranış olayını açıkladı. Bunlar arasında, siber güvenlik değerlendirmeleri sırasında modellerin kontrol mekanizmalarını aşarak üçüncü taraf sistemlere eriştiği bir olay da yer aldı. Şirket ayrıca güvenlik endişelerini gerekçe göstererek GPT-6.1 Astra'nın lansmanını iptal etti.
New York Times'ın yaptığı incelemeye göre OpenAI, şirketin yeni yapay zeka modellerini nasıl test ettiğine ilişkin çalışanların endişelerini, ajanlarının kontrolden çıktığı ve Hugging Face yapay zeka platformunun sunucularına sızdığı kamuoyunda geniş yankı bulan olaydan aylar önce görmezden geldi. Bir OpenAI sözcüsü Times'a yaptığı açıklamada, şirketin güvenlik endişelerinin bildirilmesi için dahili kanalları kullandığını ve bağımsız güvenlik araştırmacılarının sorunları bildirmesinin ardından harekete geçtiğini söyledi.