OpenAI, ekim ayında bir yöneticilere ait konferans odasına yerleştirilmiş bir ses kayıt cihazı bulduğunu açıkladığında, şirketin eski çalışanlarından bazıları şaşırtmadıklarını söyledi. Şirkete yakın beş kaynağın Reuters’a aktardıklarına göre OpenAI 2022'nin sonlarında ChatGPT'yi piyasaya sürmeden önce bile bazı şirket çalışanları, kurumun güvenlik uygulamalarına ilişkin endişelerini şirket içinde dile getirmişti. Çalışanlar bu endişelerini OpenAI'ın üst düzey yöneticileriyle ve yönetim kuruluyla paylaşmıştı. Söz konusu kişilere göre bazı çalışanlar, bu görüşmelerin ardından yönetimin güvenlikten ziyade Google ve Anthropic gibi rakipleriyle rekabeti sürdürmeye odaklandığı sonucuna vardı.
Çalışanlara göre şirketin güvenlik kontrolleri o kadar gevşekti ki yabancı hükümetler de dahil olmak üzere dışarıdan aktörler, yapay zeka laboratuvarının teknolojisine ilişkin hassas bilgilere görece kolaylıkla ulaşabilirdi. Kaynaklara göre örneğin OpenAI'da şirketin kodlarına erişim yetkisi olan herkes, birçok şirket projesinin temelindeki teknik ayrıntıları görebiliyordu.
İki kaynağa göre OpenAI, güvenlik sorunlarını ele almak amacıyla stratejisinde değişikliğe gitmeye başladı. Ürün geliştirmeyi denetleyen üst düzey yönetici Thibault Sottiaux, yakın zamanda OpenAI'ın iç sistemlerini güvence altına almaya yönelik şirket içi bir girişimin sorumluluğunu üstlendi. Kaynaklardan biri Sottiaux'nun ağustos ayında OpenAI'ın üretim mühendislerinin dörtte birini güvenlik altyapısını iyileştirmek üzere yeniden görevlendirdiğini söyledi.
Hız mı güvenlik mi?
ChatGPT'nin 2022'nin sonlarında piyasaya sürülmesinden bu yana yapay zeka teknolojisi ABD için stratejik bir varlık haline geldi. Bu durum, Amerikan şirketleri üzerinde teknolojilerini yabancı rakiplerinden korumaları yönünde baskı oluşturuyor. Ancak ek güvenlik katmanları oluşturmak, yapay zeka teknolojisinin geliştirilme sürecini de yavaşlatabilir. Ayrıca OpenAI ve Anthropic'in, dünyanın en değerli şirketleri arasına girmelerini sağlayabilecek devasa halka arz planlarını karmaşık hale getirebilir.
Bu yılın nisan ayında şirketten istifa eden eski OpenAI araştırmacısı Will DePue, X'te yayımladığı bir gönderide, rekabetin bu kadar yoğun olduğu bir ortamda yapay zeka liderlerinin "güvenlik uğruna hızdan ödün veremeyeceğini" yazdı. DePue, "Onlar için hızlı hareket etmek, güvende olmaktan daha önemli; buna en büyük ulusal düşmanlarımız karşısında güvende olmak da dahil" ifadelerini kullandı.
“En fazla hedef alınan kuruluşlardan biriyiz”
Çalışanların endişeleri ve yönetimin bu sorunlar karşısında harekete geçmediğine yönelik değerlendirmeleri sorulduğunda OpenAI sözcüsü Elana Widmann, OpenAI'ın dünyada en fazla hedef alınan kuruluşlardan biri olduğunu söyledi. Widmann'a göre şirket, içeriden gelebilecek tehditlere, siber suçlulara ve birçok ülkeye yönelik saldırılara karşı korunmak amacıyla güvenlik programına büyük yatırımlar yapıyor.
Widmann, "Teknolojimizi, verilerimizi ve çalışanlarımızı korumak, ciddiyetle ele aldığımız bir sorumluluk ve ulusal önem taşıyan bir mesele. Son dönemde attığımız adımlar, bu programın görevini yerine getirdiğini gösteriyor: Riskleri tespit etmek ve kararlı biçimde karşılık vermek. Teknoloji ve tehditler geliştikçe savunmamızı güçlendirmeye devam edeceğiz” ifadelerini kullandı.
Ses kayıt cihazı olayı
13 Ekim'de ABD Adalet Bakanlığı, federal ajanların Suudi Arabistan vatandaşı bir kişiyi tutukladığını ve bu kişiyi bir yönetici konferans odasına tuvalet kağıdının içine gizlenmiş bir ses kayıt cihazı yerleştirmekle suçladığını açıkladı. 35 yaşındaki Abdulrahman Alfozan, o sırada OpenAI'da mühendis olarak çalışıyordu.
Mahkemeye sunulan bir belgeye göre Alfozan, OpenAI çalışanları için tasarlanmış bir yapay zeka aracını kullanarak yöneticilerin Suudi Arabistan ziyaretlerine ilişkin şirket içi belgeleri ve Suudi bakanlarla yapılacak toplantılara OpenAI yetkililerinden hangilerinin katılma ihtimalinin daha yüksek olduğunu araştırdı.
Alfozan, Suudi Arabistan'da faaliyete geçecek yeni bir yapay zeka girişimi için kendisini işe almaya çalışan bir Suudi kraliyet ailesi üyesiyle de düzenli olarak iletişim halindeydi. Alfozan'ın avukatları yorum talebine yanıt vermedi.
Şirketteki herkes projelere ulaşabiliyor
OpenAI'ın uygulamaları hakkında bilgi sahibi beş kişinin aktardığına göre bazı çalışanlar şirket içinde bilgilere geniş ölçüde erişilebilmesinden uzun süredir endişe duyuyordu. OpenAI'da şirketin kodlarına erişebilen herkes, bir çalışanın görev alanıyla ilgisi olmayan hassas projeler de dahil olmak üzere birçok şirket projesinin temelindeki ayrıntıları görebiliyordu. Bunun nedeni, kaynaklara göre OpenAI'ın kodlarının büyük bölümünü sektörde "monorepo" olarak bilinen tek bir depoda saklamasıydı.
Monorepo oldukça yoğun ve karmaşık bir sistem. Bu durum geçmişte bazı potansiyel saldırganları caydırmış olabilir. Ancak artık yapay zeka ajanları bu büyüklükteki materyalleri tarayabiliyor. Beş kaynağa göre OpenAI geçmişte araştırma belgelerinin büyük bölümünü GitHub ve Slack üzerinde tutuyordu. Bu durum, bazı çalışanlar arasında kötü niyetli aktörlerin hala kritik bilgilere ulaşabileceği yönünde endişelere yol açıyordu. Bununla birlikte kaynaklardan biri ve OpenAI, şirketin hassas çalışmalara erişimi kısıtladığını belirtti.
OpenAI, en hassas çalışmalarının önemli bir bölümünün sıkı erişim kontrollerine sahip ayrı kod depolarında tutulduğunu vurguladı. Şirket ayrıca monorepo'nun tüm kodlarını veya şirketin modellerine ilişkin kritik ayrıntıları içermediğini söyledi. Bunlar arasında, bir modelin nasıl davranacağını belirleyen sayısal değerler, yani model ağırlıkları da bulunuyor.
Şirketin uygulamalarına aşina üç kişinin aktardığına göre bir diğer sorun, OpenAI'ın araştırmacıların yeni modelleri yoğun biçimde test ettiği ve zorladığı, "sandbox" olarak adlandırılan ortamlar gibi şirket içi araçları düzenli olarak güvenlik incelemesinden geçirmemiş olmasıydı.
Üç kaynağa göre çalışanlar bu araçları kendi işleri doğrultusunda sıklıkla değiştiriyordu. Ancak yapılan değişiklikler her zaman güvenlik sorunları açısından test edilmiyordu. Bu da araçları dışarıdan gelebilecek saldırılara karşı potansiyel olarak savunmasız bırakıyordu. Şirket, Ekim 2024'te göreve başlayan Bilgi Güvenliği Direktörü Dane Stuckey yönetiminde güçlü bir güvenlik yaklaşımına sahip olduğunu söyledi. OpenAI ayrıca artık şirket içi araçlarına düzenli güvenlik incelemeleri uyguladığını belirtti.
Hugging Face krizi
OpenAI bünyesindeki güvenlik endişeleri, bu yaz şirketin test aşamasındaki yapay zeka ajanlarının yapay zeka şirketi Hugging Face'e sızmasıyla yeniden alevlendi. Bu olay, Beyaz Saray da dahil olmak üzere eyalet, yerel ve federal düzeydeki yetkililerin incelemelerini beraberinde getirdi. Siber güvenlik şirketi Hacktron AI, araştırmacılarından üçünün temmuz ayında Anthropic'in rakip bir yapay zeka modelini kullanarak birden fazla OpenAI çalışanına ait ChatGPT hesaplarına sızdığını ve şirketin monorepo'su da dahil olmak üzere bazı OpenAI iç sistemlerine erişim sağladığını açıkladı.
Bu olay, gelişmiş yapay zekanın artık doğrudan yapay zeka şirketlerinin kendilerini de saldırı riskiyle karşı karşıya bırakabildiğini ortaya koydu. OpenAI sözcüsü Widmann, şirketin bulgularını paylaştıkları için araştırmacılara teşekkür ettiğini ve gelecekte benzer saldırıların riskini en aza indirmek amacıyla adımlar attığını söyledi. OpenAI, 2 Kasım’da yayımladığı bir blog yazısında savunmasını güçlendirmek amacıyla "bir sonraki şirket içi güvenlik atılımını" planladığını açıkladı.