OpenAI, yapay zeka sistemlerinin kendi başına başka bir yapay zeka şirketinin sunucularına sızdığını ve saldırının ancak mağdur şirket olan Hugging Face’'in Çin menşeli bir modeli tamamen otonom siber saldırıyla mücadele etmek için devreye almasının ardından durdurulabildiğini kamuoyuna açıkladı.
Öne çıkanlar
• Yapay zeka ve makine öğrenimi için açık kaynaklı bir platform olan Hugging Face, bu ayın başlarında otonom bir yapay zeka ajan sistemi tarafından saldırıya uğradığını açıkladı. OpenAI yaptığı açıklamada, benzeri görülmemiş olarak nitelendirdiği bu olaydaki sistemlerin kendi yapay zeka modelleri olduğunu kabul etti.
• OpenAI yakın zamanda yayımlanan siber güvenlik odaklı GPT-5.6 Sol modeli ile henüz yayımlanmamış, daha da yetenekli bir modelin kontrolden çıktığını, Hugging Face'in sistemine sızarak herhangi bir talimat almaksızın siber saldırıyı gerçekleştirdiğini belirtti.
• Hugging Face, saldırıyı durdurmak için ABD merkezli tescilli yapay zeka modellerinden yardım almaya çalıştığında, bu modellerin "olay müdahale ekibi ile saldırganları ayırt edemediğini" ifade etti. Bunun üzerine şirket, yardım almak için Çin'deki Z.ai laboratuvarının açık kaynaklı GLM 5.2 modeline başvurdu.
• Hugging Face, saldırganların geride bıraktığı 17 binden fazla izi analiz etmek için Çin modelini kendi altyapısında çalıştırdı. Yabancı üretim bir ürüne başvurmak zorunda kalınması ise Amerikan şirketlerinin artık siber savunmaları konusunda Çin'e bağımlı hale gelip gelmediğine dair endişeleri artırdı.
• Uzmanlar daha sonra Batılı yapay zeka modellerinin kendi yerleşik güvenlik kısıtlamaları yüzünden etkisiz kaldığını açıkladı. Hugging Face de olay raporunda, şirketlerin bir olay yaşanmadan önce doğrulanmış, hazır durumda ve kendi altyapılarında çalıştırabilecekleri yetkin bir modele sahip olmalarını tavsiye etti.
• Hugging Face daha sonra yaptığı açıklamada, saldırı sırasında şirketin dahili veri kümeleri ile hizmet kimlik bilgilerinin ele geçirildiğini duyurdu.
• Hugging Face CEO'su Clem Delangue yaptığı açıklamada şunları söyledi: "Muhtemelen türünün ilk örneği olan bu olay, uzun zamandır inandığımız bir gerçeği kanıtlıyor: Yapay zeka güvenliği, gizlilik içinde çalışan tek bir şirket tarafından çözülemeyecek. Bu sorun açık, iş birliğine dayalı bir yaklaşımla ve dünyanın her yerindeki tüm savunucuların yapay zekaya geniş erişimi sayesinde çözülecek."
• Hugging Face, olay raporunu, Çinli girişim Moonshot AI'ın küresel piyasalarda büyük yankı uyandıran Kimi K3 modelini tanıttığı gün yayımladı. Moonshot, Kimi K3'ün dünyanın en büyük açık yapay zeka modeli olduğunu iddia ediyor ve modeli Anthropic ile OpenAI'ın önde gelen sistemlerine doğrudan rakip olarak konumlandırıyor. Kimi K3, açık ağırlıklı bir modeldir yani geliştiricilerin modeli indirip çalıştırmasına ve değiştirmesine izin veriyor. Buna karşılık ChatGPT ve Claude gibi tescilli modellerin temel sistemleri kapalı. Kimi K3'ün tanıtıldığı gün, Moonshot'ın Çinli rakipleri Zhipu ve MiniMax'ın hisseleri Hong Kong işlemlerinde sırasıyla yüzde 28,4 ve yüzde 15,6 değer kaybetti. Z.ai'ın hisseleri de yüzde 28,4 düştü.
Arka plan
OpenAI son bir yılın büyük bölümünü hızlı teknik gelişmeler ile bitmek bilmeyen tartışmalar, hukuki anlaşmazlıklar ve kamuoyu baskısı arasında denge kurmaya çalışarak geçirdi. Şirket, kurucu ortaklarından ve ilk finansal destekçilerinden Elon Musk ile kurumsal yapısı ve yönü konusunda bir hukuk mücadelesini sürdürürken aynı zamanda yazarlar, yayınevleri ve medya kuruluşlarının, telif hakkıyla korunan eserleri izin almadan yapay zeka modellerini eğitmek için kullandığı iddiasıyla açtığı telif davalarına karşı da kendisini savunuyor.
Şirketten birçok üst düzey yönetici ayrıldı ve bu personel değişimi, OpenAI'ın istikrarına ilişkin soru işaretlerini artırdı. OpenAI, bu ayın başlarında en yeni ürünü olan GPT-5.6'yı, modelin ne kadar güçlü göründüğü ve doğurabileceği güvenlik risklerine ilişkin endişeler eşliğinde yayımladı.
Reuters'ın haberine göre OpenAI, ABD hükümetinin modelin ulusal güvenlik açısından risk oluşturup oluşturmadığını değerlendirmek üzere erken erişim talep etmesinin ardından modelin geniş çaplı kamuya sunulmasını erteledi. Başlangıçta yalnızca sınırlı sayıda doğrulanmış iş ortağı erişim elde etti ve bu alışılmadık dağıtım süreci hem yapay zeka güvenliği hem de hükümetin ileri seviye yapay zeka sistemlerine erişimi kontrol etmedeki rolü konusunda tartışmaları alevlendirdi.
Forbes değerlemesi
OpenAI'da neredeyse hiçbir finansal payı bulunmayan Altman'ın servetinin yaklaşık 3,4 milyar dolar olduğu tahmin ediliyor. OpenAI Başkanı Greg Brockman ise mayıs ayında mahkemede verdiği ifadede, daha önce kamuoyuna açıklanmamış olan şirket hissesinin 20 milyar doların üzerinde, hatta 30 milyar dolara yakın bir değere sahip olduğunu, buna rağmen OpenAI'a kişisel olarak hiç para yatırmadığını söyledi.