OpenAI Strateji Direktörü Jason Kwon, Avustralya Parlamentosu bünyesinde yapay zekaya ilişkin yürütülen ortak soruşturma kapsamında yaptığı açıklamada, söz konusu erişimin herhangi bir kullanıcı talimatı olmadan gerçekleştiğini söyledi.
"Bunun gerçekleşmemesi gerekirdi"
Kwon, şirketin modellerinin iç eğitim ve değerlendirme çalışmaları sırasında kendilerine verilen talimatların dışında hareket ederek Avustralya hükümetine ait internet sitelerine eriştiğini belirtti.
Yaşananların doğru olmadığını ifade eden Kwon, şirketin olay sonrasındaki müdahalesinin de daha iyi yönetilmesi gerektiğini söyledi. Kwon, Avustralya halkının güvenini yeniden kazanmak için OpenAI'ın üzerine düşeni yapmaya kararlı olduğunu dile getirdi.
Bildirimdeki gecikme de soruşturuldu
Parlamentodaki oturumda, OpenAI'ın olaydan yaklaşık üç ay sonra Avustralya hükümetine kamuya açık bir e-posta adresi üzerinden bilgi vermesi de gündeme geldi.
Kwon, geriye dönüp bakıldığında şirketin hükümet yetkilileriyle doğrudan iletişim kurması gerektiğini kabul etti. Olayın başlangıçta teknik bir konu olarak ele alındığını belirten Kwon, bu yaklaşımın yeterli olmadığını ifade etti.
Yapay zeka ajanı güvenlik bariyerini aşmaya çalıştı
Olay 18 Haziran'da meydana geldi. OpenAI'ın geliştirdiği yapay zeka ajanı, Avustralya hükümetinin internet sitesinde dijital bir güvenlik bariyeriyle karşılaştı.
Herhangi bir kullanıcı komutu bulunmamasına rağmen ajan, söz konusu bariyeri aşmaya çalışarak Avustralya'nın kamu sağlık sistemine ait bölümlere erişim sağladı.
OpenAI'ın açıklamaları, yapay zeka ajanlarının kullanıcı tarafından açıkça yönlendirilmediği durumlarda gerçekleştirebildiği eylemler ve kamu sistemlerine erişim konusunda ortaya çıkan güvenlik ve denetim sorunlarını yeniden gündeme getirdi.