Bir grup siber güvenlik araştırmacısı, bir hata ödül programının parçası olarak rakip şirket Anthropic’in Claude yapay zeka yazılımını kullanarak OpenAI’ın şirket içi sistemine sızmayı başardı. Bu olay, önde gelen sektör yöneticileri ve araştırmacıların teknolojiye ilişkin daha geniş kapsamlı güvenlik uyarılarında bulunduğu bir dönemde, gelişmiş yapay zeka modellerinin yarattığı tehditlerin giderek arttığına dikkat çekiyor.
Öne çıkanlar
• Siber güvenlik girişimi Hacktron AI’daki araştırmacılar, bir OpenAI çalışanının ChatGPT hesabına erişim sağladıklarını ve bunun ardından şirketin GitHub üzerindeki şirket içi kodlarına erişebildiklerini söyledi.
• Wall Street Journal ekibin OpenAI’ın hata avlama programına katıldığını ve şirketin araştırmacılara çalışmalarını bildirmeleri karşılığında 6 bin 500 dolarlık bir ödül ödediğini belirtti.
• Hacktron olayla ilgili raporunda, ilk olarak Anthropic’in Claude Opus 4.8 modelini kullanarak sızma girişiminde bulunmayı denediklerini ancak modelin “çalışan bir istismar kodu üretmekte birkaç oturum boyunca zorlandığını” söyledi.
• Ancak Anthropic Opus 5’i piyasaya sürdüğünde yeniden denediler ve başarılı oldular. Araştırmacılar ayrıca “her yeni modelin giderek daha yetenekli hale geldiğini” belirtti.
• The Journal’ın haberine göre araştırmacılar, “yetkin siber güvenlik uzmanlarının” kullanımına sunulan Claude’un “özel bir sürümüne” erişebiliyordu.
• OpenAI’a ulaştı ancak şirket diğer yayın organlarına yaptığı açıklamada araştırmacılara bulguları için teşekkür ettiğini ve o zamandan beri söz konusu güvenlik açıklarını giderdiğini söyledi.
• Araştırmacılar raporlarında, OpenAI’a yönelik saldırının gerçekleştirilmesinin “bir yapay zeka ajanı için yalnızca birkaç gün, insan zamanı açısından ise sadece birkaç saat” sürdüğünü belirtti. Saldırı, çok sayıda yazılım ve hizmetin belirli görüntü dosyalarını işleme biçimindeki bir güvenlik açığını araştıran geniş kapsamlı HEIF Heist araştırma projesinin bir parçasıydı. Bu yöntem Slack, Zoom, Meta ve diğerlerinde güvenlik açıkları tespit etti. Araştırmacılara göre çalışma yalnızca iki ayda üç araştırmacı ve toplamda 3 bin dolardan daha az token maliyeti ile tamamlandı.