Nvidia, yapay zeka ajanlarının test ortamlarından çıkıp dış sistemlere yetkisiz erişim sağladığı son dönemdeki güvenlik olaylarını önleyebileceğini iddia ettiği yeni bir güvenlik sistemini kullanıma sundu.
Öne çıkanlar
• Şirket yaptığı açıklamada, “Open Agent Safety Platform” adlı sistemin, yeni yapay zeka ajanlarının hem test edilmesi hem de kullanıma sunulması sırasında yapay zeka güvenliğini artırmak üzere tasarlanmış bir referans sistem olduğunu söyledi.
• Açıklamada, son dönemde yaşanan güvenlik olaylarının, yapay zeka şirketlerinin uzun süre çalışan ajanlar üzerinde daha fazla kontrol uygulayabilmesini sağlayacak böyle bir sisteme duyulan ihtiyacı ortaya koyduğu belirtildi.
• Açıklamada belirli bir olaydan söz edilmese de Nvidia’dan bir yetkili, çeşitli medya kuruluşlarına yaptığı açıklamada bu yeni platformun, temmuz ayında bir OpenAI ajanının kendisinden böyle bir talimat almadan test protokollerini ihlal ederek Hugging Face’e sızdığı olayın önüne geçebileceğini söyledi.
• İki parçadan oluşan güvenlik sistemi, CPU’lar üzerinde çalışan ajanlar için sınırlar belirleyen “Nvidia OpenShell” ile şirketin kendi BlueField çipleri üzerinde çalışan ve yapay zeka ajanlarının tanımlanan sınırların dışına çıkma girişimlerini karantinaya alıp durduran "Sentry” adlı sistemi içeriyor.
• Açıklamada Microsoft, Palantir, Hugging Face ve CrowdStrike gibi çeşitli şirketler, Nvidia’nın yeni güvenlik sistemleriyle çalışan şirketlere örnek olarak sıralandı. Ancak önde gelen iki yapay zeka şirketi olan OpenAI ve Anthropic’ten söz edilmedi.
Nvidia CEO’su yapay zeka güvenliği hakkında ne düşünüyor?
CEO Jensen Huang, yapay zeka şirketlerine yönelik daha fazla yasal düzenleme yapılması ve gelişmiş yapay zekanın geliştirilmesinin yavaşlatılması için koordineli adımlar atılması yönündeki çağrılara güçlü biçimde karşı çıktı. Bu ayın başlarında Salesforce’un yıllık Dreamforce etkinliğine katılanlara konuşan Huang, yapay zeka güvenliği ile hız arasında seçim yapılması gerektiği düşüncesinin “yanlış” bir ikilem olduğunu söyledi. “Kesinlikle ikisine aynı anda sahip olabilirsiniz” dedi. Ardından da, “Yeni yasalara ihtiyacımız yok, yeni düzenlemelere ihtiyacımız yok" diye ekledi.
Huang ayrıca, ABD Başkanı Donald Trump'ın San Francisco’daki bir zirvede Nvidia CEO’sunu sahnede canlı olarak aradığı ve yapay zeka güvenliğiyle ilgili korkuları bir aldatmaca olarak nitelendirdiği sırada Trump’ın yanında yer aldı. Görüşmede Trump, yapay zekaya ve veri merkezi inşasına karşı çıkan kişilerin Çin’in “ekmeğine yağ sürdüğünü” savundu ve “Bunun olmasına izin vermeyeceğiz” dedi. Huang ise Trump'a, “Haklısınız. Bunun olmasına izin vermeyeceğiz, efendim” diye karşılık verdi. Gelişmiş yapay zekanın 2030'a kadar insanlığın yok olmasına yol açabileceği yönündeki endişeler hakkında ise Huang, CBS News’e böyle bir şeyin gerçekleşme ihtimalinin “yüzde 0” olduğunu söyledi.
Forbes değerlemesi
Forbes’un tahminlerine göre Huang’ın net serveti 194,9 milyar dolar. Bu da onu dünyanın en zengin yedinci kişisi yapıyor. Huang’ın şirketi Nvidia ise 5,42 trilyon dolarlık piyasa değeriyle dünyanın en değerli şirketi konumunda.