Altı ülkenin yönetimleri, 10 teknoloji şirketi ve dört sivil toplum kuruluşu, yapay zeka güvenliğine ilişkin uluslararası işbirliğini güçlendirmek amacıyla ortak bildiri yayımladı. Kanada Başbakanlığının 9 Kasım’da duyurduğu Paris Yapay Zeka Emniyeti ve Güvenliği Çağrısı, gelişmiş yapay zeka modellerinin değerlendirilmesi ve risklerin yönetilmesi için ortak bir çerçeve oluşturulmasını öngörüyor.
Bildiriyi Bahreyn, Kanada, Finlandiya, Fransa, Norveç ve Hollanda'nın devlet ve hükümet başkanları imzaladı. Teknoloji şirketleri arasında Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI ve Synthesia yer aldı. Sivil toplum kuruluşları LawZero, SaferAI, AI Safety Connect ve Ifri de bildirinin imzacıları arasında bulunuyor. Çağrı yeni imzalara açık tutulurken katılımcı listesinin güncellenmeye devam edeceği belirtildi.
Yapay zeka riskleri için ortak sorumluluk
Bildiride yapay zekanın sorumlu biçimde geliştirilmesi ve güvenilir sistemlerin yaygınlaştırılmasının ekonomik, bilimsel ve toplumsal ilerleme açısından önemli fırsatlar sunduğu vurgulandı. Bununla birlikte gelişmiş modellerin geliştirilmesi, kullanılması ve etkilerinin ülkeler arasında sınırları aşması nedeniyle taşıdıkları risklerin de küresel nitelik kazandığına dikkat çekildi.
Devletlerin, şirketlerin veya uluslararası kuruluşların bu riskleri tek başına yönetemeyeceği belirtilirken vatandaşları, işletmeleri ve kurumları korumanın ortak sorumluluk olduğu ifade edildi. Bildiride üç temel alanda uzlaşıya varıldı: Açık ve öngörülebilir bir düzenleyici çerçevenin oluşturulması, şeffaflık ve olay bildirimiyle risk yönetiminde somut ilerleme sağlanması ve yapay zeka sistemleri için kapsamlı değerlendirme standartlarının uygulanması.
Üç temel taahhüt belirlendi
Ortak bildiride işbirliğinin üç ana başlıkta yürütülmesi kararlaştırıldı. İlk olarak gelişmiş yapay zeka modellerinin değerlendirilmesi ve risk yönetimi için ortak teknik standartlar, araçlar ve yöntemler geliştirilecek. Siber güvenlik, kimyasal, biyolojik, radyolojik ve nükleer alanlarda kötüye kullanımın önlenmesi ile modellerin artan özerkliğinden kaynaklanan riskler bu çalışmaların öncelikleri arasında yer alacak. Değerlendirmelerin hassas olmayan sonuçlarının standart bir formatta yayımlanması ve kamuya açık ortak bir veri havuzu oluşturulması da öngörülüyor.
İkinci taahhüt, yapay zeka ekosistemindeki tüm aktörlerin sorumluluk ve hesap verebilirlik ilkelerine bağlı kalması. Gelişmiş model geliştiricileri, modellerinin yeteneklerini, sınırlamalarını ve bilinen risklerini açıklamayı, uygun durumlarda bağımsız uzmanların değerlendirmelerini desteklemeyi ve kendi kontrollerindeki sistemler için güvenli durdurma mekanizmaları uygulamayı taahhüt etti. Bildiri ayrıca yapay zeka kaynaklı büyük ölçekli zararlar karşısında hukuki sorumlulukların netleştirilmesi gerektiğine işaret ediyor.
Üçüncü başlıkta ise bilgi paylaşımı, olay bildirimi ve erken uyarı sistemlerinin geliştirilmesi bulunuyor. Ciddi siber güvenlik ve yapay zeka kontrol olaylarının zamanında paylaşılması, olası tehditlere karşı hızlı müdahale mekanizmalarının kurulması hedefleniyor. Politika yapıcıların, sistemik risklere ilişkin endişelerini dile getiren çalışanlar ve diğer paydaşlar için güvenli ve gizli bildirim kanalları oluşturması da taahhütler arasında yer alıyor.