Dünyanın önde gelen üç yapay zeka şirketinin yöneticileri, giderek daha güçlü hale gelen yapay zeka sistemlerine dair Birleşmiş Milletler (BM) Güvenlik Konseyi’ne bilgi verdi. Yıllık Genel Kurul toplantıları sırasında 15 üyeli konseye hitap edenler arasında, sektörün en önde gelen yöneticilerinden üçü olan OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei ve Hugging Face'in kurucu ortağı Clément Delangue de yer aldı. Anthropic'in CEO'su Amodei, Güvenlik Konseyi'ne yaptığı konuşmada, “Kötü yönetilmesi halinde yapay zekanın bir bütün olarak insanlık için bir risk oluşturabileceğine inanıyorum” dedi.
Hükümetler, kurumların ayak uydurabileceğinden daha hızlı ilerleyen yapay zeka sistemlerini nasıl denetleyecekleri konusunda zorlanırken, yapay zeka geliştirmede iki baskın aktör olan ABD ve Çin, teknolojinin küresel kurallarla sınırlandırılması gerekip gerekmediği veya büyük ölçüde piyasa güçlerine mi bırakılması gerektiği konusunda görüş ayrılığı yaşamaya devam ediyor. Altman konseye, “Yapay zeka demokratik olacaksa, en önemli kararlar yalnızca San Francisco'daki laboratuvarlar tarafından alınamaz. Bu kararlar demokratik süreçlerle ve hizmet ettikleri halka karşı sorumlu hükümetler tarafından şekillendirilmelidir. Uluslararası düzeyde bunun için işbirliği gerekecek” dedi.
“Tehlikeler gerçek ve yakın”
OpenAI CEO’su “Geçmişimizde, rekabet eden ve birbirlerinden her zaman pek de hoşlanmayan ülkelerin, güçlü ve yeni bir teknoloji karşısında ortak çıkarlar ve toplumun ortak yararı için bir araya geldikleri zamanlar oldu. Bunun da böyle bir dönem olması gerektiğine inanıyoruz” ifadelerini kullandı.
Yapay zekanın “vaftiz babalarından” biri olarak kabul edilen Kanadalı Yoshua Bengio ise geçen yıl BM Genel Kurulu tarafından oluşturulan Bağımsız Uluslararası Bilimsel Panel'in eş başkanı olarak Güvenlik Konseyi'nde, tehlikelerin gerçek ve yakın olduğunu söyledi. Bengio, “Bu konsey, üyelerinden hiçbirinin tercih etmeyeceği, hiçbirinin tek başına kontrol altına alamayacağı ve savunduğumuz sınırlara saygı göstermeyen eşi benzeri görülmemiş bir tehditle karşı karşıya” dedi.
Trump yapay zekayı dizginlemek değil, teşvik etmek istiyor
ABD Başkanı Donald Trump ile Çin lideri Şi Cinping'in Washington'da gerçekleştireceği görüşme öncesinde ABD ve Çin, ulusal güvenlik düzeyine ulaşan yapay zeka bağlantılı olayları kapsayacak şekilde, ortak hedefler ve ortak tehditler konusunda bir bildirim sistemi oluşturulmasını görüştü. Trump salı günü BM Genel Kurulu'nda dünya liderlerine yaptığı konuşmada, yapay zekayı “kontrol etmek için küreselci bir düzen oluşturma yönündeki her türlü girişimi reddettiğini” söyledi. Teknolojiyi olağanüstü olarak nitelendiren Trump, ABD'nin yine de dikkatli olacağını belirtti.
“Şu anda Çin'in, herkesin ve diğer tüm ülkelerin açık ara önündeyiz ve bu şekilde kalmaya devam edeceğiz” diyen Trump, “Sanayi Devrimi'nden daha büyük olacak bir şeyin büyümesini engellemeyeceğim. Onu dizginlemek yerine teşvik edeceğiz. Adalet Bakanlığı aracılığıyla onu yakından izleyeceğiz” diye ekledi.
Uzun süredir yapay zeka konusunda küresel yönetişim çağrısında bulunan BM Genel Sekreteri António Guterres ise hızla ilerleyen yapay zekanın göz ardı edilemeyecek riskler yarattığı konusunda uyarılarda bulundu. Güvenlik Konseyi, yapay zekanın risklerini 2023 yılında ilk kez ele almıştı. O dönemde Çin, teknolojinin “başıboş bir ata” dönüşmemesi gerektiğini söylerken, ABD yapay zekanın insanları sansürlemek veya baskı altına almak amacıyla kullanılmaması konusunda uyarıda bulunmuştu. Dönemin ABD Dışişleri Bakanı Antony Blinken, 2024 yılında Güvenlik Konseyi'nin yapay zeka konulu bir toplantısına başkanlık etmişti.