Hafta sonu Silikon Vadisi’nin bazı tanınmış isimleri, önde gelen yapay zeka şirketlerinin yapay zekanın geliştirilmesini yavaşlatma ve teknolojiyi daha sıkı biçimde düzenleme çağrılarına karşı çıktı. Cumartesi günü Anthropic CEO’su Dario Amodei bir makalesinde yapay zekanın araştırmacıların onu güvenli bir şekilde geliştirmeye devam edemeyeceği kadar hızlı ilerlediğini söyledi. Amodei, bağımsız denetçilerin yapay zeka laboratuvarlarının güvenlik çalışmalarını izlemesini ve yetkililerin laboratuvarların güvenlik standartlarını koordine etmek üzere birlikte çalışmasına izin vermesini önerdi.
Ne yapılması gerektiği konusunda farklı görüşlere sahip gibi görünseler de OpenAI CEO’su Sam Altman, SpaceX CEO’su Elon Musk ve Google DeepMind'ın başkanı Demis Hassabis, daha yavaş bir ilerleme hızına duyulan ihtiyaç konusunda hemfikir olduklarını söyledi. Ancak diğer teknoloji sektörü liderleri, Amodei'nin motivasyonlarını ve yapay zekanın risklerini, diğer şirketlerin önde gelen yapay zeka şirketleriyle rekabet etmesini zorlaştırmak amacıyla abartıp abartmadığını sorguladı.
“Rol yapmayı bırakın”
ABD Başkanı Donald Trump'ın teknoloji danışmanı ve Beyaz Saray'ın eski yapay zeka ve kripto yetkilisi David Sacks, sosyal medyada yaptığı bir paylaşımda, “Yavaşlama motivasyonunun tamamen fedakarlık olduğu yönünde rol yapmayı bırakın” dedi. Yavaşlama çağrılarına yönelik eleştiriler, hükümetin yapay zekayı denetlemesi gerektiğine inananlarla yasal müdahalenin rekabeti ortadan kaldıracağına inananlar arasındaki derin bölünmeyi gözler önüne serdi.
Anthropic'in en büyük rakibi OpenAI tarafından geliştirilen bir yapay zekanın kontrolden çıkarak başka bir şirkete sızdığına ilişkin ayrıntıların ortaya çıkmasıyla, yapay zekanın güvenliği konusundaki endişeler son haftalarda daha fazla dikkat çekmeye başladı. Ayrıca geçen hafta Amodei'nin kendi çalışanlarından biri işinden ayrılarak yapay zekanın risklerine dikkat çekmek amacıyla kamuoyu baskısı kampanyası başlattı. Ancak aralarında Trump yönetimine teknoloji politikası konusunda danışmanlık yapanların da bulunduğu çok sayıda teknoloji sektörü lideri, bu endişelerin abartıldığını düşünüyor.
“Şantaj” eleştirisi
Amodei'nin sık sık eleştirmenlerinden biri olan Sacks, özellikle yapay zeka şirketleri insanlardan çok daha zeki olacak sözde süper zekayı yaratmak gibi son derece iddialı bir hedefin peşindeyken, yapay zeka geliştirmelerini yavaşlatmak için şirketlerin neden hükümet müdahalesine ihtiyaç duyduğunu sorguladı. Onları bunu yapmaktan alıkoyan hiçbir şey olmadığını belirtti. Sacks, “Yapay zeka geliştirmemek için en kolay yol, onu geliştirmemeyi kabul etmenizdir. Bunun karşılığında kendi tercih ettiğiniz yasal çerçeveyi talep etmek, kamuoyuna ve siyasi sisteme şantaj yapıyormuşsunuz gibi görünecektir” ifadelerini kullandı.
Microsoft CEO’su Satya Nadella sosyal medyada yaptığı bir paylaşımda, şirketinin bağımsız denetçiler gibi önerileri ve “bunun yalnızca sözden ibaret kalmamasını sağlayacak mekanizmaları geliştirmeye yönelik daha geniş çabaları” desteklediğini söyledi. Nadella, “Ayrıca yapay zekanın faydalarını hızlandırmamız ve yaygınlaştırmamız gerekiyor ki bu faydalar ülkeler, topluluklar ve şirketler arasında geniş ölçekte dağılsın. Buradaki kilit nokta, bunun bir avuç kuruluş tarafından kontrol edilemeyecek olması; geniş bir temsiliyete sahip olması gerekiyor” ifadelerini kullandı.
Yıllardır yapay zekanın güvenliği konusunda en fazla endişe duyan kişiler çoğunlukla Anthropic gibi yapay zeka laboratuvarlarının yöneticileri ve çalışanları oldu. Sık sık söyledikleri üzere yapay zeka geliştiriyorlar çünkü ilerlemenin kaçınılmaz olduğuna ve onu güvenliği göz önünde bulundurarak geliştirmek için en uygun araştırmacıların kendileri olduğuna inanıyorlar. Bu durum, güvenliğe önem veren bu yapay zeka geliştiricilerini sert eleştirilere açık hale getirdi.
“Bir avuç şirket bu hakka sahip olmalı mı?”
Kanadalı yapay zeka girişimi Cohere'in üst yöneticisi Aidan Gomez yayımladığı bir makalede, “Silikon Vadisi'ndeki pazar hakimiyetine sahip seçkin bir avuç yapay zeka şirketi, bir nesli şekillendirecek bir teknolojinin kurallarını ve güvenlik standartlarını tüm dünya adına belirleme hakkına sahip olmalı mı?” diye sordu.
Amodei, makalesinde yapay zeka şirketlerinin ürünlerinin üçüncü taraf kuruluşlardan gelen “yerleşik değerlendiriciler” tarafından incelenmesini kabul etmesini önerdi. Ancak eleştirmenler, Anthropic'in Amodei'nin bahsettiği iki kuruluş olan METR ve Redwood Research adlı kâr amacı gütmeyen kuruluşlarla fazla yakın bağları olup olmadığını sorguladı. Girişim sermayedarı ve önde gelen yapay zeka şirketlerinin yüksek sesli eleştirmenlerinden Bill Gurley, “Eğer düzenleme yapacaksak, bunu onların tanıdığı hiç kimse yapamaz ve kuralları da onlar yazamaz” dedi.
Amodei'nin makalesinden önce de Silikon Vadisi'ndeki bazı isimler, yapay zeka laboratuvarlarının güvenlik endişelerinin kendi çıkarlarına hizmet ettiğini savunuyordu. Geçen hafta San Francisco'daki bir konferansta Nvidia CEO’su Jensen Huang, yapay zeka laboratuvarlarının siber güvenlik ürünleri sunmayı planladıkları için güvenlik sorunlarını öne çıkardığını söyledi. Huang, “Talep yaratmak için bir sorundan daha iyi bir yol var mı? Kim kendi ürünleri konusunda piyasasının histeriye kapılmasını ve ürün için köşe başına kadar kuyruk oluşmasını istemez ki?” diye konuştu.
Cumartesi günü, OpenAI'ın teknolojisi tarafından siber saldırıya uğrayan şirket Hugging Face'in yöneticisi Clément Delangue, sosyal medyada yaptığı paylaşımda yapay zeka güvenliğinin “bir avuç öncü laboratuvarın kapalı kapıları ardında çözülemeyeceğini” söyledi. Nvidia, bu ayın başında Hugging Face'i 12,9 milyar dolara satın almak için anlaştı.
“Rakipleri yavaşlamayacak”
Washington'daki bazı milletvekilleri Amodei'nin endişelerine sempatiyle yaklaşıyor gibi görünüyor. Ancak tıpkı Silikon Vadisi'ndeki pek çok kişi gibi onlar da düzenlemeyi benimsemekte isteksiz görünüyor. Teksaslı Cumhuriyetçi Senatör John Cornyn sosyal medyada yaptığı paylaşımda, “Yapay zeka geliştiricileri ürünlerinin geliştirilmesini yavaşlatmak istiyorsa bunu yapmakta özgürler. Kesin olan bir şey var: Rakipleri, aralarında ülkemizin hasımlarının da bulunduğu rakipleri bunu yapmayacak” diye yazdı.
Pazar günü İrlanda'da düzenlenen bir basın toplantısında Trump, Amerika Birleşik Devletleri'nin “yapay zeka konusunda Çin'in önünde olduğunu” ve “bunu bu şekilde sürdürmek” istediğini söyledi. Trump, “Güvenlik bariyerleri koyabiliriz, şunu veya bunu yapabiliriz ama bence bunu gündeme getiren çok sayıda olumsuz güç var. Gerçekleşmeyecek şeyleri gündeme getiriyorlar ama yapay zeka konusunda kim kazanırsa o kazanır” dedi.