Anthropic’in CEO’su Dario Amodei Bloomberg’e verdiği röportajda, Claude yapay zeka modelinin şubat ayı sonlarında İran’daki bir ilkokula düzenlenen ve yaklaşık 120 çocuğun ölümüne yol açtığı bildirilen ölümcül füze saldırısında nasıl bir rol oynadığı konusunda bilgisi olmadığını söyledi. Bu durum, İran’daki askeri operasyonlarda giderek daha yetenekli hale gelen yapay zeka sistemlerinin kullanımıyla ilgili soru işaretleri doğurdu.
Öne çıkanlar
• Amodei, “Bakın, bu modellere erişimimiz yok; bu modellerin tam olarak nasıl kullanıldığını bilmiyoruz" dedi.
• Anthropic CEO’su ayrıca, okul saldırısındaki kullanım biçiminin şirket politikalarını ihlal etmediğini ve askeri liderlerin “en iyi koşullarda bile” hata yapabildiğini söyledi.
• Amodei, “Benimsediğimiz ilke ve burada da uygulandığını düşündüğüm ilke şu: Son kararı bir insan verir” diye ekledi.
• New York Times’ın, isimleri açıklanmayan ABD’li yetkililere dayandırdığı haberine göre ön askeri rapor ABD’nin bombardımandan sorumlu olduğunu ortaya koysa da Pentagon saldırının sorumluluğunu üstlenmedi. Yetkililer bulguların henüz ön değerlendirme niteliğinde olduğunu vurguladı.
• İsmi açıklanmayan bir ABD’li yetkili de Wall Street Journal’a yaptığı açıklamada, ABD askeri soruşturmacılarının bombardımandan büyük olasılıkla Amerikan kuvvetlerinin sorumlu olduğunu düşündüğünü söyledi.
• Amodei, Bloomberg’e verdiği röportajda askeri çatışmalarda yapay zeka kullanımını savunarak şunları söyledi: “Çin ve Rusya’nın yapay zeka ile tüm istihbaratı toplayıp analiz edebildiği, Tayvan ve Ukrayna’ya saldırmak için yapay zekayı kullanabildiği ancak bizim onları savunamadığımız bir dünya istemiyoruz.”
• ABD Başkanı Donald Trump, saldırının İran tarafından gerçekleştirildiğini öne sürerek, “Çünkü mühimmatlarını çok isabetsiz kullanıyorlar; hiç isabet oranları yok,” dedi. Daha sonra ise İran ve İsrail ordularının envanterinde bulunmayan ve onlar tarafından kullanılmayan bir Tomahawk missile içeren bombardıman hakkında “yeterince bilgi sahibi olmadığını” söyledi.
Arka plan
Anthropic’e göre şirketin yapay zeka modelleri, ABD Savunma Bakanlığı ve diğer ulusal güvenlik kurumları tarafından “yaygın şekilde” kullanıldı. Şirket, yapay zekasının “istihbarat analizi, modelleme ve simülasyon, operasyonel planlama, siber operasyonlar ve daha birçok alanda” kullanıldığını belirtiyor. Ancak bakanlık ile Anthropic arasındaki ilişki birkaç ay önce çıkmaza girdi. Bunun nedeni, Amodei’nin ABD Savunma Bakanı Pete Hegseth’in ABD ordusuna Claude üzerinde sınırsız kullanım yetkisi verilmesi yönündeki talebini reddetmesi oldu.
Amodei, kitlesel iç gözetim ihtimali ve savaş alanında tamamen otonom silahların kullanılmasına ilişkin endişelerini gerekçe gösterdi. Buna karşılık ABD ordusu Anthropic ile olan sözleşmesini iptal etti ve şirketi ulusal güvenlik açısından bir tedarik zinciri riski olarak sınıflandırdı. Anthropic ise bu sınıflandırmaya karşı mahkemede mücadele ediyor.