OpenAI’da donanım ve robotik ekibinin lideri Caitlin Kalinowski sosyal medya paylaşımıyla şirketten istifa ettiğini açıkladı. OpenAI CEO’su Sam Altman ABD Savunma Bakanlığı ile şirketin yapay zeka teknolojisini askeri operasyonlarında kullanabileceklerine dair anlaşma yaptıklarını duyurmasının ardından Kalinowski, kararının prensipleriyle ilgili olduğunu belirtti.
Öne çıkanlar
• 2024 yılında ChatGPT üreticisinde çalışmak için Meta’dan ayrılan Kalinowski X paylaşımında böyle bir karar almasının kolay olmadığını vurgulayarak, “Yapay zekanın ulusal güvenlikte önemli bir rolü var. Ancak denetim olmaksızın Amerikalıların gözetimi ve insan onayı olmaksızın ölümcül özerklik, daha fazla tartışılmayı hak eden konular” ifadelerini kullandı.
• Kalinowski’nin kararı, OpenAI'ın geçen hafta teknolojisinin siber güvenlik, istihbarat analizi ve lojistik gibi savunma ile ilgili çalışmaları destekleyebileceğini açıklamasıyla geldi. Bu alanlar, ordunun yapay zeka için kritik uygulamalar olarak gördüğü alanlar.
• Anlaşma, yapay zekanın askeri operasyonlara genişletilmesinin gözetim ve otonom silahlar konusunda riskleri artırdığı konusunda uyarıda bulunan bazı OpenAI çalışanları ve yapay zeka araştırmacıları tarafından eleştirildi.
• OpenAI ve Pentagon anlaşması Donald Trump yönetiminin yapay zeka şirketi Anthropic ile çalışmayı bırakıp şirketi ‘tedarik zinciri için riskli’ olarak etiketlemesinin ardından geldi.
ChatGPT’de tepki hissedildi
Bu tartışma, ChatGPT kullanıcıları arasında tepki yarattı ve kullanıcılar popüler yapay zeka uygulamasını toplu olarak sildiler. Tech Crunch, Pentagon ile anlaşmanın açıklanmasının ertesi günü ChatGPT'nin mobil uygulamasının kaldırılma oranının yüzde 295 arttığını bildirdi. Buna yanıt olarak Altman, anlaşmanın “aceleye getirildiğini” belirterek, “fırsatçı ve özensiz” göründüğünü yazdı. Anlaşma değiştirildi ve artık ChatGPT destekli sistemlerin “ABD vatandaşları ve uyruklularının iç gözetimi için kasıtlı olarak kullanılmayacağı” belirtiliyor. ChatGPT'nin kaldırılması, Anthropic'in Claude uygulamasının indirme sayısında artışla aynı zamana denk geldi. Claude'un indirme sayısı 2 Mart itibarıyla haftalık bazda yaklaşık yüzde 55 arttı.
Arka plan
Pentagon önceden yapay zekayı askeri planlamaya dahil etme çabalarının bir parçası olarak, modellerinin hükümet tarafından nasıl kullanıldığına ilişkin sıkı önlemler almak isteyen Anthropic ile çalışıyordu. Ancak Trump yönetimi Claude geliştiricisi, ordunun yapay zeka teknolojisini otonom silahlar veya kitlesel gözetim için kullanmasına izin vermediği için Anthropic ile olan sözleşmesini iptal etti. Bu değişiklik, OpenAI'ın Pentagon ile ilişkilerini derinleştirmesinin önünü açtı. Şirket, Anthropic, Google ve xAI ile birlikte geçen haziran ayında Pentagon ile ulusal güvenlik amaçlı yapay zeka araçları geliştirmek üzere 200 milyon dolarlık bir sözleşme imzalamıştı.