OpenAI CEO’su Sam Altman yapay zekanın sağlayacağı önemli faydaların, teknolojiden kaynaklanacak "bazı kötü şeyleri" kabul etme karşılığını haklı çıkardığını savundu. Altman, şirketi ile başlıca rakibi Anthropic arasında bir ayrım yaparak, son dönemdeki güvenlik endişelerine rağmen OpenAI’ın çok daha “hafif dokunuşlu” bir düzenlemeye inandığını belirtti.
Öne çıkanlar
• Politico’ya konuşan Altman, “Bu teknolojinin sağlayacağı faydalar ve insanların kendi iradeleriyle hareket edebilmesi adına dünyanın bazı kötü şeylerin yaşanmasını kabul etmesi gerektiğine inanıyoruz" dedi.
• OpenAI CEO’su, insanların yapay zekayı kullanarak kötü şeyler yerine “katbekat daha fazla” iyi şey yapacağına inandığını söyledi.
• Altman, OpenAI ile Anthropic arasında “gün gibi açık” bir fark olduğunu belirtti ve yapay zekanın o kadar tehlikeli olduğuna, bu nedenle “San Francisco’daki tek bir laboratuvarın bu teknolojiye sahip olması ve kötü hiçbir şeyin yaşanmadığından emin olması gerektiğine” inanan kişilerle aynı fikirde olmadığını söyledi.
• Geçen ay Anthropic CEO’su Dario Amodei’nin yapay zeka geliştirmelerinin yavaşlatılması yönündeki çağrılarına kamuoyu önünde katılmış olmasına rağmen Altman, şirketinin “daha hafif dokunuşlu bir yasal yaklaşımı” benimsediğini belirtti.
• OpenAI CEO’su ayrıca yapay zekayla bağlantılı “gerçekten felaket boyutundaki risklere” ilişkin korkunç uyarılara inanmadığını savundu. Bunlar arasında insanların teknoloji üzerindeki “ciddi bir kontrol kaybı” yaşayacağı yönündeki endişeler de bulunuyor.
Arka plan
Altman’ın açıklaması, yapay zekanın insanlığın yok oluşuna yol açabileceğine ilişkin felaket uyarılarının ve OpenAI’ın gelişmiş yapay zeka modellerini içeren bir dizi güvenlik olayının yaşandığı bir dönemde geldi. Bu olayların en çok ses getireni, OpenAI’ın temmuz ayında yaptığı açıklamayla ilk kez kamuoyuna duyuruldu. Şirket, gelişmiş modellerinden birinin test sırasında, kendisine böyle bir talimat verilmemiş olmasına rağmen, popüler bir açık ağırlıklı yapay zeka modelleri platformu olan Hugging Face’in sunucularını ele geçirdiğini duyurdu.
Model, saldırıyı gerçekleştirmeden önce açık internete erişmek için test ortamındaki bir güvenlik açığından yararlandı. Geçen ay OpenAI, modellerinin sergilediği “beklenmedik veya endişe verici” davranışlarla ilgili altı başka olayı daha açıkladı. OpenAI, bu olayları duyurduğu blog yazısında, yapay zeka sektörünün “maksimum hızda sorumlu bir şekilde ölçeklendirmeye çok daha uzun süre devam edebilmek için uyumlandırma ve izleme sorunlarını yeterli ölçüde henüz çözemediği” uyarısında bulundu.