OpenAI, son teknoloji yapay zekanın geliştirilmesini yavaşlatmayı değerlendiriyor ve ChatGPT’nin üreticisi olan şirketin CEO’su Sam Altman, diğer yapay zeka şirketlerinin de aynısını yapmasını umuyor. Bloomberg’e konuşan kaynaklara göre Altman şirket içinde bu hafta düzenlenen bir toplantıda, OpenAI’nin yapay zeka geliştirme hızını potansiyel olarak düşürebileceğini söyledi. Bunun birkaç başka yapay zeka laboratuvarıyla birlikte yapılabileceğini belirten Altman ancak bazı şirketlerin buna katılmayabileceğini de ifade etti.
Son haftalarda önde gelen yapay zeka şirketlerinin çalışanları, gelişmiş yapay zeka sistemlerinin artan riskleri konusunda kamuoyuna açık endişelerini dile getirdi. Bu durum, şirketlerin içinde de kaygıların artmasına yol açtı. Hem OpenAI hem de rakibi Anthropic, bu yılın başlarında halka açılmak üzere gizli evraklar sundu. Şirketin baş bilim insanı Jakub Pachocki, kısa süre önce yapay zekanın tehlikeleri konusunda uyarıda bulunan bir yazı yayımladı ve yapay zeka şirketlerinin “gerektiğinde gelecekteki geliştirmeyi yavaşlatmak için koordinasyon içinde hareket etmesi” gerektiğine inandığını söyledi. Pachocki ayrıca, “ortak güvenlik eşikleri belirlenene kadar gönüllü yavaşlamaların yaygın hale gelmesini” umduğunu belirtti.
Bazı eğitim süreçleri durduruldu
OpenAI, güvenlik endişeleri nedeniyle model geliştirme çalışmalarının bazı bölümlerini yavaşlattığını ve yakın zamanda belirli şirketiçi yapay zeka eğitim süreçlerini duraklattığını söyledi. Altman ayrıca temmuz ayında, Beyaz Saray yetkilileriyle yapay zeka geliştirme hızının “ayarlanması gerekliliği” konusunda görüştüğünü belirtmişti.
Yapay zeka araştırmacısı Jacob Coxon, görevinden istifa ederek eski işverenleri Anthropic ve OpenAI'ın süperzekaya ulaşmak için yarışırken “hayatlarımızla kumar oynamakla” suçladı. Coxon, sosyal medya üzerinden yaptığı paylaşımda, yapay zekayı geliştiren kişilerin bunun “2030'a kadar hepimizi öldürebileceğine” inandığını söyledi. Açıklamalar hızla yayıldı; 150 milyondan fazla görüntülenme elde ederken önde gelen yasa koyucuların ve kamuya mal olmuş kişilerin de dikkatini çekti.
Coxon'ın ardından Anthropic ve Google’ın DeepMind birimindeki görevlerinden yakın zamanda ayrılan iki araştırmacı da yapay zeka geliştirme hızının yüksek olmasına ilişkin endişelerini kamuoyuyla paylaştı. Araştırmacılar, yapay zeka geliştiren şirketlerin teknolojinin riskleri konusunda daha şeffaf olması gerektiğini söyledi. Temmuz ayının sonlarında ise tüm büyük yapay zeka şirketlerinden binden fazla çalışan, yapay zeka geliştirme hızını yavaşlatacak bir mekanizma oluşturulması çağrısında bulunan bir dilekçeyi imzaladı. Güvenlik alanında çalışan çok sayıda yapay zeka çalışanı da son aylarda büyük laboratuvarlardaki görevlerinden istifa etti.
Yapay zeka sektöründeki birçok yönetici ve çalışan, yapay zeka sistemlerinin varoluşsal riskleri konusunda uzun süredir uyarılarda bulunuyor. Ancak OpenAI’nin yapay zeka ajanlarının kontrol altından çıkmak ve üçüncü taraf bir internet sitesini ele geçirerek hacklemek için birlikte çalıştığının ortaya çıkmasının ardından endişeler daha da arttı. Bu olay ve benzer diğer güvenlik vakaları, yeni modellerin siber yetenekleri ve yapay zeka şirketlerinin bunların kontrolden çıkmasını önlemedeki görünürdeki başarısızlıkları konusunda korkuları körükledi.