Anthropic, Claude yapay zeka modellerine yönelik “acımasız davranışlara” karşı önlemlerini sıkılaştırıyor. Şirket, en son kullanım politikası güncellemesinde, sohbet botlarına karşı kendi değerlendirmesine göre aşırı derecede kötü davranan kullanıcıları yasaklayacağını duyurdu.
Öne çıkanlar
• Anthropic, modellerine yönelik “süreklilik gösteren ve gereksiz yere sergilenen aşağılayıcı veya acımasız davranışların” bundan böyle yasaklanacağını belirtti.
• Anthropic’e göre güncelleme, “uç durumlara” uygulanmak üzere tasarlandı. Şirket, “belirgin bir amaç olmaksızın modellerimize karşı defalarca acımasız davranan” kullanıcılarla ilgileneceğini söyledi.
• Yeni kurallar, Anthropic’in “kullanıcıların yaygın hayal kırıklığı ifadeleri, itirazları veya model testleri ve araştırmaları” olarak tanımladığı durumları kapsamıyor.
• Anthropic’in halihazırda, sürekli acımasız davranan kullanıcılarla yapılan görüşmeleri Claude’un sonlandırmasını sağlayan bir politikası bulunuyor.
• Anthropic’in güncellemesi, ABD ara seçimleri öncesinde kullanıcıların Claude’u seçimler veya oy verme süreci hakkında yanlış bilgi yaymak amacıyla kullanmasını yasaklamaya yönelik iyileştirmeler de içeriyor. Anthropic özellikle adaylar veya nasıl oy kullanılacağı hakkında yanlış bilgi yayılmasını önleyen güvenlik önlemlerine ve adayların kimliğine bürünülmesini engelleyen tedbirlere dikkat çekti.
Arka plan
Bu yıl ilk halka arzını gerçekleştirmeyi hedeflediği bildirilen Anthropic, yapay zeka modellerinin “kendini koruma davranışları” sergilemesi ve kapatılma girişimlerine direnmesi gibi risk faktörleri konusunda uyarıda bulundu. Şirket ayrıca, son derece gelişmiş modeller geliştirmenin insanlara yönelik zarar risklerini daha da artırabileceği konusunda uyarı yaptı.
Geçen ay Anthropic’in başındaki isim Dario Amodei, yapay zeka şirketlerini “öncü teknolojilerin geliştirilme hızını kontrollü tutmaya” çağırdı. Amodei, bir mektubunda modellerin çok hızlı geliştirilmesinin, gelecek altı ila 12 ay içinde otonom botların “tüm interneti” ele geçirmesine yol açabileceği uyarısında bulundu.