ABD’de yapay zeka sektörünü hedef alan bir dizi davanın ardından Google, potansiyel olarak zararlı konuşmaları ve kendine zarar verme belirtilerini tespit etmek amacıyla Gemini sohbet robotu için yeni güvenlik önlemleri getirmeyi planlıyor.
Öne çıkanlar
• Google, konuşmaların kendine zarar verme veya intihar riski taşıdığını gösterdiği durumlarda kullanıcıları ruh sağlığı yardım hatlarına yönlendiren bir sistem eklemeyi planlıyor. Bu sistem, kullanıcıların kriz hattı ile sohbet etmelerine, arama yapmalarına, mesaj göndermelerine veya web sitesini ziyaret etmelerine olanak tanıyacak.
• Şirket ayrıca, ruh sağlığıyla ilgili konuşmalar sırasında, “Yardım mevcut” mesajını gösteren bir modül de tanıttı.
• Yeni özelliklerle birlikte Google, gelecek üç yıl boyunca küresel kriz hatlarını desteklemek için 30 milyon dolar ayırmayı taahhüt etti. Bu kaynak, ihtiyaç duyan insanlara anında ve güvenli yardım sağlama kapasitelerini artırmayı amaçlıyor.
• Şirket ayrıca ReflexAI ile ortaklığını genişletiyor. Buna 4 milyon dolarlık finansman sağlanması ve Gemini’nin, kuruluşların ruh sağlığı destek hizmetlerini ölçeklendirmesine yardımcı olmak için eğitim araçlarına entegre edilmesi de dahil.
Arka plan
ABD’de birden fazla eyalette aileler, Character.AI, OpenAI ve Google dahil olmak üzere üretken yapay zeka şirketlerine karşı dava açtı. Bu davalarda, söz konusu platformların gençler ve yetişkinler arasında ruh sağlığı sorunlarına katkıda bulunduğu iddia ediliyor. Mart 2026’da Google, Gemini tarafından etkilendiği öne sürülen ve intihar ederek hayatını kaybeden Florida’lı 36 yaşındaki bir adamın ailesi tarafından açılan federal bir haksız ölüm davasıyla karşı karşıya kaldı.
Artan endişelere yanıt olarak, bazı eyaletlerde yetkililer, özellikle ruh sağlığı alanında yapay zekanın kullanımını düzenlemeye yönelik adımlar atmaya başladı. Illinois, Nevada, California ve New York gibi eyaletler, yapay zekanın klinik karar alma süreçlerindeki rolünü sınırlamayı, kullanıcıların yapay zeka ile etkileşime girdiklerinde daha açık bilgilendirme yapılmasını zorunlu kılmayı ve reşit olmayanları koruyacak önlemler oluşturmayı amaçlayan düzenlemeler getirdi veya geçirdi. Utah ve Texas gibi diğer eyaletler ise sağlık hizmetlerinde yapay zeka kullanımını denetlemek için düzenleyici kurumlar oluşturma ya da hizmet sağlayıcıların, hastalara bakım süreçlerinde yapay zekanın kullanıldığını bildirmelerini ve insan denetimini sürdürmelerini zorunlu kılma gibi adımlar attı.