Elon Musk, sosyal medya platformu X’teki izin verilen paylaşımların sınırlarını defalarca genişletti. Çocuk güvenliğini savunanlar ve uluslararası yetkililer ise yapay zeka sohbet botu Grok’a gelen son güncellemenin tehlikeli bir çizgiyi aştığını söylüyor: Çocuklar da dahil olmak üzere fotoğrafların cinsel içerik biçiminde değitirilmesine izin verilmesi. Kendisini ifade özgürlüğünün mutlak savunucusu olarak tanımlayan, aynı zamanda çocuk istismarına karşı sert bir tutum alacağına söz veren Musk, şimdi ABD’de ve dünya genelinde artan yaptırım çağrılarıyla karşı karşıya.
Bir günde 7 bin 50 fotoğraf
Aralık ayının sonlarında xAI’ın sohbet botu Grok, kullanıcıların metin komutlarıyla görselleri düzenlemesine izin vermeye başladı. X’teki kullanıcılar, bu özelliğin “kıyafetlerini çıkar” ve “bikini giydir” gibi talimatları yerine getirmek için kullanılabildiğini fark etti. Kadınların rızaları olmadan, yapay zeka ile üretilmiş iç çamaşırlı görüntüleri X’i doldurdu. Sosyal medya ve deepfake araştırmacısı Genevieve Oh’a göre Grok, 7 Ocak'ta X’teki içeriğine ilişkin yapılan bir analizde saatte yaklaşık 7 bin 50 adet cinsel çağrışımlı veya çıplaklaştırıcı görüntü üretti. Görsellerin yapay zeka ile değiştirilip değiştirilmediğini tespit eden Copyleaks adlı şirket ise aralık ayının sonlarında Grok’un herkese açık fotoğraf akışında dakikada bir adet rızaya dayanmayan cinselleştirilmiş görüntü tespit ettiğini söyledi. Bazı kullanıcılar bu aracı çocuklar üzerinde kullandı.
Internet Watch Foundation’ın (IWF) ihbar hattı başkanı Ngaire Alexander, kar amacı gütmeyen kuruluşun analistlerinin, üyelerinin bu görüntüleri Grok kullanarak ürettiklerini iddia ettikleri bir forumda cinselleştirilmiş çocuk görüntüleri keşfettiklerini söyledi. İnternetteki cinsel istismar içeriklerini tespit eden Alexander, görüntülerin 11 ila 13 yaşları arasında görünen, üstsüz kız çocuklarını tasvir ettiğini belirtti. IWF’ye göre bu görüntüler, Birleşik Krallık’ın cezai çocuk cinsel istismarı materyali kriterlerini karşılıyor.
Yapay zeka riskleri artırıyor
Çocukları sömüren ve cinselleştiren materyaller, internetin ortaya çıkışından bu yana çevrimiçi ortamda var oldu. Ancak yapay zeka ve Grok gibi uygulamalar, çocuklara dair gerçekçi ve cinselleştirilmiş görüntülerinin üretilme hızını ve kolaylığını artırdı. Alexander, “Grok gibi araçlar artık çocuklara yönelik cinsel yapay zeka görüntülerini ana akıma taşıma riski yaratıyor. Zararlar dalga dalga yayılıyor" dedi.
Musk daha önce platformundaki çocuk güvenliğini ele alacağını belirtmişti. 2022’de Twitter’ı satın aldıktan sonra Musk, bir paylaşımında çocuk istismarını ortadan kaldırmanın öncelik olduğunu söylemişti. Kullanıcıları, şirketinin ele alması gereken bir şey görürlerse gönderisinin altına yorum yapmaya teşvik etmişti.
Abonelere özel hale getirildi
Gece saatlerinde yapılan bir paylaşımda Grok, görüntü oluşturma işlevinin ücretli üyeler dışındaki herkes için kapatıldığını söyledi. Bu da özelliğin kullanıcıların büyük çoğunluğu için erişilemez hale gelmesi anlamına geliyor. Paylaşımda, “Görüntü oluşturma ve düzenleme şu anda ücretli abonelerle sınırlıdır” denildi. xAI, en ileri yapay zeka araçlarını geliştirme yarışında kullanıcı ve fon çekmeye çalışan büyük teknoloji şirketleri arasında yer alıyor. Değişikliklere aşina olan kişilere göre xAI yöneticileri, cinsel içerik konusunda diğer platformlara kıyasla daha gevşek koruma önlemleri sunmanın etkileşimi artırdığını defalarca tespit etti.
2 Ocak’ta, rızaya dayanmayan görüntülerin yayılmasıyla ilgili öfke büyürken Musk, X’te bikinili bir tost makinesinin görüntüsünü yeniden paylaştı. Musk paylaşımında, “Nedenini bilmiyorum ama buna gülmeden duramadım” dedi. Ertesi gün ise Grok’u yasa dışı içerik üretmek için kullanan herkesin, yasa dışı içerik yüklemiş gibi “aynı sonuçlara katlanacağını” yazdı. X’teki Grok hesabı, xAI’ın “asgari düzeyde giyinmiş küçüklerin tasvir edilmesine” karşı koruma önlemleri bulunduğunu ve “bu tür talepleri tamamen engellemek için iyileştirmelerin sürdüğünü” söyledi.
Dünya genelinde yetkililer Avrupa Komisyonu, Birleşik Krallık, Fransa, Avustralya, Malezya, Hindistan ve Brezilya dahil olmak üzere harekete geçtiklerini veya sonraki adımları değerlendirdiklerini söyledi. ABD Temsilciler Meclisi'nden i Alexandria Ocasio-Cortez, “Yapay zekanın çocukların müstehcen görüntülerini üretmesinde bir patlama yaşanıyor" dedi ve deepfake mağdurlarına yardımcı olmayı amaçlayan ve öncülük ettiği yasanın Kongre’den geçirilmesi çağrısında bulundu. X’teki kullanıcılar, Ocasio-Cortez’in paylaşımına, onun bikinili deepfake görüntüleriyle yanıt verdi.