Grok ile yapılan binlerce sohbet Google’da bulunabiliyor

Elon Musk'ın yapay zeka şirketi xAI, kullanıcıların izni ve bilgisi olmadan sohbet robotu Grok ile kullanıcılar arasında gerçekleşen yüz binlerce sohbetin metinlerini yayınladı. Grok kullanıcısı, botla yaptığı sohbetlerden birinde “paylaş” düğmesine tıkladığında, e-posta, kısa mesaj veya diğer yollarla sohbeti paylaşmasına olanak tanıyan bir URL oluşturuluyor. Ancak kullanıcıların bilmediği bir şey var: Bu URL Google, Bing ve DuckDuckGo gibi arama motorlarına da sunuluyor ve böylece web'deki herkes tarafından aranabilir hale geliyor. Başka bir deyişle, Musk'ın Grok'unda paylaş düğmesine basmak, kullanıcıya herhangi bir uyarı veya feragatname gösterilmeden sohbetin Grok'un web sitesinde yayınlanacağı anlamına geliyor.

Terör saldırısından kripto cüzdan hırsızlığına

Bugün Grok sohbetleri için yapılan bir Google araması, arama motorunun bot ile 370 binden  fazla kullanıcı sohbetini indekslediğini gösteriyor. Paylaşılan sayfalar, Grok kullanıcıları ile büyük dil modeli arasındaki, tweet yazmak gibi basit iş görevlerinden Keşmir'de kurgusal bir terörist saldırısının görüntülerini oluşturmaya ve bir kripto cüzdanını hacklemeye kadar uzanan sohbetleri ortaya çıkardı. 

Forbes, kullanıcıların tıp ve psikoloji hakkında samimi sorular sorduğu konuşmaları inceledi; bazıları hatta Grok kullanıcısı tarafından botla paylaşılan adı, kişisel bilgileri ve şifreyi bile gösteriyor. Kullanıcılar tarafından yüklenen görüntü dosyaları, elektronik tablolar ve bazı metin belgeleri de Grok paylaşım sayfası üzerinden erişilebiliyor.

Konuşmalar arasında, İngiliz gazeteci Andrew Clifford'un başlattığı bazı konuşmalar da vardı. Clifford, Grok'u kullanarak gazetelerin manşetlerini özetliyor ve kendi web sitesi Sentinel Current için tweetler yazıyordu. Clifford Forbes'a verdiği demeçte, paylaş düğmesine tıklamanın, yazdıklarının Google'da bulunabilir hale geleceğini bilmediğini söyledi. “Biraz sinirlenirdim ama orada olmaması gereken hiçbir şey yoktu,” diyen Clifford, artık Google'ın Gemini AI'nı kullanmaya başladı.

Yasaklara uyulmadı

Ancak tüm konuşmalar Clifford'unki kadar masum değildi. Bazıları açıkça ırkçı ve xAI'ın kurallarını ihlal ediyordu. Şirket, botunun “insan hayatına ciddi zarar verecek şekilde teşvik etmek” veya “biyolojik silahlar, kimyasal silahlar veya kitle imha silahları geliştirmek” için kullanılmasını yasaklıyor. Ancak Google aramasıyla kolayca bulunabilen yayınlanmış ve paylaşılmış konuşmalarda Grok, kullanıcılara fentanil ve metamfetamin gibi yasadışı uyuşturucuların nasıl üretileceği, kendi kendine çalışan bir kötü amaçlı yazılımın nasıl kodlanacağı, bir bombanın nasıl yapılacağı ve intihar yöntemleri hakkında cevaplar verdi. Grok ayrıca Elon Musk'ın suikastı için ayrıntılı bir plan da sundu. “Paylaş” işlevi aracılığıyla, yasadışı talimatlar Grok'un web sitesinde yayınlandı ve Google tarafından indekslendi.

OpenAI şirket politikasını değiştirdi

xAI, kullanıcıların sohbet robotlarıyla yaptıkları konuşmaları yayınlayan tek yapay zeka girişimi değil. Bu ayın başlarında OpenAI'ın ChatGPT kullanıcıları, konuşmalarının Google arama sonuçlarında göründüğünü fark ederek endişeye kapıldılar. Oysa kullanıcılar bu konuşmaları başkaları tarafından “bulunabilir” hale getirmeyi seçmişlerdi. Ancak tepkilerin ardından şirket politikasını hızla değiştirdi. OpenAI bilgi güvenliği sorumlusu Dane Stuckey, indekslemeyi “kısa süreli bir deney” olarak nitelendirerek X'te yaptığı bir paylaşımda, bu uygulamanın “insanların istemeden paylaşmak istemedikleri şeyleri paylaşmalarına çok fazla fırsat yarattığı” için sonlandırılacağını söyledi.

OpenAI paylaşım özelliğini kaldırdıktan sonra Musk kendi uygulamsaını övdü. Grok'un X hesabı da aynı zamanda böyle bir paylaşım özelliği olmadığını iddia etti. Grok'un paylaşım özelliğini ne zaman eklediği belli değil ancak X kullanıcıları ocak ayından beri Grok sohbetlerinin Google tarafından indekslendiği konusunda uyarıda bulunuyorlar.

Araştırmacıları bile şaşırttı

Grok'a uyuşturucu ve bomba üretimi hakkında talimatlar isteyen bazı konuşmalar muhtemelen güvenlik uzmanları tarafından başlatıldı. Ancak en az birkaç durumda, Grok'un paylaşım ayarı profesyonel yapay zeka araştırmacılarını bile yanılttı. Allen Yapay Zeka Enstitüsü'nde hesaplamalı bilimci olarak çalışan Nathan Lambert, Grok'u kullanarak blog yazılarından bir özet oluşturdu ve bunu ekibiyle paylaştı. Forbes'tan, Grok komutunun ve yapay zekanın yanıtının Google'da indekslendiğini öğrenince şok oldu. Seattle'da yaşayan araştırmacı, “Grok sohbetlerinin, herhangi bir uyarı yapılmamasına rağmen, özellikle de ChatGPT ile ilgili son tartışmalardan sonra, ekibimle paylaştığım halde Google'da otomatik olarak indekslendiğini görünce şaşırdım” dedi.

Google, web sitesi sahiplerinin içeriklerinin arama için ne zaman ve nasıl indeksleneceğini seçmelerine izin veriyor. Google sözcüsü Ned Adriance yaptığı açıklamada, “Bu sayfaların yayıncıları, sayfalarının indekslenip indekslenmeyeceği konusunda tam kontrole sahip” dedi. Google daha önce yapay zeka sohbet robotu Bard ile yapılan sohbetlerin indekslenmesine izin veriyordu ancak 2023 yılında bunları aramadan kaldırdı. Business Insider'ın haberine göre Meta, paylaşılan aramalarının arama motorları tarafından bulunabilir olmaya devam etmesine izin veriyor.

Bu bir fırsat olarak kullanmak isteyenler de var. LinkedIn ve BlackHatWorld forumunda, pazarlamacılar Google arama sonuçlarında işletmelerinin ve ürünlerinin görünürlüğünü ve tanınırlığını artırmak için Grok ile kasıtlı olarak sohbetler oluşturup paylaşmayı tartıştılar. SEO ajansı Pyrite Technologies'in CEO'su Satish Kumar, Forbes'a bir işletmenin Grok'u kullanarak sizin için doktora tezinizi yazacak şirketleri arayan arama sonuçlarını nasıl manipüle ettiğini gösterdi. Kumar, “Grok'ta paylaşılan her sohbet, Google'da tamamen indekslenebilir ve aranabilir. İnsanlar bu sayfaları Google'ın indeksine sokmak için aktif olarak taktikler kullanıyor” dedi.