PwC, yapay zeka ve elektrikli araçlar hakkında sahte dipnotlar, yanlış atfedilen iddialar ve doğrulanamayan bilgilerle dolu raporlar yayımladı. Bu durum, büyük danışmanlık firmalarının yapay zeka üretimi içerikleri baştan sağma bir şekilde kullandığının son örneği oldu.
Financial Times tarafından doğrulanan GPTZero araştırmasına göre, yapay zeka halüsinasyonları şirketin Orta Doğu'daki ortaklarına danışmanlık işi sağlamak için tasarlanan düşünce liderliği raporlarında yer aldı.
Yapay zeka kaynaklı hataların keşfedilmesi, PwC gibi sektörün önde gelen şirketlerini zor durumda bırakma riski taşıyor. Çünkü bu firmalar, teknolojiyi benimseyen şirketlere sorumlu kullanım ve hatalardan kaçınma politikaları konusunda danışmanlık hizmeti pazarlıyor.
Rakipleri de benzer hatalar yapmıştı
GPTZero'nun daha önceki araştırmaları, PwC'nin rakipleri EY ve KPMG'yi de incelemişti. Bu firmaların da halüsinasyonlar içeren raporlarını geri çekmesine yol açan benzer bulgulara rastlanmıştı.
Araştırma grubu, PwC Orta Doğu'nun son iki yılda hazırladığı dört raporu mercek altına aldı. Bu raporların metinlerinin büyük ölçüde yapay zeka yardımıyla yazıldığı ve dipnotlarının güvenilmez temellere dayandığı tespit edildi.
Hatalı raporlar arasında otonom yapay zeka botlarının kurumsal kullanımı için bir rehber ve hükümetler için kamu hizmetlerini iyileştirme kılavuzu bulunuyordu. Ayrıca bölgedeki elektrikli ve otonom araçlara yönelik pazar tahminleri de sorunlu raporlar arasında yer aldı.
Uydurma veriler ve var olmayan kaynaklar
GPTZero araştırmacıları, raporlardaki alıntıların birçoğunun sorunlu olduğunu ortaya çıkardı. Alıntılar genellikle iddia edilen kanıtları içermeyen veya hiç var olmayan web sayfalarına bağlantı veriyor.
Riyad'daki hava kalitesi üzerine yazıldığı iddia edilen bir akademik makalenin tamamen yapay zeka tarafından uydurulduğu anlaşıldı. Referans gösterilen dergide veya atıfta bulunulan yazarlara ait böyle bir çalışmanın izine rastlanmadı.
Rapordaki birkaç dipnot daha sıra dışı kaynaklara atıfta bulunuyor. Örneğin, PwC'nin otonom yapay zekanın gerçek dünyadaki bir başarı hikayesi olarak adlandırdığı JPMorgan girişimi için Medium'da 280 takipçisi olan genç bir blog yazarı kaynak gösterildi.
Bankanın ticari kredi sözleşmelerinin incelemesini otomatikleştirerek yüz binlerce saatlik insan emeğinden tasarruf ettiği bu girişim ilk olarak 2017'de haberleştirilmişti. Bu tarih, ChatGPT'nin üretken yapay zeka çağını başlatmasından beş yıl öncesine denk geliyor.
Şirket hataların kaynağını açıklayamadı
PwC Orta Doğu yetkilileri Financial Times'a verdikleri demeçte, yayımladıkları araştırmaların doğruluğunu ciddiye aldıklarını ve belirtilen raporlardaki sınırlı sayıdaki destekleyici alıntıyı güncellediklerini söyledi.
Şirket, sorumlu yapay zeka yaklaşımlarıyla tutarlı olarak, tüm çalışanların uymasını bekledikleri kalite kontrol süreçlerine sahip olduklarını belirtti. Ancak yetkililer hataların raporlara nasıl dahil edildiğine dair net bir açıklama yapmaktan kaçındı.
Büyük danışmanlık firmaları son birkaç yılda müşteri çekmek için yapay zeka üzerine yüzlerce düşünce liderliği makalesi yayımladı. Firmalar aynı zamanda çalışanlarını işlerini hızlandırmak ve iyileştirmek için bu teknolojiyi kullanmaya teşvik etti.
Yapay zekayı ele veren kaynak bağlantıları
GPTZero araştırmacısı Paul Esau, PwC Orta Doğu'nun dört raporundaki kaotik kaynak gösterme biçiminin yapay zeka üretimi araştırmaların tipik bir belirtisi olduğunu ifade etti. Esau, insan hatasının trafik kazalarının yüzde 90'ından sorumlu olduğu iddiasının tek bir raporda üç farklı yerde geçtiğini belirtti.
İlk kullanımda bir dipnot, ikincisinde sıfır dipnot, üçüncüsünde ise iki dipnot yer aldığını ve her dipnotun farklı bir kaynağa atıfta bulunduğunu söyleyen Esau, bu iddianın sahte olmadığını ancak hiçbir insanın iki sayfada aynı gerçeği üç farklı kaynak kullanarak üç kez alıntılamayacağını vurguladı.
İncelenen raporlardan biri, diğer PwC çalışmalarına düzgün bir şekilde atıfta bulunmayı da başaramadı. Rapor, Orta Doğulu yöneticilerin yüzde 70'inin üretken yapay zekanın işlerini önemli ölçüde etkileyeceğini söylediği bir PwC anketine referans veriyor. Ancak ilgili dipnot, anketten hiç bahsetmeyen bir medya haberine yönlendiriyor.
Başka bir dipnot ise yapay zeka kullanımını doğrudan ele veriyor. Enerji sektörüne yönelik siber güvenlik tehditleriyle ilgili bir medya haberinin URL'sinde açıkça "utm_source=chatgpt.com" ibaresi yer alıyor.