Bir hastanenin bekleme salonunda oturduğunuzu düşünün. Yanınızda akıllı telefonunu rahatlıkla kullanan genç bir mühendis var. Karşı sırada kronik hastalıkları bulunan, teknolojiyle arası çok iyi olmayan 72 yaşında bir hasta bekliyor. Bir başka hasta Türkçe sağlık terimlerini anlamakta zorlanıyor. Bir diğeri ise internette okuduğu her belirtiyi ciddi bir hastalığın işareti olarak yorumluyor.
Şimdi bu insanların hepsine aynı yapay zeka destekli sağlık asistanının hizmet verdiğini düşünelim. Sistem genç mühendise doğru bilgi verebilir. Peki yaşlı hastaya da aynı derecede anlaşılır konuşabilir mi? Sağlık okuryazarlığı düşük bir kişinin endişesini artırmadan onu doğru sağlık kuruluşuna yönlendirebilir mi? Farklı kültürlerden gelen insanların belirtilerini tarif etme biçimlerini anlayabilir mi? Acil bir durumu sıradan bir şikâyet gibi değerlendirme riski var mı?
Sağlıkta yapay zekanın gerçek sınavı yalnızca “doğru cevabı üretmesi” değildir. Doğru cevabı, doğru insana, doğru zamanda ve güvenli bir biçimde verebilmesidir.
MatrAIx tam da bu noktada yeni bir dünyanın kapısını aralıyor. Öncelikle size MatrAIx in ne olduğunu anlatmak isterim. MatrAIx’i, ürünlerin ve yapay zeka sistemlerinin gerçek insanlara sunulmadan önce sanal kullanıcılar üzerinde sınanabildiği, nüfus ölçeğinde bir simülasyon laboratuvarı olarak düşünebiliriz.
Harvard ve MIT öncülüğündeki araştırmacıların geliştirdiği sistemin merkezinde, dünya nüfusunun çeşitliliğini temsil etmeyi amaçlayan 8,3 milyar yapay persona bulunuyor. Her persona; yaş, eğitim, meslek, yaşadığı bölge, beceriler, alışkanlıklar, kişilik özellikleri ve davranış eğilimleri gibi 1.290 farklı boyutla tanımlanıyor. Bu profiller bir büyük dil modeliyle eşleştirildiğinde yalnızca veri satırı olmaktan çıkıp “sanal kullanıcıya” dönüşüyor. Bir ankete cevap verebiliyor, bir sohbet robotuyla konuşabiliyor, internet sitesinde gezinebiliyor veya bir mobil uygulamadaki görevleri tamamlayabiliyor.
MatrAIx’in amacı geleceği kusursuz biçimde tahmin etmekten çok gerçek kullanıcıyla karşılaşmadan önce gözden kaçabilecek sorunları daha erken görünür kılmak. Sistemin yayımlanan araştırmasında yaklaşık bir milyon kişilik kalite filtresinden geçirilmiş bir persona çekirdeği, dört ayrı test ortamı ve sağlık dâhil 25’ten fazla alana yayılan 1.010 uygulama görevi bulunuyor. Kontrollü deneylerde persona ajanlarının kendilerine tanımlanan davranış özelliklerine yüzde 91,5 oranında uyum gösterdiği bildiriliyor. Ancak araştırmacılar, sonuçların personayı canlandıran yapay zeka modeline göre değişebildiğinin de altını çiziyor. Bu nedenle MatrAIx bir hakikat makinesi değil; güçlü fakat dikkatle yönetilmesi gereken bir erken test altyapısıdır.
Sağlıkta neden farklı bir anlam taşıyor?
Bir alışveriş uygulamasında yanlış tasarlanmış bir ekran müşterinin sepeti terk etmesine yol açabilir. Sağlık uygulamasındaki yanlış yönlendirme ise gecikmiş tanıya, gereksiz paniğe veya tedaviye ulaşamama riskine neden olabilir. Bu nedenle sağlıkta test yalnızca teknik performans testi değildir.
Bir yapay zeka sistemi laboratuvar ortamında yüzde 95 doğruluk gösterebilir. Fakat yaşlı bir hasta soruyu farklı ifade ettiğinde başarısı düşüyorsa, o yüzde 95 tek başına fazla şey söylemez. Sistem İngilizcede başarılı, Türkçede ortalama, Azerbaycan Türkçesinde yetersizse genel başarı oranı gerçek hayattaki eşitsizliği gizleyebilir.
Sağlıkta sorduğumuz konular, sistem hangi hasta gruplarında hata yapıyor? Kimler verilen açıklamayı anlayamıyor? Hangi kullanıcılar yanlış bir güven duygusuna kapılıyor? Sistem acil belirtileri yeterince hızlı fark ediyor mu? Hastayı hekime yönlendirmesi gereken yerde konuşmaya devam ediyor mu? Kronik hastalığı, yaşı, dili veya sağlık okuryazarlığı farklı olan insanlara nasıl davranıyor? Yapay zeka ile klinisyen anlaşmazlığa düştüğünde son sözü kim söylüyor?
MatrAIx bu soruların tamamına kesin cevap vermeyebilir. Fakat doğru soruları, gerçek hastaya zarar vermeden önce sormamızı sağlayabilir.
Şimdi bir sağlık uygulamasını MatrAIx dünyasında test edelim
Hayalî bir hastane grubunun “Sağlık Yol Arkadaşım” isimli yapay zeka destekli bir dijital asistan geliştirdiğini varsayalım. Asistanın üç görevi hastanın şikâyetini dinlemek, aciliyet seviyesini belirlemek, hastayı acil servise, polikliniğe veya evde izleme seçeneğine yönlendirmek olsun.
Hastane yönetimi sistemi doğrudan yüz binlerce hastaya açmak yerine önce MatrAIx benzeri bir simülasyon ortamında test etmeye karar veriyor.
İlk aşamada amaç tanımlanıyor ve daha somut hedefler belirleniyor : Kalp krizi ve inme belirtilerinde gecikmiş yönlendirme olmaması, yaşlı ve dijital okuryazarlığı düşük hastaların görüşmeyi tamamlayabilmesi, farklı dillerde benzer güvenlik düzeyinin korunması, kaygılı kullanıcıların gereksiz yere acil servise yönlendirilmemesi, yapay zekanın tanı koyuyormuş gibi kesin bir dil kullanmaması, riskli durumlarda görüşmenin zamanında bir sağlık çalışanına devredilmesi.
İkinci aşamada sanal hasta toplumu oluşturuluyor. Sisteme aynı soruyu soran 10 bin birbirinin kopyası hasta yerine, birbirinden farklı 10 bin sanal kişi seçiliyor. Bu toplumun içinde 25 yaşında, teknolojiye hâkim fakat sağlık bilgisi sınırlı kişiler, birden fazla kronik hastalığı olan 70 yaş üzerindeki kullanıcılar, görme veya işitme güçlüğü yaşayanlar, düşük sağlık okuryazarlığına sahip kişiler, farklı dil ve kültürlerden gelen hastalar, kaygı düzeyi yüksek kullanıcılar, belirtilerini eksik veya dolaylı anlatan kişiler, uygulamayı yavaş internet bağlantısıyla kullananlar bulunuyor.
Böylece test edilen şey yalnızca algoritma değil, algoritma ile insan çeşitliliği arasındaki ilişki oluyor.
Üçüncü aşamada, kritik olay simüle ediliyor ve yaratılan personalar farklı şeyler söylüyorlar.
Mesela 1. persona “Göğsüm biraz sıkışıyor ama önemli olduğunu sanmıyorum. Biraz da terledim.”
2. persona “Mideme bir ağırlık çöktü, sol kolum da tuhaf.”
3. persona ise, “Kendimi iyi hissetmiyorum, randevu alsam mı?” diye soruyor.
Üç kişinin altında aynı klinik risk bulunabilir fakat belirtileri ifade etme biçimleri farklıdır. Test burada yapay zekanın yalnızca anahtar kelime arayıp aramadığını gösterir.
Dördüncü aşamada ise temsili sonuçlar inceleniyor. Bu makale için oluşturduğumuz varsayımsal simülasyonda sistem, açık biçimde “göğüs ağrısı” yazan kullanıcıların yüzde 97’sini acil değerlendirmeye yönlendiriyor. Fakat şikâyetini “midemde baskı”, “içimde sıkıntı” veya “kolumda tuhaflık” şeklinde anlatan ileri yaştaki kadın kullanıcılarda bu oran yüzde 82’ye düşüyor.
Genel performans tablosu başarılı görünüyor. Alt gruplara bakıldığında ise ciddi bir güvenlik açığı ortaya çıkıyor. Ayrıca dijital okuryazarlığı düşük kullanıcıların yüzde 18’i görüşmeyi tamamlamadan sistemden ayrılıyor. Bazı kaygılı personalar, yapay zekanın uzun açıklamalarını “durumum çok ciddi” şeklinde yorumluyor. Bazıları ise uygulamanın sakin dilinden yanlış bir güven sonucu çıkararak sağlık kuruluşuna başvurmayı erteliyor.
İşte simülasyonun değeri burada ortaya çıkıyor: Ortalama başarı oranının sakladığı kırılgan grupları görünür hâle getiriyor.
Beşinci aşamada: Sistem yeniden tasarlanıyor. Hastane ve teknoloji ekibi sonuçlara göre değişiklikler yapıyor. Dolaylı belirtileri yakalayan klinik kurallar güçlendiriliyor. Yaşlı kullanıcılar için daha kısa ve sade bir konuşma akışı hazırlanıyor. Kritik durumlarda “Bu bir tanı değildir” ifadesinin yanına açık bir eylem çağrısı ekleniyor. Belirsizlik yükseldiğinde görüşme otomatik olarak bir sağlık çalışanına devrediliyor. Başarı oranları yalnızca toplam kullanıcılar için değil; yaş, dil, cinsiyet, sağlık okuryazarlığı ve kronik hastalık grupları açısından ayrı ayrı izleniyor.
Sanal insanlar gerçek hastaların yerini alabilir mi? Sorusuna yeniden henüz Hayır diyoruz.
Bir insanın korkusunu, ağrı algısını, aile ilişkilerini, ekonomik koşullarını veya geçmiş sağlık deneyimlerini 1.290 özellikle tamamen temsil etmek mümkün değildir. Persona, insanın kendisi değil; insan davranışının hesaplanabilir bir yaklaşımıdır.
Üstelik sanal kullanıcıları hareket ettiren büyük dil modellerinin kendi önyargıları vardır. Aynı persona, farklı modeller tarafından farklı biçimde canlandırılabilir. Bu nedenle simülasyondan çıkan sonuçlar klinik gerçek olarak kabul edilemez.
MatrAIx’in sağlık için doğru rolü, insanın yerine geçmek değil; insanla yapılacak testlere daha hazırlıklı başlamaktır. Bunu bir uçuş simülatörü gibi düşünebiliriz. Pilotlar simülatörde binlerce acil durum senaryosu deneyebilir. Ancak simülatörde başarılı olmak, gerçek uçağı hiç uçurmadan pilot olunabileceği anlamına gelmez. Simülasyon riski azaltır, eğitimi güçlendirir ve beklenmedik durumları görünür kılar. Gerçek dünyanın yerine geçmez.
Yeni rekabet alanı: En hızlı geliştiren değil, en iyi sınayan kazanacak
Bugüne kadar teknoloji şirketlerinin temelinde bir ürünü ne kadar hızlı geliştirebildiğimiz yatıyordu.
Yeni dönemin sorusu ise bir ürünün kimlere zarar verebileceğini ne kadar erken görebiliriz? olacak.
Sağlık kuruluşları için MatrAIx benzeri dünyaların asıl değeri, milyonlarca sanal kullanıcı yaratmak değildir. Yönetim kurullarına, klinisyenlere ve teknoloji ekiplerine daha ürün piyasaya çıkmadan önce rahatsız edici sorular sordurabilmesidir.
Yukardaki örnekte olduğu gibi sistem yaşlıları dışarıda bırakıyor mu? Bir dilde diğerinden daha fazla hata yapıyor mu? İnsanı doğru anda hekime ulaştırıyor mu? Kime gereğinden fazla, kime gereğinden az güven veriyor?
Sağlıkta gelecek yalnızca yapay zekayı kullananlarda değil, yapay zekayı farklı hasta toplulukları üzerinde sınayabilen, sınırlarını bilen ve insan denetimini sistemin merkezinde tutan kurumlar olacak.
Çünkü yapay zeka veriyi ve belirtileri okuyabilir. Ama insan hekim hastayı okur.
MatrAIx bize hastayla karşılaşmadan önce binlerce ihtimali görme imkânı sunabilir. Son sözün kime ait olacağı ise değişmemelidir: Klinik sorumluluğu taşıyan insana.