Singapur Dışişleri Bakanı Vivian Balakrishnan, bu yılın başlarında yaptığı bir konuşmada, günlük hayatını organize etmek için yapay zekadan giderek daha fazla yararlandığını anlattı. Yapay zeka ajanları, yurt dışı seyahatleri ve konuşmaları öncesinde kendisi için özetler hazırlıyor, hatta parlamentoda yöneltilecek sorulara vereceği yanıtlar konusunda yardımcı oluyor.
Ancak Balakrishnan'ın kullandığı sistem, ChatGPT, Claude, Gemini veya Grok gibi ticari yapay zeka hizmetlerinden biri değil. Kendisini "teknoloji meraklısı ve mucit" olarak tanımlayan Balakrishnan, GitHub üzerinden kod indirerek kendi sistemini kurdu ve bu sisteme WhatsApp üzerinden erişiyor.
Daha da dikkat çekici olan ise sistemin çalıştığı donanım. Balakrishnan'ın en sık kullandığı yapay zeka ajanı, yeni nesil bir veri merkezinde değil, iki veya üç yıllık bir Raspberry Pi üzerinde çalışıyor. Cihazın RAM kapasitesi ise yalnızca 8 GB.
Bu örnek, yapay zeka ekonomisinin geleceğine ilişkin önemli bir soruyu gündeme getiriyor: Yapay zeka uygulamalarının tamamı için devasa veri merkezlerine ve son teknoloji çiplere gerçekten ihtiyaç var mı?
Alphaville bir teknoloji blogu değil. Ancak ABD ekonomik büyümesinin önemli bir bölümünün, şirketlerin kâr artışlarının ve küresel hisse senedi piyasalarındaki getirilerin giderek yapay zeka yatırımlarına bağlandığı bir ortamda, bu soruyu göz ardı etmek de zorlaşıyor. Aynı durum özel sektör ve kamu borçlanmasının hızla büyüyen yapay zeka bağlantılı kısmı için de geçerli.
Küçük modeller veri merkezi yatırımlarını tehdit ediyor mu?
S&P Global Ratings'in geçen hafta işaret ettiği "bilinen bilinmeyenler" arasında, yapay zeka sektörünün en büyük şirketlerini yönlendiren yatırım tezini zorlayabilecek önemli bir risk bulunuyor: Açık ağırlıklı modellerin, yüksek maliyetli yeni nesil kapalı modellerle arasındaki performans farkını hızla kapatması.
Bu riski iki temel başlıkta değerlendirmek mümkün.
İlk olarak, bugün merkezi bulut altyapısındaki öncü büyük dil modellerine gönderilen sorguların önemli bir bölümü, Balakrishnan'ın kullandığı sisteme benzer şekilde yerel olarak çalıştırılan daha küçük dil modelleri tarafından daha hızlı ve daha düşük maliyetle karşılanabilir.
İkinci olarak, büyük ve karmaşık açık ağırlıklı modellerin performansı, kapalı ağırlıklı rakiplerinden ayırt edilmesi zor hale gelebilir. Bu modellerin çok daha düşük maliyetle kullanılabilmesi ve bazı durumlarda ek avantajlar sunması, yapay zeka pazarındaki mevcut iş modelini değiştirebilir.
Küçük dil modelleri ne kadar güçlü?
Küçük dil modellerinin (SLM) öncü modellerin yerini ne ölçüde alabileceği henüz net değil. Sonuçta, kendi yapay zeka sistemini kurabilecek teknik bilgiye sahip kullanıcıların sayısı sınırlı.
Buna karşın, küçük dil modellerinin performansına ilişkin araştırmalar dikkat çekici sonuçlar ortaya koyuyor.
Stanford Üniversitesi'nden Jon Saad-Falcon ve Avanika Narayan'ın da aralarında bulunduğu bilgisayar bilimcilerinden oluşan bir ekip, 2023'ten bu yana günlük kullanımdaki görevlerde küçük dil modellerinin performansını yeni nesil büyük modellerle karşılaştırıyor.
Araştırmacıların ulaştığı sonuçlara göre SLM'ler, özellikle görece basit görevlerde oldukça rekabetçi. Hatta mevcut sohbet trafiğinin önemli bölümünü oluşturan bazı sorgularda, küçük modellerin büyük modellere eşdeğer veya daha iyi sonuçlar verebildiği görülüyor. Mantıksal çıkarım gerektiren görevlerde de performanslarının hızla geliştiği belirtiliyor.
Bu bulguların ekonomik açıdan önemi ise oldukça büyük.
Çoğu yapay zeka sorgusu yüksek miktarda hesaplama gücü gerektirmiyor. Bu sorguların tamamını bulut tabanlı büyük dil modellerine göndermek yerine uygun olanları yerel modellere yönlendirmek, işlem gücü ve enerji maliyetlerini yüzde 60 ila yüzde 80 oranında azaltabiliyor.
Üstelik bu sistemleri çalıştırmak için gereken donanım maliyetleri de geleneksel veri merkezi yatırımlarıyla kıyaslandığında oldukça düşük kalıyor. Araştırmacıların kullandığı Apple M4 Max tabanlı sistem, 8 GB RAM'e sahip bir Raspberry Pi 4 Model B başlangıç kitinin yaklaşık 15 katı maliyetinde olsa da, yine de büyük ölçekli yapay zeka altyapısına kıyasla sınırlı bir yatırım gerektiriyor.
Bu nedenle, yapay zeka yatırımlarının maliyetini kontrol altına almak ve kârlılığı artırmak isteyen şirketlerin küçük dil modellerine yönelmesi şaşırtıcı olmayabilir.
Dahası, yapay zeka sorgularının büyük bölümünün görece basit olması, önümüzdeki yıllarda planlanan devasa veri merkezi yatırımlarının ekonomik mantığı hakkında da soru işaretleri yaratıyor.
Panmure Liberum'un öz sermaye stratejisi başkanı Joachim Klement de Stanford araştırmasının sonuçlarının veri merkezi yatırımlarının geleceği açısından önemli olduğunu düşünüyor. Klement, çalışmanın sonuçlarının doğrulanması halinde, yapay zeka kullanımının önemli bir bölümünde veri merkezleri ve pahalı yarı iletken altyapısının yerine daha düşük maliyetli sistemlerin kullanılabileceğine dikkat çekiyor.
Ancak bu değerlendirmeye temkinli yaklaşmak gerekiyor. Yapay zekanın birim ekonomisi ve gelecekteki talebin niteliği henüz yeterince net değil. Ayrıca söz konusu araştırmaların temel sorularından biri de veri merkezlerinin ve enerji kaynaklarının sınırlı olduğu bir dünyada, yapay zekaya yönelik hızla artan talebi karşılamak için hesaplama kapasitesinin nasıl ölçeklendirileceği.
Araştırmanın ortak yazarlarından biri de Stanford'da bilgisayar bilimi alanında önemli isimlerden John Hennessy. Hennessy aynı zamanda Alphabet'in başkanı. Alphabet'in yapay zeka altyapısına yönelik uzun vadeli yatırımları düşünüldüğünde, küçük modellerin veri merkezi ekonomisini kısa sürede tamamen altüst edeceğini söylemek için henüz erken.
Açık ağırlıklı modeller ikinci cepheyi oluşturuyor
Yapay zeka ekonomisi açısından bir diğer önemli risk, büyük açık ağırlıklı modellerin hızla gelişmesi.
Bu modeller de kapalı ağırlıklı rakipleri gibi bulut altyapısında çalıştırıldığında önemli miktarda işlem gücü ve veri merkezi kapasitesi gerektiriyor. Bu nedenle, doğrudan veri merkezi yatırımlarının ekonomik temelini tehdit etmeleri kısa vadede daha zor görünüyor.
Ancak açık ağırlıklı modeller, Anthropic'in Claude'u, OpenAI'nin ChatGPT'si ve Google'ın Gemini'si gibi kapalı modelleri geliştiren yapay zeka şirketleri için daha ciddi bir rekabet oluşturabilir.
Aradaki temel fark, açık ağırlıklı modellerin kullanıcıların bu yapay zeka şirketlerine doğrudan abonelik veya kullanım ücreti ödemeden kendi sistemlerinde çalıştırılabilmesine olanak sağlaması.
Nvidia'nın kısa süre önce satın aldığı Hugging Face platformunda 3 milyondan fazla açık kaynaklı ve açık ağırlıklı model bulunuyor. Bunların bir bölümü, PDF özetlemek, belgeleri sınıflandırmak veya basit sohbet görevlerini yerine getirmek için dizüstü bilgisayarlarda çalıştırılabilecek kadar küçük.
Diğer tarafta ise Moonshot'ın Kimi K3 modeli gibi çok daha büyük sistemler bulunuyor. 2,8 trilyon parametreye sahip bu model, ölçek açısından küçük yerel modellerden tamamen farklı bir kategoride yer alıyor.
Citi Research'e göre Kimi K3, kısa süre öncesine kadar piyasadaki kapalı ağırlıklı en gelişmiş modellerin bir bölümünden daha yüksek performans gösteriyordu.
Dolayısıyla şirketlerin önünde giderek daha karmaşık bir tercih ortaya çıkıyor: Kendi açık ağırlıklı modelini çalıştırmak mı, yoksa kapalı bir modele abonelik yoluyla erişmek mi?
Bu iki seçeneğin başa baş noktasını hesaplamak ise göründüğünden daha zor. Kapalı modeller şirketleri işlem gücü ve depolama altyapısını kendilerinin kurma ve yönetme maliyetinden kurtarıyor. Ancak hangi model kullanılırsa kullanılsın, çıkarım işlemi sırasında tüketilen işlem gücü ve enerji için bir bedel ödenmesi gerekiyor.
Açık ağırlıklı modeller ise özellikle yüksek hacimli kullanımlarda, kapalı modellerin token bazlı ücretlerinden kaçınma imkanı sunuyor.
Yapay zeka yönlendiricilerinde dikkat çeken değişim
Açık ve kapalı modeller arasındaki rekabetin hangi yöne ilerlediğini görmek için OpenRouter gibi yapay zeka yönlendirme platformlarının verileri önemli bir gösterge olabilir. Stripe'ın geçen ay satın almak üzere anlaşmaya vardığı New York merkezli OpenRouter, kullanıcıların sorgularını farklı yapay zeka modelleri arasında yönlendiren bir platform olarak çalışıyor.
Bu sistemleri, yapay zeka sorguları için bir tür yönlendirme katmanı olarak düşünmek mümkün. Kullanıcı hangi modeli kullanacağını kendisi seçmek yerine sorgusunu platforma gönderiyor. Sistem de görevi yerine getirebilecek en düşük maliyetli modele yönlendirme yapıyor.
Gerçekten karmaşık bir problem ve en gelişmiş kapalı modele ihtiyaç varsa sorgu bu modele gönderiliyor. Ancak basit bir görev söz konusuysa daha ucuz bir model tercih ediliyor.
OpenRouter verileri, en gelişmiş kapalı modellere yönelik talebin azaldığına işaret ediyor. Yılın başında sorguların yaklaşık beşte üçü kapalı ağırlıklı özel modellere yönlendirilirken, bu oran son dönemde dörtte bire kadar geriledi.
Bu eğilim, şirketlerin maliyetleri azaltmak amacıyla kapalı modellerden açık modellere yöneldiğini gösteren haberlerle de örtüşüyor.
Temmuz ayında DoorDash, Siemens ve Airbnb'nin maliyet tasarrufu amacıyla açık modellere yöneldiği bildirilmişti. Geçen hafta ise AT&T'nin yapay zeka kullanımında açık modellere daha fazla ağırlık verdiği ortaya çıktı.
AT&T'nin verilerine göre açık kaynaklı modeller mayıs ayında şirketin toplam yapay zeka kullanımının yüzde 20'sini oluşturuyordu. Bu oran daha sonra yüzde 40'a çıktı ve önümüzdeki aylarda yüzde 60'a ulaşabileceği belirtiliyor.
Şirket, açık modellere geçiş sayesinde bu yılın başına kıyasla yapay zeka maliyetlerinde yüzde 80'e varan tasarruf sağladığını belirtiyor.
Şirketler kontrolü de geri istiyor
Açık modellerin maliyet avantajının yanı sıra başka önemli faydaları da bulunuyor: veri güvenliği ve fikri mülkiyet üzerindeki kontrol.
Bu konu özellikle veriye ve özel algoritmalara dayalı sektörlerde faaliyet gösteren şirketler için kritik önem taşıyor. Kantitatif hedge fonları ve yatırım şirketleri, biyoteknoloji ve ilaç şirketleri, savunma ve mühendislik firmaları ile hukuk büroları, hassas verilerini kapalı model sağlayıcılarına aktarma konusunda daha temkinli davranabilir.
Şirketler, yapay zeka modellerini kullanırken kendi verilerinin rakiplerin erişimine açık hale gelmesini veya model eğitimi süreçlerinde kullanılmasını istemiyor. Bu nedenle bazı kurumlar kendi yapay zeka altyapılarını kurmayı tercih ediyor.
Hukuk sektöründe bu eğilim daha belirgin hale geliyor. Örneğin ABD'nin en büyük ikinci hukuk firması Latham & Watkins'in, Nvidia'nın açık kaynaklı Nemotron modellerini kendi altyapısında barındırmak ve geliştirmek amacıyla Nvidia donanımı satın aldığı bildirildi.
Firmanın bilgi işlem sorumlusu Rene Mendoza, hassas müşteri bilgilerinin herhangi bir bulut sağlayıcısına aktarılmasının her zaman tercih edilmeyebileceğini belirtiyor.
Benzer bir eğilim varlık yönetimi sektöründe de görülüyor. Sermaye piyasaları yapay zeka altyapı şirketi ApexE3'ün stratejik danışmanı Tareq Islam'a göre Londra'daki bazı varlık yöneticileri, hem tek bir özel modele bağımlı hale gelmekten hem de en hassas verilerini ve fikri mülkiyetlerini kapalı model sağlayıcılarıyla paylaşmaktan kaçınıyor.
ApexE3'ün müşterileri arasında dünyanın en büyük ikinci varlık yöneticisi Vanguard da bulunuyor.
Bu eğilim, Deloitte'un bu ay küresel şirketlerin açık modelleri ölçeklendirmesine yardımcı olmak amacıyla yeni bir "Açık Model Mühendisliği" uygulaması başlatmasını da anlamlı hale getiriyor.
Veri merkezleri için asıl risk nerede?
Dünyanın kısa sürede tamamen açık ağırlıklı modellere geçmesi beklenmiyor. Ancak açık modellerin yaygınlaşması halinde bile, bu modeller büyük ölçekte bulut altyapısında çalıştırıldığı sürece veri merkezi talebi tamamen ortadan kalkmayacak.
Bu nedenle açık modellerin yükselişi, veri merkezi yatırımlarının tamamı açısından doğrudan bir tehdit oluşturmayabilir. Hatta yapay zeka kullanımının büyümeye devam etmesi, veri merkezi ve çip yatırımlarını desteklemeyi sürdürebilir.
Ancak asıl soru, bu yatırımlardan elde edilecek getirilerin kimlerde toplanacağı.
OpenAI ve Anthropic henüz halka açık şirketler değil ve derecelendirilmiş borç ihraç etmiş değiller. Buna karşın, yapay zeka sektöründeki merkezi konumları ve üzerlerinde biriken finansman yükü nedeniyle bu şirketlerin finansal durumları giderek daha geniş bir yatırımcı kitlesi açısından önem kazanıyor.
Büyük veri merkezi şirketlerinin temel faaliyetleri ise genellikle yüksek kârlılık ve güçlü nakit akışı yaratıyor. Sahip oldukları veya uzun vadeli kullanım hakkını elde ettikleri veri merkezi kapasitesi, işlem gücünün sınırlı olduğu bir dünyada hangi yapay zeka modelinin öne çıktığından bağımsız olarak değer taşıyabilir.
Bu şirketlerin, yanlış sonuçlanan bazı büyük yatırımları absorbe edebilecek finansal güçleri de bulunuyor.
Önde gelen yapay zeka laboratuvarlarının durumu ise farklı. Bu şirketler, büyük ölçüde yatırımcılarının gelecek beklentilerine dayanarak yüksek miktarda nakit tüketiyor. Bu beklenti yalnızca geliştirdikleri teknolojilerin başarısına değil, bu teknolojileri borç servisleri, kira yükümlülükleri, uzun vadeli enerji anlaşmaları ve diğer maliyetlerin üzerinde bir hızla gelire dönüştürebilmelerine dayanıyor.
Buradaki temel risk ise açık modellerin bu gelir modelini baskı altına alabilmesi.
Eğer önde gelen bir yapay zeka şirketi ticarileşme hedeflerine ulaşamazsa, bunun finansal sonuçlarının ekonominin diğer bölümlerine nasıl yayılacağını öngörmek kolay değil.
Yapay zeka yatırımlarında zincirleme risk
Uluslararası Ödemeler Bankası (BIS), haziran ayında büyük ölçekli yapay zeka yatırımlarından beklenen getirilerin gerçekleşmemesinin, küresel hisse senedi piyasalarında daha geniş çaplı bir yatırım krizini tetikleyebileceği konusunda uyarıda bulunmuştu.
Bu uyarı, yapay zeka yatırımlarının artık yalnızca teknoloji sektörünün bir meselesi olmadığını gösteriyor. Yapay zeka harcamaları; çip üreticilerinden veri merkezi işletmecilerine, enerji şirketlerinden teknoloji platformlarına ve sermaye piyasalarına kadar geniş bir ekonomik zinciri etkiliyor.
En iyimser senaryoda yapay zeka, verimliliği artırabilir, ekonomik büyümeyi hızlandırabilir, kamu gelirlerini yükseltebilir ve şirketlerin maliyetlerini düşürebilir.
Ancak yapay zeka ekonomisinin bu olumlu tabloya ulaşması, mevcut yatırımların tamamının aynı ölçüde kazançlı olacağı anlamına gelmiyor.
Küçük dil modellerinin gelişmesi, açık ağırlıklı modellerin yaygınlaşması ve şirketlerin kapalı sistemlere bağımlılığı azaltma çabaları, yapay zeka altyapısındaki mevcut yatırım tezini yeniden şekillendirebilir.
Dolayısıyla hiper ölçekli bulut şirketlerine veya önde gelen yapay zeka laboratuvarlarına yatırım yapanlar açısından mesele yalnızca yapay zekanın ne kadar hızlı büyüyeceği değil. Asıl soru, bu büyümenin ekonomik değerinin hangi şirketlerde ve hangi iş modellerinde toplanacağı olacak.