İki yıl önce, OpenAI’ın donanımdan sorumlu başkan yardımcısı Richard Ho’nun yapay zeka devine katılmasından kısa bir süre sonra Ho, CEO Sam Altman ve bir grup araştırmacıyla birlikte dünyanın en büyük çip üreticileriyle görüşmek üzere Asya’ya gitti: TSMC, Samsung ve SK Hynix. Altman’ın mesajı açıktı. OpenAI’ın bilgi işlem gücü talebi hızla artacaktı ve yarı iletken sektörünün daha hızlı hareket etmeye başlaması gerekiyordu. Ho, Altman’ın kendilerine şöyle dediğini hatırlıyor: “Bakın, birkaç yıl içinde çok daha fazla silikona ihtiyacımız olacak. Lütfen daha fazla yarı iletken fabrikası kurmaya başlayın.”
Dokuz ayda geliştirildi
Bu şirketler gerçekten de daha fazla fabrika kurdu. Bunlar, bilgisayar çiplerinin fiziksel olarak üretildiği tesislerdi. Ancak Ho’nun Forbes’a anlattığına göre bu yatırımlar, OpenAI’ın dipsiz bilgi işlem gücü ihtiyacını karşılamaya yetmedi. OpenAI’ın kendi donanımını üretmeye karar vermesinin nedenlerinden biri de bu kısıtlı durumdu ve Altman, sıfırdan bir ekip kurması için Ho’yu görevlendirdi. İki yıl sonra şirket, Jalapeno adını verdiği ilk çipini duyurdu. OpenAI, haziran ayında çipi dokuz ayda geliştirdiğini ve yıl sonuna kadar veri merkezlerine yerleştirmeye başlamayı planladığını açıkladı.
Forbes’a konuşan Ho, “Şu anda karşı karşıya olduğumuz kısıtlamalardan biri şu: Eğer yaklaşık iki buçuk yıl önce daha fazla fabrika kurmaya başlamış olsaydık, bugün çok daha iyi bir konumda olurduk” dedi. OpenAI’a katılmadan önce Google’da uzun yıllar çalışan Ho, arama devinin ilk TPU çipinin tasarımına yardımcı olmuştu. TPU, özellikle yapay zeka için tasarlanmış, özel üretim bir silikon çipti.
Tüm altyapıyı kontrol etmek
OpenAI’ın altyapının tüm katmanları üzerinde kontrol sahibi olmak istediğini söyleyen Ho, “Şirketin yapay zeka modellerinden elde edilen bilgiyi alıp en alt katmana, yani çiplere kadar taşıyan bir yazılım katmanı da var. Şimdiye kadar bu çiplerin büyük çoğunluğu GPU’lardan oluşuyordu. Eğer tüm bu katmanları kontrol edebilirsek daha fazlasını yapma ve işleri daha iyi gerçekleştirme imkanına sahip oluruz. Veri merkezlerimizi, çiplerimizi, bu merkezlerde kullanılan sistemleri, modellerimizi ve yazılımlarımızı kontrol edersek her şeyi daha verimli hale getirebiliriz” ifadelerini kullandı.
Nvidia ya da Intel gibi çip devlerine kıyasla Ho, yaklaşık 100 kişilik küçük bir ekiple yola çıktıklarını söyledi. Ho ayrıca şirket içinde çip talebinin çok yüksek olduğunu bu nedenle kendi çiplerini üretseler bile şimdilik başka şirketlere satış gibi bir konuya odaklanmadıklarını aktardı.
“Nvidia ile işbirliğimiz devam edecek”
Forbes’un yeni çiplerinin Nvidia’ya olan bağımlılığı azaltıp azaltmayacağı sorusuna da, “Bence Nvidia, bu portföyün bir parçası olmaya devam edecek. Dolayısıyla burada asıl önemli olan, Sam’in OpenAI için hesaplama konusunda bir vizyon görmüş olması. Daha fazla hesaplama kapasitesine o kadar güçlü bir talep var ki bu da ihtiyaçlarımızı tamamlayacak. Bu nedenle Nvidia ile çok güçlü bir işbirliği sürdürmeye devam ediyoruz” yanıtını verdi. OpenAI Jalapeno adı verilen çiplerini yıl sonuna kadar veri merkezlerine yerleştirmeyi planlıyor. Ho hedeflerinin iddialı olduğunu belirtse de şu an bunun için hazırlık çalışmaları yapıldığını belirtti.