Google, PyTorch uygulamalarını TPU çiplerine taşıyan TorchTPU'yı açık kaynak yaptı

Google, kendi yapay zeka çipleri için uzun süredir beklenen PyTorch varyantı TorchTPU'yu açık kaynak bir proje olarak yayımladı. TechCrunch'a göre bu hamleyle Google, Amazon'un pazartesi günü benzer bir girişim duyurmasının ardından iki gün içinde Nvidia'nın yapay zeka uygulama geliştirmesindeki hâkimiyetini gevşetmeye çalışan ikinci büyük bulut sağlayıcısı oldu.

TorchTPU ne yapıyor

PyTorch, birçok yapay zeka geliştiricisinin ve girişimin modelleri oluşturmak, eğitmek ve çalıştırmak için güvendiği açık kaynak araç seti — TechCrunch, yapay zeka uygulamalarının yaklaşık %85'ini çalıştırdığına dair tahminlere atıfta bulunuyor. TorchTPU, bu uygulamaların Nvidia GPU'ları yerine Google'ın Tensor Processing Unit'leri, yani TPU'lar üzerinde çalışmasını sağlıyor. Benimsenme açısından en az bunun kadar önemlisi, TechCrunch'a göre mevcut PyTorch uygulamalarının herhangi bir yeniden yazım gerektirmeden, yalnızca basit bir yapılandırma değişikliğiyle TPU'lara ve dolayısıyla Google Cloud'a taşınabilmesi.

PyTorch nasıl Nvidia'ya bağlandı

PyTorch, büyük dil modellerinin sektörü dönüştürmesinden çok önce, 2016'da o zamanlar Facebook olan Meta tarafından geliştirildi. O dönemde Nvidia'nın GPU'ları zaten yapay zeka araştırmaları için standart donanımdı; bu yüzden PyTorch'un birçok özelliği özellikle onlarla çalışacak şekilde tasarlandı. Meta projeyi 2022'de Linux Foundation'a devretti, ancak Nvidia öncelikli varsayımlar yapının içine gömülü kaldı. Bugün çoğu yapay zeka uygulamasının varsayılan olarak Nvidia donanımında çalışacak şekilde yazılmasının nedeni büyük ölçüde bu miras.

Amazon bir gün önce hamle yaptı

Amazon, pazartesi günü kendi PyTorch sürümü olan TorchNeuron'u tanıttı. TechCrunch'a göre TorchNeuron, yapay zeka uygulamalarını yeniden yazım gerektirmeden Amazon'un kendi geliştirdiği Trainium çipine ve AWS'ye taşıyor. Amazon ayrıca bu değişikliği yukarı akışta da yaygınlaştırıyor: şirket, çeşitli özellikleri Nvidia çiplerinden ayıran kodları ana PyTorch projesine sunarak framework'ü varsayılan olarak her donanıma daha açık hale getiriyor.

Google'ın ekstra bahsi

Google bazı açılardan daha da ileri gidiyor gibi görünüyor. TechCrunch'a göre Google, TorchTPU'nun özelliklerinin ve kod kütüphanelerinin standart PyTorch gibi bu popüler yapay zeka geliştirme araçlarıyla iyi çalışmasını sağlamak için doğrudan Meta, Hugging Face, Inferact (vLLM'ün geliştiricisi), RadixArk (SGLang'ın geliştiricisi) ve diğerleriyle iş birliği yaptı.

Google ayrıca geliştiricilerin uygulamalarını çiplerine ve bulutuna taşımalarına ve bu süreçteki hataları düzeltmelerine yardımcı olmak için TPU agent suite adlı özel bir araç yayımladı. Ve telefonlarda, dizüstü bilgisayarlarda ve gömülü cihazlarda yapay zeka çalıştırmaya yarayan aracı LiteRT'yi, PyTorch uygulamalarıyla daha iyi çalışacak şekilde güncelledi.

Neden önemli

Nvidia'nın yapay zekadaki hâkimiyeti yalnızca donanım performansıyla ilgili değil; yıllardır her PyTorch projesini Nvidia GPU'larına yönlendiren yazılım varsayılanlarına dayanıyor. Bir uygulamayı alternatif çiplere taşımak bir mühendislik projesi olmaktan çıkıp bir yapılandırma değişikliğine dönüşürse, çip seçimi — ve bulut harcaması — etrafındaki hesap da değişir. Amazon ve Google'ın ikisi de kendi yapay zeka çiplerini işletiyor ve bu donanımı birinci sınıf bir PyTorch hedefi haline getirmenin net bir ticari çıkarları var. TechCrunch, geliştiricilerin yalnızca alternatiflere ulaşmak artık daha kolay olduğu için toplu halde Nvidia donanımını bırakmayaceklerini belirtiyor. Ama en büyük bulut sağlayıcılarından ikisi bu varsayılanı sökmek için etkin biçimde çalışırken, Nvidia'nın kilitlenme etkisi şimdiye kadarki en koordineli meydan okumalardan biriyle karşı karşıya.