Google, üçüncü taraf AI çiplerine bağımlılığı azaltmak için TPU 8tx ve TPU 8i Max'i duyurdu

Google, kendi geliştirdiği silikon serisine iki yeni tensor işleme birimi (TPU) ekledi; biri gizli AI iş yüklerine, diğeri ise bellek yoğun çıkarım işlemlerine odaklanıyor. TechCrunch'a göre şirket, bulut bilişim işinde diğer çip üreticilerine bağımlılığı azaltma çabasının bir parçası olarak çipleri TPU 8tx ve TPU 8i Max'ı pazartesi günü tanıttı.

Sekizinci TPU neslinin iki yeni üyesi

Her iki çip de Google'ın Nisan ayında tanıttığı, daha fazla çıkarım kapasitesi ve büyük eğitim işlemleri desteğine odaklanan sekizinci TPU neslini genişletiyor. Yeni varyantlar aileyi daha özel alanlara taşıyor.

AMD ile geliştirilen TPU 8tx, mevcut TPU 8t tasarımını temel alıyor ve AI modellerini gizli biçimde eğitmek ve çalıştırmak için tasarlandı. TechCrunch'ın aktardığı bir blog yazısında Google, çipin güvenlik korumalarını doğrudan donanımın içine gömdüğünü, böylece hassas verilerin ve model ağırlıklarının, çip bunları aktif olarak kullanırken bile korunmaya ve izole edilmeye devam ettiğini belirtti.

Çip ayrıca, eğitimyle birlikte akıl yürütme (reasoning) iş yüklerini de çalıştırmasını sağlayan özel bir çıkarım ağı içeriyor. Google'a göre bu, küçük modelleri anında damıtmayı (distill) ve eğitmeyi mümkün kılıyor; bu da tescilli verilerle model eğitmek isteyen ancak bu verileri cihazlar arasında taşımak istemeyen kuruluşlar için çekici olabilir.

TPU 8i Max farklı bir yaklaşım benimsiyor: Esasen Nisan'da piyasaya sürülen çıkarım odaklı iki TPU 8i çipini tek bir pakette birleştiriyor. TechCrunch'ın haberine göre bu, bellek kapasitesini, işleme gücünü ve bant genişliğini ikiye katlıyor; bu da AI modellerinin tek bir sorguda daha fazla bilgiyle çalışmasını sağlıyor — bağlam pencereleri (context window) ve akıl yürütme ağırlıklı iş yükleri büyüdükçe artan bir gereksinim.

Nvidia'dan uzaklaşma yarışı

Bu lansman daha geniş bir endüstri eğilimine uyuyor. TechCrunch'ın belirttiği gibi Microsoft, Amazon ve OpenAI ile Anthropic dahil AI laboratuvarları, büyük ölçüde Nvidia'nın AI hesaplama pazarındaki hâkimiyetini gevşetmek için kendi AI'ya özel yarı iletkenleri ve buna eşlik eden yazılımları üzerinde çalışıyor.

Google için hesap hem ekonomik hem stratejik. Özel TPUs, Google Cloud'un sattığı iş yüklerine tam olarak göre ayarlanabilir ve şirket içi silikonda çalışan her iş, üçüncü taraf bir tedarikçinin fiyatlamasına, tahsisine veya çıkış takvimine bağımlı olmayan bir iştir.

Zamanlama Nvidia için de tuhaf bir döneme denk geliyor: TechCrunch'ın haberine göre duyuru, şirketin CEO'su Jensen Huang'ın hafta sonu Çinli bir casus olduğu iddia edilen bir kişiyle ilişkisi olduğunu itiraf etmesinin hemen ardından geldi.

Neden önemli

Donanım düzeyinde gizli hesaplama, sağlık, finans ve kamu sektöründe, hassas modelleri paylaşımlı bulut altyapısında çalıştırmaya şimdiye kadar çekinmiş düzenlenmiş müşteriler için belirleyici bir faktör haline gelebilir. AMD ortaklığı da dikkat çekici; geleneksel bir çip üreticisinin bir hyperscaler ile doğrudan rekabet etmek yerine özel bir hızlandırıcı üzerinde iş birliği yaptığını gösteriyor. En önemlisi, daha geniş bir TPU portföyü, Google Cloud'un artık eğitim, çıkarım, gizlilik duyarlı ve uzun bağlamlı iş yüklerini Nvidia donanımına bağlı kalmadan sunabilmesi anlamına geliyor; bu da başlıca her bulut sağlayıcısının ve AI laboratuvarının şirket içi silikonunun pazar liderine uyguladığı rekabet baskısını derinleştiriyor.