Underdog, tarayıcıda çevrimdışı çalışan 32MB'lık Woof konuşma modelini tanıttı

Cevap veren retro bir oda

Kompakt yapay zeka modelleri geliştiren bir girişim olan Underdog, kullanışlı bir konuşma modelinin ne kadar küçük olabileceğini göstermek amacıyla etkileşimli bir demo yayınladı. TechCrunch'a göre demo, tarayıcı tabanlı, retro temalı bir odada geçen bir oyun; odada bir daktilo, bir CRT monitör ve düğmesine bastığınızda duyulabilir şekilde tıklayan bir masa lambası bulunuyor. Giriş bölümü oyuncuları kasabadaki "müdahaleci" bulut sağlayıcıları konusunda uyarıyor; TechCrunch bunu bulut tabanlı yapay zekaya yapılmış bir gönderme olarak yorumluyor.

Daktilo odanın merkezindeki unsur: oyuncunun klavyede yazdığı her şey model tarafından sesli olarak okunuyor. Odadaki müzik çalar da döndürülerek farklı türlerde müzik üretebiliyor. Tüm ses üretimi tarayıcıda gerçekleşiyor ve şirket, modelin herhangi bir internet bağlantısı olmadan çoğu cihazda çalışabileceğini söylüyor.

Arkasındaki model

Ses motoruna Woof adı verilmiş. TechCrunch'ın haberine göre 32MB depolama alanı kaplayan ve 31 milyon parametreye sahip bir konuşma üretim modeli; herkes tarafından indirilebilir olacak şekilde açık durumda. Demo aslında bir yetenek kanıtı: bir telefonun depolama bütçesine rahatça sığacak kadar küçük, ama yine de rastgele bir metni tarayıcı sekmesinde gerçek zamanlı olarak konuşmaya dönüştürebilen bir model.

TechCrunch, bu kadar küçük bir modelin büyük bulut tabanlı sistemlerin yerini almasının beklenmediği gibi bariz bir uyarıyı da ekliyor. Yine de yerel asistan deneyimleri veya kişiselleştirilmiş podcast üretimi için yeterli olabilir; gecikme, maliyet ve gizliliğin zirve yetenekten daha önemli olduğu iş yüklerinde.

Daha geniş bir portföyün parçası

Woof, Underdog'un bu alandaki ilk hamlesi değil. Birkaç hafta önce şirket, yine edge cihazlar için tasarlanmış ve transkripsiyon ile dikte amaçlı 167MB'lık Bark konuşmadan metne modelini piyasaya sürdü. İki ses modelinin ötesinde TechCrunch'ın aktardığına göre Underdog, dizüstü bilgisayarlarda çalışabilen 27 milyar parametrelik bir model yayınladı ve Muse ile Instinct'e yerel olarak barındırılan bir alternatif olarak konumlandırdığı, bekleme listesine bağlı bir uygulama geliştiriyor.

Kurucu Sigil Wen, projeye kişisel bir girişim olarak başladığını TechCrunch'a anlattı: Granola gibi not alma hizmetlerine bağımlı olmak yerine, kullanıcıların kendi donanımında çalışan modeller üzerine kurulu, böylece insanların verilerinin sahipliğini elinde tuttuğu bir sistem istemiş. "Bugünün en yetenekli modellerinin birkaç ay içinde zaten sahip olduğunuz cihazlarda çalıştırılabileceğini düşünüyorum" diyen Wen, hedefin açık, yetenekli ve Amerika'da üretilmiş, insanlara özel yapay zeka sunan modeller eğitmek olduğunu ekledi.

Neden önemli

Yapay zekadaki ilerlemenin çoğu ölçekle ölçülüyor; ama günlük kullanışlılık açısından belirleyici kısıt genellikle yerel olarak neyin çalıştırılabileceğidir. Tarayıcıda çevrimdışı çalışan 32MB'lık bir konuşma modeli farklı bir olgunluğa işaret ediyor: veri merkezlerinin değil, telefonların ve dizüstü bilgisayarların bellek ve işlem bütçelerine göre ayarlanmış modeller. Kullanıcılar için cihaz üzerindeki konuşma sentezi, yazılan metnin cihazdan hiç çıkmadan sese dönüşebilmesi anlamına geliyor; bu da dikte, erişilebilirlik araçları ve hassas girdilerle çalışan asistanlar için önemli. Sektör içinse böyle demolar, bulut yeteneği ile edge yeteneği arasındaki farkın daraldığının ve açık ağırlıkların küçük bir ayak iziyle eşleştirilmesinin bir araştırma merakı olmaktan çıkıp inandırıcı bir ürün stratejisi hâline geldiğinin kanıtı. Underdog'un açıkladığı bahis, bugünün yetenekli modellerinin birkaç ay içinde insanların zaten sahip olduğu donanımda çalışacağı yönünde; Woof ve Bark bu yöndeki erken, somut adımlar.