deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

Topluluk SDK'sı taurus-jev-sdk-go, TypeSafe AI'nin Jev modelini Go'ya getiriyor

dev.to'da yayımlanan bir yazı, TypeSafe AI'nin Jev modeli için topluluk tarafından geliştirilen Go istemcisi taurus-jev-sdk-go'yu tanıtıyor; bu SDK, metin üretmek yerine 70–500 ms içinde tipli yapılandırılmış yanıtlar döndürüyor.

Topluluk SDK'sı taurus-jev-sdk-go, TypeSafe AI'nin Jev modelini Go'ya getiriyor

taurus-jev-sdk-go adlı topluluk yapımı bir kütüphane, Go geliştiricilerine TypeSafe AI'nin yapılandırılmış çıktı modeli Jev'e yerel erişim sağlıyor ve üreticinin resmi Python ve JavaScript istemcilerinin bıraktığı boşluğu dolduruyor. dev.to'daki bir yazıya göre paket, modelin HTTP API'sini sarmalayarak Go backend'lerinin istek payload'larını elle yazmadan veya yanıtları ayrıştırmadan tipli yanıtlar — olasılıklar, etiketler ve skorlar — talep edebilmesini sağlıyor.

Jev'i farklı kılan şey

Yazı, Jev'i psikolojinin hızlı sezgisel yargı ile yavaş kasıtlı akıl yürütme ayrımından esinlenerek bir "System One" modeli olarak konumlandırıyor. GPT veya Claude gibi geleneksel büyük dil modelleri metni token token üretir; yazar bunu kasıtlı "System 2" düşünmesine benzetiyor: yetenekli, ancak sınıflandırma, risk skorlama veya veri yönlendirme gibi rutin otomasyon işleri için yavaş ve kaynak tüketen bir yapı.

Jev ters yaklaşımı benimsiyor. Sohbet tarzı metin üretmek yerine ham veri ve bir dizi soruyu kabul ediyor, bunları paralel olarak değerlendiriyor ve yapılandırılmış çıktılar döndürüyor — evet/hayır kararları, skorlar ve etiketler — her biri kalibre edilmiş bir olasılıkla eşleşiyor. Token üretilmediği için yazı 70 ms ile 500 ms arası gecikme bildiriyor. Yanıtlar doğrudan if/else dallarına girebilen sıradan değerler (float, string, integer) olarak geliyor.

Yazıya göre eski OpenAI mühendisleri tarafından kurulan TypeSafe AI, Jev'i bu yeni sınıftaki ilk model olarak konumlandırıyor.

Go'nun neden topluluk SDK'sına ihtiyacı vardı

Resmi SDK'lar şu anda yalnızca Python ve JavaScript/TypeScript için mevcut. Go geliştiricileri aksi halde ham HTTP çağrıları yapmak, payload'ları kendileri oluşturmak ve hataları elle ele almak zorunda kalacaktı — yazarın ekibini taurus-jev-sdk-go'yu geliştirmeye iten sürtünme de tam olarak buydu.

Üç soru türü

SDK, Jev API'sinin sunduğu üç soru türünün tamamını kapsıyor:

  • Noul, bir ifadenin doğru olup olmadığını sorar ve 0 ile 1 arasında bir olasılık döndürür.
  • Choice, en uygun etiketi seçer ve bir güven değeri bildirir.
  • Score, veriyi bir ölçeğe göre değerlendirir ve sayısal bir skor, bir açıklama (legend) ve güven döndürür.

Kütüphaneyle çalışmak

Kurulum geleneksel Go pratiğini izliyor: TYPESAFE_API_KEY ortam değişkenini tanımlayın ve paketi go get ile indirin. jev.New() ile oluşturulan bir istemci anahtarı ortamdan otomatik olarak okur.

Yazı, bir destek talebi (support-ticket) hattını gösteriyor. Talebin konusunu ve gövdesini içeren bir map, üç soruyu tek istekte kapsayan soru tanımlarıyla birlikte client.SystemOne'a geçiliyor: talebin faturalamayla ilgili olup olmadığı (Noul), kullanıcının tonunun ne olduğu (Choice, kriter olarak "angry" ve "calm") ve ne kadar acil olduğu (Score, kademeli üç kritere göre değerlendiriliyor).

NoulOf, ChoiceOf ve ScoreOf gibi tipli erişimciler her yanıtı alır; böylece akış sonrası mantık bir olasılık eşiğine göre dallanabilir, ton etiketi "angry" olduğunda eskalasyon yapabilir veya aciliyet düzeyini doğrudan okuyabilir. SDK ayrıca ErrRateLimit, ErrOverloaded ve ErrAuthentication gibi sentinel hataları ortaya koyar; böylece çağıran taraf, aşırı yüklenmiş bir hizmet ile hatalı bir API anahtarını ayırt edebilir ve örneğin bir talebi tamamen başarısız kılmak yerine yeniden deneme için kuyruğa alabilir.

Her yanıt standart Go tiplerine önceden ayrıştırılmış olarak gelir; yani model çıktısında regex eşleştirme veya elle string ayrıştırma gerekmez.

Neden önemli

Yukarıdaki ayrıntıların SDK'nın kendi geliştiricileri tarafından yazılmış tek bir dev.to yazısından geldiğini belirtmek gerekir; dolayısıyla gecikme rakamları ve yetenek iddiaları bağımsız benchmark'lar değil yazarın anlatımını yansıtıyor. Bu uyarıyla birlikte proje, backend'lerin yapay zekayı tüketme biçimindeki daha geniş bir değişime işaret ediyor: birçok görev için hiç sohbet odaklı bir model gerekmiyor, sadece hızlı ve tipli bir fonksiyon çağrısı yeterli. Jev 70–500 ms vaadini tutturursa, sınıflandırma ve yönlendirme kararları pahalı bir yapay zekâ özelliğinden sıradan bir altyapıya dönüşüyor.

Go hâlâ baskın bir backend dili, ancak üreticiler rutin olarak önce Python ve JavaScript SDK'larını yayımlıyor. Böyle topluluk sarmalayıcıları bu boşluğu kapatıyor ve Jev'in tipli soru tasarımı Go'nun kendi tip sistemiyle doğal olarak örtüşüyor; böylece LLM entegrasyonlarında sık görülen çıktı kazıyıcı yapıştırma kodu ortadan kalkıyor. Bunu değerlendirmek isteyen geliştiriciler fiyatlandırmayı, rate limit'leri ve API kararlılığını doğrudan TypeSafe AI ile doğrulamalı; çünkü SDK, resmi bir istemci değil, KKloudTaurus GitHub organizasyonu altında yayımlanmış üçüncü taraf bir çalışma.

  • #golang
  • #sdk
  • #structured-output
  • #ai-models
  • #open-source

İlgili yazılar