Cloudflare Workers AI üzerinde ücretsiz LLM sohbet ve çeviri API'leri için kredi kartı gerekmiyor

Geliştirme yapabileceğiniz bir ücretsiz katman

dev.to'da yayımlanan bir eğitim, geliştiricilere yalnızca platformun ücretsiz tahsisini kullanarak Cloudflare Workers AI üzerinde iki çalışan AI servisi kurmayı anlatıyor: bir LLM sohbet endpoint'i ve yaklaşık 100 dili kapsayan bir çeviri API'si. Yazıya göre kredi kartı veya ücretli API anahtarı gerekmiyor ve yazar tüm kurulumun yaklaşık beş dakika sürdüğünü tahmin ediyor.

Cloudflare, Workers AI kullanımını "neuron" birimiyle ölçüyor ve ücretsiz plan, yazara göre prototipler, demolar ve düşük trafikli araçlar için yeterli olan günlük bir tahsis içeriyor. Yazı, limitlerin Cloudflare tarafından belirlendiğini ve değişebileceğini belirterek takip edenlerin güncel fiyatlandırma sayfasını kontrol etmesi gerektiği konusunda uyarıyor.

İki şablon ne yapıyor?

Sohbet şablonu, Meta'nın Llama 3.1 8B Instruct modeliyle desteklenen tek bir POST endpoint'i sunuyor. İstek bir mesaj, isteğe bağlı konuşma geçmişi ve isteğe bağlı bir system prompt taşıyor; worker ise modelin yanıtıyla cevap veriyor. Geçmiş, istek oluşturulmadan önce en son yirmi mesaja kısaltılıyor ve hiç sağlanmadığında varsayılan bir system prompt uygulanıyor. Worker serbest CORS başlıkları ayarlıyor ve API_KEY secret'ı ile yönlendirilen isteğe bağlı bir bearer-token kontrolünü destekliyor.

Çeviri şablonu Meta'nın m2m100 1.2B modelini sarıyor ve query parametreleri içeren bir GET isteğini ya da JSON gövdeli bir POST isteğini kabul ederek çevrilmiş metni hedef dille birlikte döndürüyor.

Her iki worker da minimal — bir wrangler.toml ve bir worker.js — ve tek bir yapılandırma detayına dayanıyor: wrangler.toml içindeki [ai] binding'i, Cloudflare'ın inference API'sini worker içinde bir env.AI nesnesi olarak ortaya çıkarıyor.

Üç komutla dağıtım

Yazıya göre dağıtım, dosyaları bir klasöre koyup npx wrangler login çalıştırmak ve ardından npx wrangler deploy çalıştırmaktan ibaret. Her worker bir workers.dev alt alan adına yerleşiyor ve hemen curl ile çağrılabiliyor — bir örnek sohbet worker'ına bir soru gönderirken, başka bir örnek çeviri worker'ı üzerinden bir ifadeyi Fransızcaya çeviriyor. Yazar, bu ikiliyi MIT lisanslı cf-ai-starter-lite adlı bir indirme olarak dağıtıyor ve tam kodu da yazıda paylaşıyor.

Yapımdan pratik dersler

Eğitim, bu özel kurulumun çok ötesine geçen saha notlarıyla bitiyor.

Küçük açık modeller dar talimatlar gerektiriyor. Yazar, 8B parametreli bir modelin belirsiz yönlendirmeler verildiğinde saptığını ve kısa, net kısıtlamaların — bir cümle sınırı ya da yalnızca JSON ile yanıt verme zorunluluğu — sonuçları gözle görülür şekilde iyileştirdiğini fark etmiş.

Kimlik doğrulama erken eklenmeli. Korumasız bir workers.dev URL'si keşfedilirse ücretsiz tahsis hızla tükenebilir; sohbet worker'ının isteğe bağlı bir wrangler secret ile ayarlanan bearer token desteği bu yüzden var.

CORS, OPTIONS preflight'i de içermeli. Olmadığında, aynı çağrı curl'den başarılı olsa bile tarayıcı istekleri başarısız oluyor.

Testler gerçek API'ye yapılmalı. İndirme, bir hesap ID'si ve token kullanarak Workers AI'ı REST üzerinden çağıran bir test scripti içeriyor; yazar, mock'ların gerçek model çıktısındaki tuhaflıkları gözden kaçıracağını savunuyor.

İsteğe bağlı ücretli paket

Ücretsiz indirme kendi başına çalışıyor, ancak yazar ayrıca 7 dolarlık bir genişletme satıyor; bu paket streaming'li OpenAI uyumlu bir chat-completions proxy'si, bir toplu özetleyici, schema retry destekli bir JSON çıkarıcı, BGE embedding'leri üzerine kurulu anlamsal arama, bir prompt kütüphanesi ve bir kurulum rehberi ekliyor. Yazı, yazarın Cloudflare ile bağlantısı olmadığını ve makalenin AI desteğiyle yazıldığını belirtiyor.

Neden önemli

Bir yan projeye LLM eklemenin usual ilk adımı ücretli bir API anahtarı edinmektir ve bu kurulumun ortadan kaldırdığı sürtünme tam olarak budur. Ücretsiz günlük neuron tahsii, iki küçük ve serbest lisanslı worker ile birleşince geliştiricilere başka bir yerde kayıt olma süresi kadar kısa bir zamanda çalışan bir sohbet ve çeviri backend'i kazandırıyor. Bu pattern Cloudflare dışında da kopyalanmaya değer: CORS işleme, isteğe bağlı auth ve kısaltılmış konuşma geçmişine sahip iki dosyalık bir endpoint, her prototip için mantıklı bir referans mimaridir.

Uyarılar gerçek — kotalar değişebilir, 8B'lik bir model frontier model değildir ve ücretsiz tahsis üretim trafiğini karşılayamaz. Ancak demolar, hack'ler ve düşük trafikli araçlar için fiyatını geçmek zor ve edge-runtime yaklaşımı inference'ı kodunuzun geri kalanıyla aynı yerde tutuyor.