deniz.in

Piyasalar

Hava durumu

Hava durumu yükleniyor

· kaynak dev.to (home feed)

FastAPI 0.163'ün max_concurrency sınırı, iki sınırlı dependency paylaşan route'larda kilitlenmeye yol açabiliyor

FastAPI 0.163'ün yeni dependency başına max_concurrency seçeneğini sınayan bir dev.to stres testi, kolayca tetiklenebilen bir kilitlenmenin yanı sıra, yapılandırdığınız sınırı sessizce katlayan route ve worker başına limitler buldu.

FastAPI 0.163'ün max_concurrency sınırı, iki sınırlı dependency paylaşan route'larda kilitlenmeye yol açabiliyor

14 Kasım 2026'da yayımlanan FastAPI 0.163.0, tek bir yeni özellikle geldi: Depends(dependency, max_concurrency=N) biçiminde ifade edilen, dependency başına bir eşzamanlılık sınırı. Sürümü kırmaya sabahını harcayan bir geliştirici, dev.to'da yazdığı yazıda sınırın belgelendiği gibi çalıştığını ama birkaç tuzak sakladığını bildiriyor — bunların arasında iki route'u süresiz olarak askıya alan klasik bir kilit sıralaması kilitlenmesi de var. Testler, ilk sürümden üç gün sonra çıkan 0.163.2 yaması üzerinde yapıldı.

Sınır nasıl davranıyor

Bu seçenek, dependency'nin etrafına bir semaphore yerleştiriyor. Sınırın ötesindeki çağrılar hemen çalışmak yerine kuyruğa giriyor. Yazarın benchmark'ında, 0.2 saniye uyuyan bir dependency'ye gelen 20 eşzamanlı istek, sınır olmadığında yaklaşık 0.206 saniyede, max_concurrency=5 ile yaklaşık 0.829 saniyede tamamlandı — bu da beşerli dört ardışık dalgaya yakın, tam olarak beşlik bir kapının üreteceği sonuç. async def yerine def ile tanımlanan dependency'ler de aynı şekilde sınırlandırılıyor: semaphore, çağrı thread havuzuna gönderilmeden önce alındığı için, havuzun kendisi her şeyi aynı anda çalıştırsa bile sınır geçerli kalıyor.

Her Depends() çağrısı ayrı bir kapı

Gerçek kod tabanları için en büyük sürpriz, sınırın dependency fonksiyonuna değil Depends() bildirimine bağlanması. Depends(slow_dep, max_concurrency=5) ifadesini iki route üzerinde satır içi yazmak iki bağımsız semaphore oluşturuyor; yazarın testinde, her biri beşle sınırlandırılmış görünen iki route üzerinden on çağrı eşzamanlı çalıştı. Tek bir paylaşılan sınır elde etmenin tek yolu, Depends() nesnesini bir kez oluşturmak — örneğin bir Annotated alias üzerinden — ve sınırın geçerli olması gereken her yerde onu import etmek. Yazarın deyişiyle, bir veritabanı havuzuna dokunan her route'ta satır içi sınır koymak havuzu sınırlamaz; üst sınır route sayınızla birlikte büyür.

Sınır worker process başına

Gönderiye göre dokümantasyon, her worker process'in kendi sınırını bağımsız olarak tuttuğunu belirtiyor. Yazar, uvicorn'u iki worker ve max_concurrency=4 ile çalıştırdığında, her process kendi semaphore'unu tuttuğu ve diğerinden haberdar olmadığı için toplam zirvede 8 eşzamanlı çağrı ölçtü. 4 worker üzerinden 4'lük bir sınır, uzak bir bağlantı havuzu gibi harici bir paylaşılan kaynağa karşı fiilen 16'dır. Test ayrıca worker'lar arasında isteklerin 16'ya 4'lük dengesiz bir dağılımını gösterdi; ancak bu, bu sürümün getirdiği bir şey değil, uvicorn davranışı.

Kilitlenme

Manşetteki tehlike, ikisi de max_concurrency=1 ile sınırlandırılmış iki generator dependency'sini kapsıyor — generator'lar slot'larını yalnızca fonksiyonun çalıştığı an için değil, isteğin ömrü boyunca tutuyor. Bir route önce A sonra B dependency'lerini bildiriyor; diğeri önce B sonra A. Her birine aynı anda birer istek gönderin; ikisi de on milisaniye içinde ilk kaynaklarını alıyor, sonra ikincisi için sonsuza dek bekliyor. Yazar, bunu timeout'lu olarak sekiz saniye boyunca çalıştırdı ve hiçbir çözülme olmadı; ayrıca dahili bir kilitlenme tespiti olmadığını bildiriyor — üretimde bu, harici bir şey bağlantıyı kesene kadar yalnızca iki askıda kalmış istektir. Çare standart olan: sınırlı kaynakları her yerde tutarlı bir sırayla edinin ya da tek bir istek yolunda birden fazla paylaşılan kaynağı sınırlandırmaktan kaçının.

Uç durumlar ve ek yük

Doğrulama; 0'ı, negatif sayıları, float'ları, string'leri, hatta True'yu bile reddediyor — kontrol gerçek bir int istiyor, dolayısıyla Python'da 1 == True olsa bile bool alt sınıfı sızmıyor. Argümanın hiç verilmemesi hiçbir sınır uygulamıyor ve None tek açık çıkış yolu. Exception'lar slot sızdırmıyor: on iki eşzamanlı başarısız çağrıdan sonra, ardından gelen batch tam hızla döndü. Hiç çekişme olmadığında semaphore kayıt işi, ~216 mikrosaniyelik bir taban çizgisine karşı çağrı başına kabaca 45 mikrosaniye ekledi — yaklaşık beşte bir daha fazla.

Neden önemli

Dependency başına bir eşzamanlılık sınırı, paylaşılan kaynakları korumanın temiz bir yolu gibi görünüyor; ama bu sürüm, bir şeyi sınırlandırdığınızı sanırken sınırlandırmadığınız durumu kolaylaştırıyor: geçerli üst sınır, yapılandırdığınız limitin Depends() bildirimi ve worker process sayısıyla çarpımıdır. FastAPI 0.163'e yükselen ekipler, bu özelliğe üretimde güvenmeden önce limitlerin nerede bildirildiğini gözden geçirmeli, paylaşılan Depends nesnelerini merkezileştirmeli ve route'lar arasındaki kaynak edinme sırasını kontrol etmelidir. Kilitlenmeyi yeniden üretmek yalnızca iki route gerektiriyor ve hiçbir hata vermiyor — yalnızca asla dönmeyen istekler.

  • #fastapi
  • #python
  • #asyncio
  • #concurrency
  • #deadlock

İlgili yazılar