Anthropic, FlashProve'u açık kaynak yaptı: bir çıktının hangi yapay zekâ modeli tarafından üretildiğini kanıtlayan bir prototip

Anthropic, belirli bir dil modelinin belirli bir yanıtı ürettiğini kriptografik olarak kanıtlamayı mümkün kılan açık kaynaklı bir araştırma prototipi olan FlashProve'u yayımladı. Anthropic'in kanıtlanabilir çıkarım (provable inference) konulu araştırma güncellemesini özetleyen dev.to'ya göre sürüm, Apache 2.0 lisansı altında bir teknik rapor, bir protokol belirtimi, bir kanıtlayıcı (prover) ve iki doğrulayıcı (verifier) için çalıştırılabilir kod ve Lean formel kanıtları içeriyor.

FlashProve'un hedeflediği sorun bir kaynak doğrulama (provenance) sorunu. Bir yapay zekâ hizmetiyle etkileşime giren insanlar, genellikle gördükleri çıktıyı hangi modelin ve o modelin hangi sürümünün ürettiği konusunda hizmet sağlayıcının sözüne güvenmek zorunda kalıyor. FlashProve, bu iddiayı üçüncü bir tarafın bağımsız olarak doğrulayabileceği bir şeye dönüştürmenin bir yolunu sunarken, sağlayıcının mülkiyetindeki ağırlıkları gizli tutmasına olanak tanıyor.

Nasıl çalışıyor

Sistem iki aşamada çalışıyor. Önce bir model sağlayıcı, belirli bir ağırlık kümesine kriptografik bir taahhüt oluşturuyor. Daha sonra, model bir isteğe yanıt verdiğinde sağlayıcı, çıktı token'larını o taahhüt edilmiş ağırlıklara bağlayan bir kanıt üretiyor.

Kanıt, onu sıfır bilgi (zero-knowledge) haline getiren bir zkSNARK/IOP yapısı kullanıyor: bir doğrulayıcı, çıktının taahhüt edilmiş modelden geldiğini, ağırlıkların kendisi hakkında hiçbir şey öğrenmeden teyit edebiliyor. Doğrulayıcı, modeli yeniden çalıştırmak yerine veya parametrelerine erişim sağlamak yerine, kompakt bir kriptografik yapıtı kontrol ediyor.

400 milyar parametreli bir modelle gösterildi

Anthropic, FlashProve'u 4-bit kuantizasyonla çalışan, 400 milyar parametreli bir Mixture-of-Experts modeli olan Llama 4 Maverick üzerinde test etti. dev.to'nun yayımlanan benchmark'lardan aktardığı rakamlara göre, çevrimdışı taahhüt adımı model başına yaklaşık 39 dakika sürdü. Çevrimiçi aşamada kanıtlayıcı, 24 istekten oluşan gruplar için yaklaşık 223 saniyede, saniyede yaklaşık 110 token hızıyla kanıt üretti; tek tek kanıtlar ise yaklaşık 18,78 MB ölçüldü.

Doğrulama, kanıtlamaya kıyasla bilinçli olarak ucuz tutulmuş. Bir doğrulayıcı yalnızca CPU'lu donanımda çalışabilir ve 24 token veya isteklik bir grubu tek bir 24 çekirdekli makinede yaklaşık 17 saniyede kontrol edebilir. Sağlayıcı için ağır, kontrol eden için hafif olan bu asimetri, tasarımın merkezinde yer alıyor; çünkü müşterilerin veya denetçilerin iddiaları GPU'lara veya modelin kendisine erişim olmadan doğrulamasını sağlıyor.

Bir ürün değil, bir prototip

Anthropic, FlashProve'un konuşlandırılmış bir API ya da üretim özelliği olmadığını açıkça belirtiyor. Kanıt üretimi hâlâ kaynak yoğun ve raporlanan rakamlar tek bir model, tek bir kuantizasyon ayarı ve laboratuvar tarzı bir kurulumdan geliyor. Araştırma, tekniğin yüksek hacimli üretim trafiğine veya her model mimarisine değişmeden ölçekleneceğini göstermiyor.

Şirket, bu çalışmayı 30 Eylül 2026'ya kadar doğrulanabilir çıkarımı prototipleme hedefi taşıyan Frontier Safety Roadmap'eki bir hedefe bağlıyor ve trafik imzalama (traffic-signing) yöntemleri dahil olmak üzere diğer yaklaşımların paralel olarak keşfedildiğini belirtiyor. Dolayısıyla FlashProve, yerleşik bir standarttan çok, gelişmekte olan bir tasarım alanındaki adaylardan biri.

Neden önemli

Sonuç doğuran iş akışlarında yapay zekâ çalıştıran kuruluşlar için, bir çıktıyı hangi modelin ürettiğini bilmek, çıktının kendisi kadar önemli olabilir. Doğrulanabilir bir kanıt, bir müşterinin hassas bir iş akışını, daha ucuz bir ikame değil, kararlaştırılmış model sürümünün gerçekleştirdiğini teyit etmesini sağlayabilir. Ayrıca model tarafından üretilen kararlar ve raporlar için denetim izlerini destekleyebilir ve yapay zekâ çıktısı şirketler arasında aktarıldığında daha güçlü güven sinyalleri sağlayabilir.

Sürüm, incelemeye açtığı şey açısından da dikkat çekici. Kanıtlanabilir çıkarımı yalnızca üst düzey iddialardan değerlendirmek zordur; protokolü, kodu ve formel yapıtları yayımlayarak Anthropic, araştırmacılara ve geliştiricilere test edip eleştirebilecekleri ve üzerine inşa edebilecekleri bir malzeme sundu. Sıfır bilgi kanıtları mı, trafik imzalama mı yoksa başka bir teknik mi baskın çıkacak olursa çıksın, bir yapay zekâ sağlayıcısına güvenmekle onu doğrulamak arasındaki boşluk somut ve ölçülebilir bir şekilde daralıyor.