Anthropic'ın FlashProve prototipi, yapay zeka modeli kimliğini doğrulamak için zero-knowledge proof kullanıyor

Anthropic, bir çıktıyı hangi yapay zeka modelinin ürettiğini kriptografiyle kanıtlamaya yarayan açık kaynaklı bir prototip olan FlashProve'u yayımladı. TechCrunch'a dayanan bir dev.to haberine göre proje, yapay zeka hizmetlerinin tüketim biçimindeki yapısal bir kör noktaya değiniyor: müşteriler bir modeli adıyla seçiyor, bir istek gönderiyor ve bir yanıt alıyor; arayüzün arkasında gerçekte neyin çalıştığını doğrulamanın bağımsız bir yolu bulunmuyor.

FlashProve'un hedeflediği sorun

Model kimliği şu anda bir güven meselesi. dev.to makalesinin belirttiği gibi, bir sağlayıcı trafiği farklı sistemler üzerinden yönlendirebilir, bir modeli bir başkasıyla değiştirebilir veya bazı istekleri daha ucuz bir sistemle yanıtlayabilir; müşterilerin çoğunun bunları tespit edecek bir mekanizması yok.

Yapay zeka düzenlemeye tabi ve yüksek riskli alanlara yayıldıkça bu boşluk daha da önem kazanıyor. Bir şirket, akıl yürütme yeteneği, güvenlik testleri veya düzenleyici inceleme nedeniyle belirli bir sistem için para ödüyor olabilir. Bir sigortacı, onaylanmış bir modelin bir talebi değerlendirdiğini göstermek zorunda kalabilir; bir güvenlik ekibi, belirlenmiş bir sistemin bir tarama yaptığına dair kanıt gerektirebilir.

Kanıt nasıl çalışıyor

FlashProve, Anthropic'in provable inference üzerine yaptığı araştırmada zkSNARK'lar (zero-knowledge succinct non-interactive arguments of knowledge) üzerine kurulmuş bir prototip olarak tanımlanıyor. Sistem, bir kullanıcının bir yanıtın, işletmecinin önceden taahhüt ettiği modelden gelip gelmediğini doğrulamasını sağlıyor.

Bu akış dijital bir fişe benziyor. İşletmeci önce belirli bir modele taahhüt veriyor. O model daha sonra bir yanıt ürettiğinde, çıktının taahhüt edilen sistemden kaynaklandığını gösteren bir kanıt oluşturuluyor. Kanıt, modelin özel parametrelerini açığa çıkarmadan kimliği belirlemek üzere tasarlanmış; bu da ağırlıklarını ticari sır olarak gören sağlayıcılar için önemli.

Anthropic ayrıca 30 Eylül 2026'ya kadar provable inference prototipini teslim etme hedefini açıkladı ve tekniği, yapay zeka çıktılarının belirli bir model ağırlığı kümesine bağlanabilir kılmanın bir yolu olarak tanımladı.

Şimdilik yapamadığı şeyler

Anthropic, FlashProve'u bir ürün değil araştırma olarak sunuyor ve prototipin kısıtları önemli. Sistem, dil modellerinde yaygın olarak kullanılan olasılıksal örnekleme yöntemleri yerine tamsayılı greedy decoding destekliyor; ayrıca hesaplamanın uzmanlaşmış parametre grupları arasında paylaşıldığı mixture-of-experts mimarileri üzerine kurulu. Kanıtlar ayrıca çıkarımdan sonra üretildiğinden, doğrulama ayrı bir adım oluşturuyor ve yoğun bir API ortamında gecikme ile maliyet ekleyebilir.

İşlem yükü belki de en büyük engel. dev.to haberi, rakip doğrulanabilir çıkarım teknolojisi geliştiren Lagrange şirketinin değerlendirmesine dayanarak, FlashProve'un sıradan çıkarımın yaklaşık 70 ila 95 katı işlem maliyeti gerektirdiğini ve kanıt üretiminin tek token'la sınırlı olduğunu tahmin ediyor. Haberin kendisinin de belirttiği gibi, bu bağımsız bir sektör uzlaşısı değil, bir rakibin değerlendirmesi; ayrıca eleştirilere Anthropic'ten bir yanıt bulunmuyor.

Anthropic'ın resmî deposu, commit-prove-verify iş akışına ait kodu ve formel yapıtları yayımlıyor; ancak projeyi açıkça, üretim aracı olarak görülmemesi gereken, bakımı yapılmayan bir araştırma yapısı olarak etiketliyor.

Neden önemli

Kanıt üretimi ucuz ve hızlı hâle gelirse, model kimliği bir sağlayıcının iddia ettiği bir etiketten, müşterilerin varsayılan olarak doğruladığı bir özelliğe dönüşebilir. Bir kurum, bir yanıtı kanıtıyla birlikte saklayabilir ve daha sonra onaylanmış bir modelin bunu ürettiğini gösterebilir. Bir yazılım satıcısı, premium bir özelliğin belgelerinde söz verilen modeli kullandığını gösterebilir; bir denetçi de tamamen sağlayıcının iç kayıtlarına bel bağlamadan kanıtı inceleyebilir.

Sınırlar da en az bunun kadar önemli. Bir kanıt, bir çıktıyı hangi modelin ürettiğini belirler; çıktının doğru, önyargısız veya görev için uygun olduğunu değil. FlashProve, yapay zeka yanıtlarını anonim mesajlar değil kökeni belgelenmiş kayıtlar olarak ele almanın erken bir adımı; yapay zeka dağıtımlarında güven ve uyum açısından net sonuçları olan, ancak bugün üretimden hâlâ çok uzak bir dönüşüm.