Anthropic, FlashProve'u açık kaynak yaptı: bir çıktının hangi yapay zekâ modelinden geldiğini kanıtlamanın kriptografik yolu

Anthropic, kanıtlanabilir çıkarım için FlashProve'u açık kaynak yaptı

Anthropic, belirli bir çıktının hangi yapay zekâ modeli tarafından üretildiğini kriptografik olarak doğrulamak üzere tasarlanmış, FlashProve adlı açık kaynaklı bir araştırma sistemi yayımladı. TechCrunch'a göre şirket, projeyi Salı günü bir blog yazısında duyurdu ve bunu araştırmacılarının kanıtlanabilir çıkarım (provable inference) dediği şeye doğru atılmış bir adım olarak çerçeveledi: Belirli bir yanıtın, o model gibi görünen bir şeyden değil, gerçekten belirli bir modelden geldiğine dair matematiksel bir kanıt.

Hedeflenen sorun oldukça basit. Bir yapay zekâ servisine sorgu gönderdiğinizde, cevabın seçtiğiniz modelden geldiğine genellikle sağlayıcının sözüne güvenmek zorundasınız. FlashProve bu güven gerekliliğini ortadan kaldırmak için geliştirildi. TechCrunch fikri, alıcının bir mesajın gerçekten iddia edilen göndericiden geldiğini doğrulamasına izin veren kriptografik e-posta imzalarına benzetiyor. Buradaki tasarım ise modeli geliştiren ve işleten laboratuvara karşı bile ayakta kalacak şekilde düşünülmüş — bu da ilke olarak, bir yapay zekâ şirketinin maliyetleri kısmak için gizlice daha ucuz bir model ikame etmesini ya da performans sonuçlarını şişirmek için daha pahalı bir modeli devreye almasını yakalayabileceği anlamına geliyor.

Ağırlıkları açığa çıkarmayan parmak izleri

Mekanizma, model yayımcılarının yayımladıkları her model için kriptografik bir "parmak izine" commit olmasına dayanıyor. Çıktılar daha sonra bu parmak iziyle eşleştirilebilir ve kriptografik olarak doğrulanabilir. Kritik nokta şu: Parmak izi, modelin ağırlıklarını — modelin nasıl davranacağını tanımlayan ve Anthropic ile OpenAI gibi kapalı model sağlayıcılarının en değerli varlığı olarak gördüğü iç parametreleri — açığa çıkarmıyor. Parmak izi bu ağırlıklar hakkında hiçbir şey ortaya koymadığından, ticari laboratuvarlar tescilli bilgilerinden vazgeçmeden parmak izi yayımlayabilir; bu da şemayı yalnızca açık modeller için değil, kapalı modeller için de uygulanabilir kılıyor. Sistem ayrıca hafif olacak şekilde tasarlandı, yani doğrulama yerel bir cihazda çalıştırılabiliyor.

Duyurunun yanı sıra, TechCrunch'ın aktardığına göre araştırmacılar, sistemin çeşitli bileşenlerine ilişkin ayrıntılı bir teknik şartname ve çalışan kodu GitHub'da açık kaynak lisansıyla yayımladı.

Üçüncü taraf iddialarının doğrulanması

Araştırmacılar model takası yakalamanın ötesinde, üçüncü taraf beyanlarına da bir kullanım alanı olarak işaret ediyor. Bir geliştirici, bir yazılım kütüphanesinin güvenlik açıkları açısından üst düzey bir siber güvenlik modeli tarafından tarandığını iddia edebilir ya da bir şirket, iş planının uygun bir model tarafından onaylandığını söyleyebilir. TechCrunch'ın aktardığı araştırmacıların sorusu şu: "Bir kullanıcı bu iddiaları nasıl doğrulayabilir?" FlashProve, bu tür ifadelere pazarlama iddiası olarak kalmaları yerine denetlenebilir bir temel vermeyi amaçlıyor.

Açıkça tamamlanmamış bir araştırma

Proje erken bir aşamada. FlashProve'un Anthropic'te ya da başka bir laboratuvarda devreye alınmasına ilişkin bir plan yok ve duyuru, yazıyı tamamlanmış bir araştırma gündemi yerine ara ara paylaşılan ilerleme olarak tanımlıyor. Araştırmacılar şöyle yazıyor: "Bunu açıkça, başkalarının yaptıklarımıza bakması, bunu alması ve geliştirmesi amacıyla paylaşıyoruz." Şartnamenin ve çalışan kodun açık kaynak lisansıyla yayımlanması bu hedefle uyumlu — dışarıdan gelen kriptografcıların ve mühendislerin tasarımı incelemesi ve genişletmesi için bir davet.

Neden önemli

Yapay zekâ servislerine duyulan güven şu anda büyük ölçüde itibara ve sözleşmelere dayanıyor. Model çıktıları güvenlik incelemelerine, uyum kararlarına ve otomatik iş akışlarına yerleştirildikçe, işi fiilen hangi modelin yaptığı sorusu maddi olarak önemli hale geliyor. FlashProve, laboratuvarların ağırlıklarını açmasını gerektirmeyen teknik bir yanıt taslaklıyor: Bir parmak izi yayımlayın ve herkesin çıktıları buna karşı doğrulamasına izin verin. Parmak izlemesi model yayımlarının standart bir parçası haline gelirse, model kimliği bir varsayımdan denetlenebilir bir özelliğe dönüşür. Engeller de en az kadar açık — şema yalnızca laboratuvarlar gönüllü olarak parmak izi yayımlarsa işler, kriptografi sürekli kamusal incelemeye ihtiyaç duyar ve Anthropic'in kendisi bunu tamamlanmamış bir iş olarak nitelendiriyor. Yine de, büyük bir laboratuvardan gelen açık kaynaklı bir öneri olarak, köken sorusunu somut ve sınanabilir bir şeye dönüştürüyor.