Anthropic, bir yanıtın hangi modelden geldiğini kanıtlayan açık kaynak FlashProve’u yayımladı

Anthropic’in Frontier Red Team’i 2 Kasım’da FlashProve adlı açık kaynak prototipi yayımladı. Sistem, bir yanıtın gerçekten belirtilen modelden gelip gelmediğini kriptografiyle doğrulamayı amaçlıyor. Bugün kullanıcı, araya daha ucuz bir modelin sokulup sokulmadığını ya da token akışının kurcalanıp kurcalanmadığını çıktıya bakarak anlayamıyor. FlashProve bir zkSNARK, yani sıfır bilgi ispatı kullanıyor: sağlayıcı ağırlıklara bağlı kısa bir taahhüt yayımlıyor, sonra her yanıtın o ağırlıklardan çıktığını kanıtlıyor. İspat ağırlıklar hakkında bilgi sızdırmıyor; mimariyi gizlemek ise hedeflenmedi.

Ölçümler Llama 4 Maverick üzerinde yapıldı: 400 milyar parametreli, token başına yaklaşık 17 milyar aktif bir uzman karması modeli, kamuya açık 4 bitlik ağırlıklarıyla. Tek bir H100 ile ispat üretimi saniyede yaklaşık 110 token; 1.024 tokenlik istek başına ispat boyutu yaklaşık 19 MB. Bu, aynı modeli vLLM ile çalıştırmanın yaklaşık 70-95 katı GPU süresi demek. Doğrulama tarafı ucuz: yaklaşık 6,5 MB’lık taahhüt indiriliyor ve bir ispatın denetimi 24 iş parçacığında 17 saniye sürüyor, GPU gerekmiyor. Depo 30 Ekim’de açıldı, lisansı Apache 2.0 ve açıklamasında bakımının yapılmadığı yazıyor. Yazıdaki sınırlar da açık. İspat, tam sayı aritmetiğiyle ve açgözlü kod çözmeyle çalışan bir model için geçerli. Sistem uzman karması mimarisi varsayıyor, yan kanal saldırıları kapsam dışı ve bağlam şimdilik en fazla 1.024 token. TechCrunch’a göre sistemin Anthropic’te ya da başka bir laboratuvarda devreye alınması planlanmıyor.

Anthropic@AnthropicAI

Yeni Anthropic araştırması: büyük dil modelleri için kanıtlanabilir çıkarımda ilerleme.

Burada FlashProve'u tanıtıyoruz. Yerleşik kriptografik tekniklerin üzerine kurulan FlashProve, geliştiricilerin belirli bir yanıtın belirli bir yapay zeka modelinden gelip gelmediğini doğrulamasını sağlıyor. Bunu yapmanın önceki açık kaynaklı yöntemlerinden belirgin biçimde daha verimli.

Bu ispatların çeşitli uygulamaları var. Örneğin saldırganların bir sohbeti ele geçirmesini zorlaştırabilir ya da güvenlik değerlendiricilerinin test ettikleri modelin müşterilere sunulan modelle aynı olduğunu doğrulamasını sağlayabilir.

Tam yazımız için: https://www.anthropic.com/research/provable-inference

Kanıtlanabilir çıkarımda daha fazla ilerleme, yapay zeka konuşlandırmasına duyulan güveni artırmanın önemli bir parçası olacak. Bu amaçla FlashProve'un kodunu açık kaynak yapıyoruz: https://github.com/anthropics/FlashProve

İş birlikçilerimize minnettarız: Alessandro Chiesa, @GiacomoFenzi, @gwberg95, @miranda__christ, Rahul Dalal (http://rdalal.github.io) ve Ben Mayer (@transmissions11).

İngilizceden çevrildi·Orijinalini göster

Ayrı bir gelişme olarak Claude Platform sürüm notlarının 3 Kasım kaydına göre Claude Mythos 5, Claude Opus 4.7 ve Claude Sonnet 4.6’nın ürettiği metin artık Anthropic’in metin filigranını taşıyor. Sonnet 4.6’da temperature, top_p ya da top_k varsayılan dışına alınırsa filigran taşınmayabiliyor. Anthropic, AB Yapay Zeka Yasası’nın 50(2) maddesine bağlı şeffaflık uygulama kurallarını imzalamıştı; filigran tespit aracı ise özel önizlemede ve yalnızca düzenleyiciler, kolluk, medya, doğrulama kuruluşları ve araştırmacılar gibi uygun kuruluşlara açık.