Anthropic publica FlashProve, un sistema obert per demostrar criptogràficament quin model d'IA ha generat cada resposta
El sistema adjunta a cada resposta una prova criptogràfica que certifica que l'ha produïda un model concret, sense revelar-ne els pesos. Amb Llama 4 Maverick, una sola GPU H100 genera proves a uns 110 tokens per segon, però a un cost entre 70 i 95 vegades superior al de la inferència normal.
Avui ningú no pot comprovar que la resposta d'un xatbot ve realment del model que diu el proveïdor, i no d'un de més barat substituït per un intermediari o d'un atacant. FlashProve ho aborda amb zkSNARK, proves de coneixement zero breus: el proveïdor publica una empremta dels pesos del model i, per a cada resposta, genera una prova que es verifica en uns 17 segons en una CPU. La prova no revela els pesos, però sí l'arquitectura del model.
En les proves amb Llama 4 Maverick, un model de 400.000 milions de paràmetres quantitzat a 4 bits, cada prova ocupa uns 19 MB per petició de 1.024 tokens. Anthropic hi veu usos per a avaluadors independents, per detectar servidors manipulats i perquè els reguladors comprovin que només se serveixen models aprovats, tot i que el sistema no demostra que el maquinari no s'usi per entrenar en paral·lel.
L'empresa diu que Claude va contribuir a optimitzar el sistema i que, per compensar decisions difícils d'auditar, ha formalitzat les garanties de seguretat en Lean, un llenguatge de verificació formal. El codi, les proves i la documentació es publiquen amb llicència Apache 2.0 com a treball en curs.