Pesquisadores da divisão Frontier Red Team da Anthropic, em parceria com o MIT, EPFL e StarkWare, anunciaram o FlashProve, uma biblioteca aberta de provas de conhecimento zero (zkSNARKs) voltada para a inferência verificável em grandes modelos de linguagem. A ferramenta resolve um dilema central de segurança: garantir a clientes, auditores e reguladores que uma saída foi de fato gerada pelo modelo contratado, e não por versões mais baratas ou adulteradas na rede.

O FlashProve vincula cada requisição a uma assinatura criptográfica dos pesos, mantendo os dados proprietários sob sigilo absoluto.

O que o FlashProve alcança na prática?

  • Rendimento em Modelos de 400B: Testado no Llama 4 Maverick (arquitetura Mixture-of-Experts com 400 bilhões de parâmetros), o provador gera certificados a 110 tokens por segundo em uma única placa NVIDIA H100.
  • Sobrecarga Reduzida: O custo computacional representa cerca de 70 a 95 vezes o tempo de execução padrão no vLLM, superando sistemas zkML anteriores que exigiam até 14 horas de processamento distribuído para tarefas equivalentes.
  • Verificação Leve: Usuários ou auditores recebem arquivos de prova com cerca de 19 MB (para blocos de 1.024 tokens), validados em segundos na CPU sem necessitar de GPUs dedicadas.
  • Garantias em Lean: O protocolo inclui teoremas formalmente auditados na linguagem Lean para assegurar propriedades essenciais de completude, solidez e sigilo (zero-knowledge).

Distribuído sob licença Apache 2.0, o repositório traz implementações de verificadores em C++ e Lean para acelerar a adoção da técnica na indústria.