Carregando publicação…
Carregando publicação…
O sistema de código aberto permite comprovar matematicamente que uma resposta veio de um modelo específico de fronteira sem expor seus pesos nem exigir reexecuções caras.
Pesquisadores da divisão Frontier Red Team da Anthropic, em parceria com o MIT, EPFL e StarkWare, anunciaram o FlashProve, uma biblioteca aberta de provas de conhecimento zero (zkSNARKs) voltada para a inferência verificável em grandes modelos de linguagem. A ferramenta resolve um dilema central de segurança: garantir a clientes, auditores e reguladores que uma saída foi de fato gerada pelo modelo contratado, e não por versões mais baratas ou adulteradas na rede.
Rendimento em Modelos de 400B: Testado no Llama 4 Maverick (arquitetura Mixture-of-Experts com 400 bilhões de parâmetros), o provador gera certificados a 110 tokens por segundo em uma única placa NVIDIA H100.
Sobrecarga Reduzida: O custo computacional representa cerca de 70 a 95 vezes o tempo de execução padrão no vLLM, superando sistemas zkML anteriores que exigiam até 14 horas de processamento distribuído para tarefas equivalentes.
Verificação Leve: Usuários ou auditores recebem arquivos de prova com cerca de 19 MB (para blocos de 1.024 tokens), validados em segundos na CPU sem necessitar de GPUs dedicadas.
Garantias em Lean: O protocolo inclui teoremas formalmente auditados na linguagem Lean para assegurar propriedades essenciais de completude, solidez e sigilo (zero-knowledge).
Distribuído sob licença Apache 2.0, o repositório traz implementações de verificadores em C++ e Lean para acelerar a adoção da técnica na indústria.