Pesquisa

Anthropic abre o FlashProve para provar qual modelo respondeu

A Anthropic abriu o código do FlashProve, um protótipo que usa prova criptográfica para mostrar que um conjunto específico de pesos gerou aquela resposta. O método funciona, mas custa velocidade: provar um lote leva cerca de 72 vezes mais tempo do que apenas servir o modelo.

Mariana SilvaMariana Silva
Popularidade: 1,050
Escudo índigo abstrato com sinal de checagem ligado a uma corrente de hexágonos

A Anthropic abriu o código do FlashProve, um protótipo que usa prova criptográfica para mostrar que um conjunto específico de pesos gerou aquela resposta. O método funciona, mas custa velocidade: provar um lote leva cerca de 72 vezes mais tempo do que apenas servir o modelo.

O que o FlashProve prova sobre uma resposta

Quem paga por uma API não tem como verificar qual modelo respondeu, porque o texto chega, parece bom, e a fatura vem no fim do mês sem qualquer recibo técnico. O FlashProve tenta fechar essa lacuna com um recibo criptográfico.

A ideia cabe em uma frase. Uma prova de conhecimento zero, ou zero-knowledge, confirma que um conjunto comprometido de pesos produziu exatamente aqueles tokens para aquele prompt, sem revelar os pesos. Quem verifica aprende que a conta fecha, mas não aprende o que há dentro do modelo.

A Anthropic publicou o material em 3 de novembro. O pacote inclui um post de pesquisa, um relatório técnico, a especificação do protocolo, o código do provador, um verificador rápido em C++, outro em Lean e as provas formais. Tudo sob licença Apache 2.0.

Como funciona a prova de inferência da Anthropic

O funcionamento tem duas etapas, e o custo de cada uma é bem diferente. A primeira é offline. A empresa calcula um compromisso com os pesos, uma espécie de impressão digital de cerca de 6,5 MB. Esse passo leva por volta de 39 minutos e serve para aproximadamente 16 milhões de requisições.

A segunda etapa é online, feita a cada requisição. O provador mostra que o cálculo daquela resposta usou os pesos comprometidos, e o verificador confere a prova em uma CPU comum, sem GPU.

A analogia que ajuda: é como lacrar um baralho antes da partida e, no fim, mostrar que a carta jogada já estava naquele baralho desde o começo.

O FlashProve usa um zkSNARK, um tipo de prova criptográfica que convence o verificador sem entregar os dados por trás da conta. No caso, os dados são bilhões de números que formam o modelo.

Os números do FlashProve com o Llama 4 Maverick

A Anthropic mediu o sistema em um Llama 4 Maverick, um modelo de mistura de especialistas com 400 bilhões de parâmetros e cerca de 17 bilhões ativos por token. O teste usou pesos públicos de 4 bits, uma única GPU H100 e 24 núcleos de CPU.

O resultado: cerca de 110 tokens por segundo de prova, com uma prova de aproximadamente 19 MB para uma requisição de 1.024 tokens. A verificação roda em 17 segundos com 24 threads, ou 21 segundos em uma thread só.

Prova de 19 MB por resposta é muita coisa para guardar. Para comparar, uma requisição comum de texto não carrega nada parecido, e é aí que aparece o problema de escala.

O custo do FlashProve: 72 vezes mais lento que servir o modelo

O número que define o estado atual: provar um lote leva cerca de 72 vezes mais tempo por GPU do que o vLLM servindo o mesmo lote. Nas execuções medidas, a faixa ficou entre 66 e 77 vezes. Na carga mais alta testada, chegou a 94 vezes.

Prova cara, resposta lenta.

Isso não é um detalhe de engenharia. É a diferença entre um serviço que responde em segundos e outro que faz o usuário esperar, ou entre uma conta de GPU aceitável e uma proibitiva.

A Anthropic não esconde o ponto. O texto trata o FlashProve como protótipo de pesquisa, não como produto.

Onde o FlashProve ainda não serve

As limitações listadas pela própria equipe são específicas. As provas cobrem uma versão dos pesos em números inteiros, com decodificação gulosa. Respostas com amostragem ou aritmética de ponto flutuante podem divergir e deixar de bater com a prova.

O sistema assume arquitetura de mistura de especialistas e não esconde a arquitetura. Ataques de canal lateral ficam fora do escopo. O contexto é limitado a 1.024 tokens, o que está longe de uma conversa longa.

Há ainda uma assimetria na verificação: o verificador em Lean é formalmente verificado, mas lento, e o rápido, em C++, não é. As propriedades de segurança, como completude, solidez e conhecimento zero, foram checadas por máquina em Lean, e a equipe avisa que as afirmações formais ainda precisam de auditoria humana.

Por que a prova de inferência interessa a quem paga por API

Três cenários explicam a pesquisa. Um serviço de roteamento poderia trocar o modelo caro por um barato sem avisar. Um atacante poderia alterar o fluxo de tokens no caminho, e um regulador poderia exigir que só modelos aprovados atendam o público.

Em todos os casos, uma prova válida torna a troca detectável sem que ninguém precise receber os pesos. A Anthropic também cita a prova de falha, algo como demonstrar que um modelo gastou pelo menos X tokens procurando bugs e não achou nada.

A comparação com trabalhos anteriores, pelos números da própria empresa, mostra o tamanho do salto. O VerInf precisava de cerca de 14,3 horas para 1.000 tokens em um DGX Spark. A prova tinha 93,6 GB. O zkLLM provava um modelo de 13 bilhões a cerca de 2,5 tokens por segundo em uma A100. O sistema comercial Attestable reporta 53 a 77 tokens por segundo em um modelo denso de 31 bilhões, sem código aberto.

A meta da Anthropic e o que falta para produção

O roteiro de segurança de fronteira da empresa tinha uma meta pública: um protótipo de inferência verificável até 30 de setembro de 2026. A Anthropic diz que cumpriu por outra via, um projeto que assina o tráfego de inferência. A resposta é recalculada em um servidor confiável. O FlashProve é a segunda rota, só software.

Para o usuário comum, nada muda nesta semana, e nenhuma API passa a emitir provas por padrão. O valor está em saber que existe um caminho testável para responder à pergunta mais básica de quem contrata um modelo: foi mesmo esse modelo que respondeu?

Compartilhar esta notícia

Fontes

Notícias de IA relacionadas

Curvas em espiral concêntricas cruzadas por uma linha vertical com pontos brilhantes fixados ao longo dela
Pesquisa

Claude e a hipótese de Riemann: o que compila e o que ninguém leu ainda

A frase que abriu a semana saiu de um pesquisador, não da empresa que paga o salário dele, e a diferença importa para ler o resto. A prova existe como código que compila, e ninguém ainda leu 250 mil páginas de argumento matemático.

Popularidade: 1,860
Uma pilha de nós de agente ligada por um caminho a um rack de servidor, com um buraco de fechadura e uma marca de invasão no rack
Pesquisa

Um AI agent achou um zero-day e tomou um servidor universitário em 11 minutos

Um agente de IA não escolheu o alvo nem escreveu o plano da campanha. Recebeu uma ordem curta, tentou por dezesseis horas, falhou, e acertou em onze minutos quando o alvo mudou.

Popularidade: 1,520
Uma grade ciano com um quadrado destacado ao lado das palavras Lattice Standard Model
Pesquisa

OpenAI propõe definição lattice do Modelo Padrão com ajuda do GPT-6 Astra

A OpenAI descreveu um caminho para definir o Modelo Padrão numa grade sem tratar as interações como correções pequenas. O texto chama o resultado de candidato.

Popularidade: 1,500
Uma grade de chip verde com uma célula destacada e uma linha de sinal irregular ao lado das palavras Blackwell fingerprints
Pesquisa

Blackwell fingerprints: seis modelos chineses carregam a marca de uma GPU banida

Um pesquisador diz ter encontrado marca de GPU Blackwell em seis modelos chineses publicados desde abril. O truque não lê número de série: lê a contagem de núcleos que sobrou no peso aleatório. E o próprio autor avisa que isso não prova contrabando.

Popularidade: 1,250