Investigación

Anthropic libera FlashProve, una prueba de que el modelo que respondió es el que pagaste

Un servidor puede demostrar que un conjunto concreto de pesos generó exactamente esos tokens, sin enseñar los pesos. Anthropic publica el código de FlashProve y, junto a él, la lista de lo que todavía no funciona.

Lucía GarcíaLucía García
Popularidad: 1,050
Escudo índigo abstracto con una marca de verificación unida a una cadena de hexágonos

Un servidor puede demostrar que un conjunto concreto de pesos generó exactamente esos tokens, sin enseñar los pesos. Anthropic publica el código de FlashProve y, junto a él, la lista de lo que todavía no funciona.

Qué es FlashProve y qué promete Anthropic

Anthropic publicó el 3 de noviembre una entrada de investigación titulada "Progress on provable inference for large language models", acompañada de un informe técnico, la especificación del protocolo, código ejecutable y pruebas formales en Lean. Todo va con licencia Apache 2.0.

El objetivo cabe en una frase: que un cliente pueda comprobar que el modelo que respondió es el que contrató. FlashProve hace esa comprobación con un zkSNARK, una prueba criptográfica que confirma un cálculo sin revelar los datos que hay detrás.

Conviene distinguirlo de una firma digital. Una firma dice "este servidor envió esto". Una prueba como la de FlashProve dice "estos pesos, y no otros, produjeron estos tokens para esta pregunta".

Cómo funciona la prueba de conocimiento cero de FlashProve

El sistema trabaja en dos fases. Primero hay un compromiso offline con los pesos del modelo. De ahí sale una huella de unos 6,5 MB, generada en una ejecución única que ronda los 39 minutos. Esa huella cubre aproximadamente 16 millones de peticiones. Después, cada consulta viaja con su propia prueba.

Ese reparto importa porque mueve el coste: lo caro se paga una vez, no en cada llamada.

Los números de FlashProve sobre Llama 4 Maverick

Anthropic midió el sistema con Llama 4 Maverick, un modelo de mezcla de expertos con 400.000 millones de parámetros y unos 17.000 millones activos por token. Usó los pesos públicos en 4 bits y una sola GPU H100 con 24 núcleos de CPU.

En esa configuración, el probador avanza a unos 110 tokens por segundo. Cada prueba ocupa casi 19 MB y corresponde a una petición de 1.024 tokens.

Lo que cuesta verificar una prueba de FlashProve

La verificación no necesita GPU. Corre en una CPU normal: 17 segundos con 24 hilos y 21 segundos con un solo hilo. Ahí está el atractivo del diseño, porque el cliente no tiene que montar un centro de datos para comprobar la respuesta.

El precio aparece en el otro lado. Demostrar un lote tarda unas 72 veces más por GPU que servirlo con vLLM, y la diferencia sube a 94 veces en la carga más alta que probaron. Entre ejecuciones, Anthropic reporta un rango de 66 a 77 veces. ¿Cuánto pesaría esa diferencia en un servicio con miles de peticiones por minuto?

Para qué sirve la inferencia verificable en el mundo real

Los casos que justifican el trabajo son concretos. Un servicio de enrutamiento podría cambiar el modelo caro por uno barato sin avisar, y un atacante podría alterar el flujo de tokens. A eso se suma el regulador que exige servir solo modelos aprobados.

Con una prueba válida, esas maniobras se detectan sin entregar los pesos. Anthropic menciona además una idea curiosa, la "prueba de fallo": demostrar que un modelo gastó al menos cierta cantidad de tokens buscando errores y no encontró ninguno.

Cómo se compara FlashProve con lo que había

Anthropic sitúa su resultado frente a tres referencias anteriores. VerInf necesitaba unas 14,3 horas para demostrar 1.000 tokens en un DGX Spark. Su prueba pesaba 93,6 GB. zkLLM demostró un modelo de 13.000 millones a unos 2,5 tokens por segundo en una A100. El sistema comercial Attestable declara entre 53 y 77 tokens por segundo en un modelo denso de 31.000 millones, y no ha publicado código.

Los límites que Anthropic admite en FlashProve

La lista es larga, y conviene leerla antes que el titular. Es un prototipo de investigación, no un producto. Las pruebas cubren una versión entera de los pesos bajo decodificación voraz, así que una respuesta muestreada o en coma flotante puede desviarse y dejar de coincidir.

El sistema asume una arquitectura de mezcla de expertos y no oculta la arquitectura, de modo que la prueba dice qué se calculó pero no protege el diseño en sí. Los ataques de canal lateral quedan fuera del alcance. El contexto está limitado a 1.024 tokens, muy lejos de una conversación larga.

También hay una asimetría entre verificadores. El de Lean está verificado formalmente y resulta lento. El de C++, que es el rápido, no lo está.

La asimetría tiene lógica.

La prueba en Lean de FlashProve y la brecha que queda

Las propiedades de seguridad, es decir, completitud, solidez y conocimiento cero, están comprobadas por máquina en Lean. Eso es más de lo que suele acompañar a un trabajo de este tipo.

Queda un hueco. Las afirmaciones formales necesitan una auditoría humana, y demostrar que el código coincide con la especificación es un problema aparte. Nadie lo ha cerrado todavía.

De dónde viene el compromiso de Anthropic con la inferencia verificable

El Frontier Safety Roadmap de la compañía tenía un objetivo público: un prototipo de inferencia verificable antes del 30 de septiembre de 2026. Anthropic dice que lo cumplió por otra vía, un proyecto que firma el tráfico de inferencia y lo recalcula en un servidor de confianza. FlashProve es la segunda ruta, esta vez solo con software.

Ese detalle cambia cómo leer el anuncio. No es un producto nuevo ni un servicio que se pueda contratar hoy. Es una pieza de investigación que enseña un camino técnico y deja abiertas las preguntas de coste, escala y producción.

Para quien quiera revisar los números, el repositorio incluye el probador, los dos verificadores y las pruebas en Lean. La lectura interesante no está en la cifra de 72 veces, sino en todo lo que la prueba todavía no cubre.

Compartir esta noticia

Fuentes

Noticias de IA relacionadas

Curvas espirales concéntricas cruzadas por una línea vertical con puntos brillantes anclados a lo largo de ella
Investigación

Un matemático de Anthropic dice que Claude demostró la hipótesis de Riemann, y Stanford respondió en horas

El anuncio llegó por la web personal de un matemático, no por un comunicado de Anthropic. Horas después, Stanford publicó una demostración humana del mismo problema. Ninguna de las dos está aceptada.

Popularidad: 1,860
Una pila de nodos de agentes unidos por un camino hacia un rack de servidores, con una cerradura y una marca de brecha en el rack
Investigación

Cairn: un AI agent encontró un zero-day y tomó un servidor universitario en 11 minutos

La orden fue una sola frase: obtener acceso al servidor. Los agentes eligieron el cómo, dieron con un fallo desconocido en MONAI Label y dejaron una puerta abierta en 11 minutos.

Popularidad: 1,520
Un embudo que lleva pequeños bloques de tokens de una caja de modelo a otra, con una placa de escudo que bloquea parte del flujo
Investigación

OpenAI reduce el robo de razonamiento del 54% al 0,2%, pero se mide a sí misma

Copiar el razonamiento de un modelo de frontera se ha convertido en un negocio. OpenAI publica sus defensas y dos cifras que bajan mucho, con una advertencia: son sus propias pruebas.

Popularidad: 1,420
Una cuadrícula cian de retícula con un cuadrado resaltado junto al texto Lattice Standard Model
Investigación

OpenAI propone una definición del Modelo Estándar en retícula con GPT-6 Astra

OpenAI publicó el 15 de noviembre un texto sobre una definición no perturbativa del Modelo Estándar sobre una cuadrícula, construida sobre un preprint de octubre. El autor la describe como una respuesta en principio, no en la práctica.

Popularidad: 1,500