知Yizhi Daily
← Volver a esta edición

IA

Equipos como el de Anthropic presentan FlashProve, un avance en inferencia demostrable para grandes modelos

Edición 2026-11-05 · 08:00 Hora de Pekín

Investigadores de Anthropic, EPFL, MIT y otras instituciones presentaron FlashProve, un sistema de inferencia demostrable basado en zkSNARK para probar que una respuesta fue generada realmente por un modelo especificado. Tomando como ejemplo el modelo MoE Llama 4 Maverick de 400.000 millones de parámetros con cuantización de 4 bits, una sola H100 genera aproximadamente 110 tokens de prueba por segundo; también se publicaron el código y las pruebas en Lean.

El artículo de investigación reproducido en Hacker News está firmado conjuntamente por personal de instituciones como Anthropic, EPFL, MIT, StarkWare, RESI y Succinct. El artículo señala que actualmente a los usuarios les resulta difícil confirmar si una respuesta de IA procede del modelo concreto que los desarrolladores afirman utilizar: los servicios de enrutamiento podrían sustituir modelos en secreto para reducir costes y los atacantes podrían manipular el flujo de tokens; juzgar solo por la calidad de la salida no es fiable.

Las pruebas criptográficas de inferencia permiten que quien ofrece el modelo se comprometa primero con un modelo y después demuestre que cada respuesta fue generada por ese modelo. Los investigadores se centraron en avanzar en un esquema de prueba denominado zkSNARK y presentaron el sistema FlashProve. El artículo afirma que Claude logró mejoras en las pruebas de inferencia zkSNARK, con una velocidad notablemente superior a la de sistemas de código abierto anteriores.

En cuanto a los resultados técnicos, con el modelo de expertos mixtos Llama 4 Maverick de 400.000 millones de parámetros, pesos cuantizados a 4 bits y operaciones con enteros durante la fase de relleno, una sola GPU H100 genera pruebas a una velocidad de aproximadamente 110 tokens por segundo; el tamaño de la prueba para cada solicitud de 1024 tokens es de unos 19 MB y el tiempo de GPU equivale aproximadamente a entre 70 y 95 veces el de ejecutar el modelo directamente con vLLM. Los sistemas de código abierto anteriores eran varios órdenes de magnitud más lentos.

El compromiso con el modelo y la posterior prueba de inferencia de este sistema pueden ocultar los pesos del modelo, pero no tienen como objetivo ocultar la arquitectura del modelo. El equipo también utilizó Lean, un lenguaje de verificación formal, para ofrecer afirmaciones de nivel superior auditables. El lanzamiento incluye un blog, un informe técnico, una especificación del protocolo redactada por Claude, código ejecutable con el probador, un verificador rápido en C++ y un verificador Lean demostrablemente correcto, así como pruebas matemáticas de nivel superior en Lean y una herramienta de visualización de teoremas. El código, las pruebas y la documentación se publican bajo la licencia Apache 2.0.

Fuentes originales

Hacker News ↗
Volver a esta ediciónAbrir lector interactivo