InvestigaciónPopular

OpenAI reduce el robo de razonamiento del 54% al 0,2%, pero se mide a sí misma

Copiar el razonamiento de un modelo de frontera se ha convertido en un negocio. OpenAI publica sus defensas y dos cifras que bajan mucho, con una advertencia: son sus propias pruebas.

Lucía GarcíaLucía García
Popularidad: 1,420
Un embudo que lleva pequeños bloques de tokens de una caja de modelo a otra, con una placa de escudo que bloquea parte del flujo

Copiar el razonamiento de un modelo de frontera se ha convertido en un negocio. OpenAI publica sus defensas y dos cifras que bajan mucho, con una advertencia: son sus propias pruebas.

Los dos números de OpenAI: del 54,0% al 0,2%

La entrada del blog de OpenAI, publicada el 20 de noviembre, se apoya en un par de porcentajes. En una evaluación interna, la tasa de éxito al recuperar razonamiento protegido de una petición anterior cayó del 54,0% contra GPT-6 Astra al 0,2% contra GPT-6.2 Astra. Para el razonamiento de la petición en curso, el descenso fue del 22,9% al 0,9%.

Conviene leer esos números con la etiqueta puesta. Son una evaluación adaptativa de caja negra, agregada sobre seis modelos atacantes, y la hizo el propio proveedor. No miden cuánto se roba en el mundo real. Miden cuántas veces un atacante de laboratorio consiguió extraer el razonamiento privado del modelo.

La compañía dice que las dos tasas quedaron por debajo del 1% por tipo de ataque con las salvaguardas nuevas, y que está aplicando algunas mejoras a GPT-6 Astra.

Qué es el adversarial distillation y qué no es

La destilación es una técnica normal de aprendizaje automático. Un modelo estudiante aprende de las salidas de un modelo profesor, y así hereda parte de su comportamiento con menos cómputo.

Se vuelve adversarial cuando el estudiante se entrena con las salidas de un modelo de frontera sin autorización, y después se despliega sin las salvaguardas del original. Ese es el uso que OpenAI describe en su texto, no la técnica en sí.

La diferencia importa para cualquiera que use una API. Si construyes un producto sobre un modelo ajeno, puedes usarlo como profesor dentro de unos límites. Lo que no puedes es montar un modelo propio a base de capturar sus respuestas y venderlo como equivalente.

¿Dónde queda la frontera? OpenAI la sitúa en la autorización y en las salvaguardas del despliegue.

Por qué el chain-of-thought es la parte que se roba

El objetivo de estos ataques es el razonamiento protegido, lo que OpenAI llama reasoning extraction: los pasos intermedios que el modelo genera por dentro. Esas trazas contienen información que la respuesta final no muestra, y por eso valen como datos de entrenamiento.

OpenAI tiene un estudio interno sobre transferencia de capacidad en ciberseguridad. En él, un estudiante ajustado con trazas exactas superó a otro entrenado con resúmenes de razonamiento después del ajuste supervisado. La ventaja se mantuvo en el mayor presupuesto de inferencia tras una ronda ligera de refuerzo. Con presupuestos bajos, en cambio, ganaba el estudiante de resúmenes.

Eso explica la obsesión por el chain-of-thought. Un resumen se puede imitar con menos esfuerzo. Una traza completa enseña al estudiante a descomponer el problema igual que el profesor.

Las cuatro capas de defensa de OpenAI

Las defensas actúan en dos niveles, petición y campaña, y en cuatro capas que se ordenan por el momento en que entran.

La primera es el entrenamiento adversarial. El modelo aprende a reconocer intentos de extracción y a negarse. La segunda son los clasificadores de entrada, que detectan la petición antes de que se ejecute.

La tercera capa son los clasificadores de salida. Cubren los mensajes del asistente y también los argumentos de las llamadas a herramientas, en respuestas con streaming y sin él. Es el punto más técnico del anuncio y el que más afecta a los desarrolladores: el razonamiento puede filtrarse dentro de un JSON de herramienta, no solo en el texto visible.

La cuarta son las protecciones de API. Atan el razonamiento protegido a la conversación que lo produjo y lo descartan cuando se reescribe un mensaje anterior. También impiden que familias de modelos antiguas, con salvaguardas más débiles, lean el razonamiento de GPT-6.2 Astra y de Sol.

De DeepSeek a Moonshot: el marco de seguridad nacional

OpenAI conecta el problema con la política. En febrero informó al Congreso de actividad que indicaba que DeepSeek intentaba destilar modelos de frontera estadounidenses. En septiembre, según su relato, desarticuló una campaña de extracción y atribuyó una parte central a personas asociadas a Moonshot AI, la empresa detrás de Kimi.

La compañía apoya tres proyectos de ley: la Chip Security Act, la AI OVERWATCH Act y la MATCH Act. Son proyectos, no leyes vigentes, y su texto no está aprobado.

A escala de campaña, OpenAI investiga las cuentas detrás de intentos coordinados, aplica sanciones contra la red completa, comparte indicadores de compromiso con otros proveedores y bloquea entre miles y decenas de miles de cuentas cada semana. El ritmo ha subido desde el verano.

Lo que estos números no demuestran

El 0,2% no significa que el robo de razonamiento esté resuelto. Es una tasa de éxito de ataque en un entorno controlado, con seis modelos atacantes elegidos por el defensor.

Tampoco hay una auditoría independiente. The Decoder señala que Anthropic libra una pelea paralela, con decenas de miles de cuentas bloqueadas y una eficacia que la compañía sitúa entre el 90% y el 99% de los casos. Las dos empresas piden una respuesta coordinada del sector.

Hay una lección útil incluso con esa cautela. Si un proveedor mide su propia defensa con sus propios ataques, la cifra sirve para comparar versiones del mismo modelo. No sirve para comparar empresas.

Ahí está el límite.

Qué pide OpenAI a otros desarrolladores

La parte práctica del texto es una lista de deberes para quien despliega modelos. Proteger el razonamiento privado en toda la interacción, incluidos los argumentos de herramientas. Guardar los registros de ataques exitosos como pruebas de regresión. Y combinar defensas por petición con medidas por campaña.

Para un equipo pequeño que construye un copiloto sobre una API, el mensaje se traduce en dos decisiones. La primera es no registrar ni reutilizar razonamiento privado como si fuera texto libre. La segunda es tratar los intentos de extracción como incidentes con seguimiento, no como ruido.

En España y en Latinoamérica, donde muchas startups montan productos sobre APIs estadounidenses, la discusión sobre el adversarial distillation llega con retraso. El marco europeo de IA exige documentar las capacidades del sistema, y el razonamiento destilado es una de ellas. Si un proveedor no puede demostrar de dónde salió su modelo, el expediente se complica.

La pelea no termina con una versión. Cada vez que un modelo mejora, alguien intenta copiar esa mejora, y la defensa tiene que volver a empezar con otro modelo atacante en la lista.

Compartir esta noticia

Fuentes

Noticias de IA relacionadas

Una cuadrícula cian de retícula con un cuadrado resaltado junto al texto Lattice Standard Model
Investigación

OpenAI propone una definición del Modelo Estándar en retícula con GPT-6 Astra

OpenAI publicó el 15 de noviembre un texto sobre una definición no perturbativa del Modelo Estándar sobre una cuadrícula, construida sobre un preprint de octubre. El autor la describe como una respuesta en principio, no en la práctica.

Popularidad: 1,500
Una cuadrícula de chip verde con una celda resaltada y una línea de señal dentada junto a las palabras Blackwell fingerprints
Investigación

Un investigador leyó huellas de Blackwell en seis modelos chinos: qué prueba y qué no

Un exinvestigador de OpenAI publicó un método que deduce qué GPU inicializó los pesos de un modelo abierto y lo aplicó a seis lanzamientos chinos. Su conclusión es más estrecha que los titulares: dice qué hardware se usó, no dónde estaba.

Popularidad: 1,250
Un cuadrado rojo de stop dentro de arcos concéntricos sobre un fondo azul oscuro
Investigación

Control Room: el sistema con el que OpenAI apaga cargas de modelos

OpenAI publicó el 9 de noviembre cómo rastrea y detiene cargas de modelos dentro de su propia infraestructura de investigación. Es una mirada poco habitual a la fontanería de contención de un laboratorio, y también un texto sin verificación externa.

Popularidad: 1,010
Torre de radio que emite arcos de señal sobre una red de dispositivos conectados
Investigación

Nvidia pasa el millón de descargas en sus herramientas 5G y 6G

Un año después de abrir el código de Aerial, Nvidia dice que sus herramientas 5G y 6G han pasado el millón de descargas. La cifra importa menos que otra cosa: los laboratorios que las usan para probar ideas antes de comprar hardware.

Popularidad: 1,275