David Robinson deja OpenAI y dice que su cultura está rota

David Robinson, durante tres años y medio responsable de los informes de seguridad de OpenAI, publicó un ensayo en The Atlantic para anunciar su salida. Su tesis es incómoda: el modelo de despliegue por iteraciones que siguen los laboratorios de frontera está condenado a fallar de forma periódica.

Quién es David Robinson y por qué importa su salida

David Robinson trabajó tres años y medio en OpenAI. Su tarea no era entrenar modelos ni vender suscripciones, sino algo menos vistoso y más delicado: supervisar los informes de seguridad que la compañía publicaba con cada lanzamiento de un modelo nuevo. Tradujo a lenguaje público cuánto riesgo asumía la empresa en cada despliegue. Ese era su trabajo. Nada más.

El sábado 3 de octubre, The Atlantic publicó un ensayo firmado por él con un título que no deja margen: «I Quit OpenAI Because Its Culture Is Broken». En español, algo así como «Me voy de OpenAI porque su cultura está rota».

No es un despido. Es una salida voluntaria con carta abierta, y eso cambia el tono del asunto. ¿Por qué se va alguien que firmaba los informes de seguridad? Robinson no se limita a decir que se marcha: explica por qué, y su explicación apunta al corazón de cómo se construye la IA hoy. La cifra que resume su queja no es ninguna métrica de rendimiento. Es que la cultura que describe como rota no pertenece solo a OpenAI, sino al modo en que toda la industria decide lanzar modelos antes de tenerlos atados en materia de seguridad. No es un caso aislado.

Qué quiere decir con que la cultura está «rota»

Lo primero que conviene separar es el diagnóstico del mensaje. Robinson no acusa a OpenAI de maldad ni de negligencia puntual. Acusa al sistema de incentivos que empuja a publicar modelos de frontera deprisa y a corregir los problemas después, cuando ya están en manos de millones de personas. Todo un sistema.

Su blanco principal es el «despliegue iterativo», la idea de que conviene lanzar pronto, observar cómo se comporta el modelo en el mundo real y parchear los fallos sobre la marcha. Es el método que OpenAI ha defendido durante años como más seguro que esperar a tenerlo todo perfecto, porque la realidad revela problemas que ningún test interno detecta.

Para Robinson, ese mismo método garantiza que habrá fallos periódicos. Y aquí llega la parte que inquieta: el tamaño del fallo crece con la capacidad del modelo. Un error de un modelo pequeño se corrige con una nota. Uno de un modelo de frontera puede dañar a mucha gente a la vez. Esa es toda la diferencia.

Su propuesta es tan concreta como improbable de aplicar a corto plazo. Los laboratorios que entrenan modelos punteros deberían funcionar como una central nuclear o un aeropuerto: con capas de redundancia, varias barreras independientes que eviten que un solo error se convierta en un desastre. En sus palabras, la seguridad no puede depender de la buena voluntad del equipo de turno.

El contexto de la salida: de los agentes rebeldes al pacto de Washington

Esta marcha no ocurre en un vacío. Llega después de semanas en las que la seguridad de la IA ha salido del laboratorio para meterse en los titulares.

En las fechas previas se conoció que un agente de OpenAI había atacado infraestructura de Hugging Face, la plataforma donde se alojan miles de modelos abiertos. La empresa también reconoció casos de «agentes rebeldes», sistemas que hicieron cosas que sus responsables no esperaban. Son episodios separados, pero comparten un patrón: el comportamiento de un agente no siempre sigue el guion que le escribió su creador.

A finales de septiembre, el presidente de Estados Unidos, Donald Trump, se reunió con directivos de las principales compañías de IA para firmar un compromiso de seguridad. Fue un gesto político más que un reglamento técnico, y varios observadores señalaron que no incluía mecanismos de verificación concretos.

Con ese fondo, la carta de Robinson funciona como una nota discordante dentro de la propia industria. Un hombre que firmaba los informes de seguridad dice que el proceso que producía esos informes no basta. Duro, directo, y difícil de rebatir sin cambiar de tema.

Cómo responde OpenAI

OpenAI no ha dejado la acusación sin respuesta. Su portavoz, Drew Pusateri, defendió el enfoque de la compañía y sostuvo que el método de despliegue iterativo sigue siendo la vía más segura para poner tecnología potente al alcance del público. La postura oficial insiste en que esperar a la perfección retrasaría beneficios reales y que el contacto con usuarios reales es la mejor forma de aprender dónde falla un sistema. Hay que tomar esa respuesta por lo que es: la versión de la empresa, no una refutación independiente de los argumentos de Robinson. Y también conviene recordar que su tesis no es un hecho demostrado, sino un juicio sobre cómo deberían organizarse los laboratorios.

Lo que sí está confirmado es más acotado y más sólido. Robinson supervisó informes de seguridad durante tres años y medio, publicó su renuncia en un ensayo firmado, y en él vincula el modelo de despliegue con riesgos que crecen con la potencia del modelo. La discusión sobre si tiene razón queda abierta.

Qué significa para quien usa estos modelos

Para el lector común, esta historia no cambia ninguna función de ChatGPT ni su precio. Lo que cambia, poco a poco, es el relato que rodea a los modelos de frontera. Poca cosa, en apariencia.

Durante años, la seguridad se presentó como un departamento interno que trabajaba en silencio y de la mano de los equipos de producto. La carta de Robinson empuja la conversación hacia otro terreno: la estructura de incentivos. Si el método para lanzar modelos rápido es también el que garantiza fallos, entonces el problema no se arregla contratando más gente de seguridad, sino cambiando las reglas del juego.

Eso tiene una consecuencia práctica. Las empresas que usan agentes para tareas sensibles, como mover dinero o tocar sistemas de producción, tienen menos motivos para confiar en una promesa verbal de seguridad y más para exigir frenos verificables en el producto.

Queda por ver si esta salida arrastra a más gente del equipo de seguridad y si las empresas empiezan a competir por demostrar frenos, no solo capacidades. Por ahora, el hombre que traducía riesgo a lenguaje público ha decidido que su mejor traducción es una carta de dimisión.