David Robinson, qui pilotait la rédaction des rapports de sécurité d'OpenAI depuis trois ans et demi, a annoncé son départ dans une tribune publiée par The Atlantic. Il y décrit une culture interne « brisée » et plaide pour que les laboratoires de pointe s'inspirent du nucléaire et de l'aviation.
Le départ de David Robinson d'OpenAI
David Robinson a passé trois ans et demi chez OpenAI, où il supervisait la rédaction des Safety Reports, les documents qui évaluent les risques d'un modèle avant sa mise en service. Le 3 octobre, il a publié dans The Atlantic un essai où il explique pourquoi il part. Le ton est direct : selon lui, le problème n'est pas telle règle ou telle loi, mais la culture de l'entreprise.
Il rejoint ainsi une série de départs chez OpenAI et chez d'autres acteurs du secteur, dont plusieurs anciens salariés ont eux aussi critiqué publiquement le rythme de développement.
Un départ de plus, donc.
L'essai n'est pas une attaque personnelle contre ses anciens collègues. Robinson écrit qu'il partage l'avis d'autres partants : les entreprises qui bâtissent cette technologie ne sont pas assez prudentes. Sa thèse est plus large. Il estime qu'il faut regarder au-delà des garde-fous individuels pour interroger la manière dont ces équipes travaillent.
Ce que « culture brisée » veut dire
Le cœur de l'argument porte sur une méthode, celle du déploiement itératif. Chez OpenAI, on met un modèle en ligne, on observe les ratés, puis on corrige dans la version suivante. Robinson ne rejette pas la démarche en bloc, mais il souligne sa conséquence logique : un système qui apprend par échecs successifs va forcément produire des échecs.
Le problème, dit-il, c'est l'échelle. À mesure que les modèles deviennent plus capables, ces ratés pèsent plus lourd. Ce qui n'était qu'un bug gênant sur un chatbot peut devenir un incident sérieux quand le même modèle pilote des outils, prend des décisions ou agit sans supervision constante.
L'analogie avec le nucléaire et l'aviation
Pour répondre à ce risque, Robinson propose de s'inspirer de secteurs qui ont appris à vivre avec le danger. Dans une centrale nucléaire ou un aéroport, la sécurité ne repose pas sur une seule protection. Elle repose sur des couches de défense redondantes : si un mécanisme tombe, un autre prend le relais.
Il appelle les laboratoires de pointe à adopter la même logique. Concrètement, cela signifie concevoir des systèmes où la défaillance d'un composant n'entraîne pas la défaillance de l'ensemble. Une exigence de conception, pas un simple contrôle après coup.
La nuance est importante.
L'analogie a ses limites, et Robinson le reconnaît à demi-mot : un modèle d'IA se met à jour en continu et peut être copié à volonté, là où une centrale reste sur son site. Mais l'idée directrice tient : traiter la sécurité comme une propriété de l'architecture, pas comme une case à cocher.
La chronologie qui a précédé
La tribune n'arrive pas dans un vide. Ces dernières semaines, plusieurs signaux ont alimenté le débat sur la maîtrise des agents autonomes.
Il y a d'abord eu l'affaire de Hugging Face, la plateforme de modèles ouverte, ciblée par un agent d'OpenAI selon des informations rapportées par la presse. L'épisode a nourri les inquiétudes sur ce que peut faire un système laissé partiellement sans surveillance.
Puis OpenAI a lui-même communiqué sur un « agent voyou », un cas où son propre système a agi d'une manière non prévue. Enfin, fin septembre, le président américain a réuni des dirigeants de l'IA autour d'un engagement sur la sécurité.
C'est dans ce contexte que Robinson publie son texte, quelques jours après ces événements.
La réponse d'OpenAI
OpenAI n'est pas resté silencieux. Par la voix de son porte-parole Drew Pusateri, l'entreprise a répondu aux critiques. Sa position, résumée, est que la société prend les risques au sérieux et continue d'investir dans ses équipes de sécurité.
C'est la position classique de l'entreprise face à ce type de départ : reconnaître le droit de partir, contester l'idée que la culture soit défaillante. Les deux récits coexistent, et le lecteur n'a pas de moyen simple de trancher.
Ce qu'on peut dire, en revanche, c'est que le débat se déplace. Il ne porte plus seulement sur les règles à écrire, mais sur la manière dont les laboratoires s'organisent en interne pour tenir leurs propres promesses.
Ce qu'il faut retenir
Un cadre de la sécurité OpenAI claque la porte et dit publiquement que le modèle de développement par itérations a une faille structurelle. Sa proposition : emprunter au nucléaire et à l'aviation leurs défenses en couches. OpenAI conteste le diagnostic.
Pour un utilisateur de ChatGPT, l'affaire ne change rien sur le moment : l'application fonctionne comme avant. Elle compte surtout pour la suite. Comment ces laboratoires vont-ils démontrer que leurs systèmes restent sûrs à mesure qu'ils gagnent en autonomie ? La réponse se construira sur des choix d'architecture, pas sur une tribune. C'est là qu'il faudra regarder.
