Trois chercheurs en sécurité licenciés par OpenAI refusent la version de l'entreprise et dénoncent un climat de peur. OpenAI réplique en niant toute mesure de représailles. Les deux récits s'opposent point par point.
OpenAI licencie trois chercheurs en sécurité, puis la polémique éclate
L'affaire a commencé la semaine dernière. Jasmine Wang, Tomek Korbak et Mikita Balesni, trois chercheurs en sécurité d'OpenAI, ont été licenciés. Motif avancé par l'entreprise : ils auraient « accédé à des informations sensibles et les auraient traitées » hors des procédures internes. Deux d'entre eux travaillaient sur la sûreté des modèles, le troisième gérait des programmes de recherche.
Le 8 octobre, les trois hommes ont répondu dans une lettre ouverte adressée au comité de sûreté et de sécurité d'OpenAI, au groupe consultatif sur la sûreté et au conseil de mission. Ils y contestent les faits qui leur sont reprochés et avancent que leur départ envoie un signal inquiétant au reste de l'entreprise.
La lettre démarre par une inquiétude précise. Selon eux, la communication autour de leur licenciement a intimidé leurs anciens collègues, au point que ceux-ci n'osent plus agir comme ils le faisaient une semaine plus tôt. Un changement de climat qui, d'après eux, touche une culture longtemps présentée comme ouverte au débat.
Ce que disent Jasmine Wang, Korbak et Balesni dans leur lettre
Le passage central de la lettre pose la sécurité comme une fonction qui dépend de l'extérieur. « L'IA n'est pas une technologie ordinaire, et OpenAI n'est pas une entreprise ordinaire », écrivent les trois signataires. Ceux qui travaillent sur la sûreté voient les risques avant tout le monde, avancent-ils, et s'appuient sur une collaboration étroite avec des experts externes pour les traiter.
La liberté de mener ce travail sans crainte, avec des procédures internes claires, constitue selon eux un mécanisme de sécurité en soi. C'est précisément cette liberté qu'ils estiment fragilisée. Un employé qui ne sait plus où se situe la limite se tait, et l'entreprise perd un canal d'alerte.
Le trio rejette aussi deux accusations. Il nie être à l'origine d'une fuite vers le média The Information, portant sur des architectures de modèles récentes qui rendraient la chaîne de raisonnement plus difficile à surveiller. Il nie également avoir contacté des tiers en dehors du périmètre de ses fonctions.
La réponse d'OpenAI : pas de représailles, dit la direction
OpenAI n'a pas répondu publiquement à la lettre. L'entreprise a toutefois transmis à TechCrunch une note interne signée d'un responsable de la recherche. Ce document salue la contribution des trois chercheurs à la sécurité de l'IA.
Sur le fond, la note écarte la thèse de la sanction. « Ces décisions n'ont rien à voir avec le fait de soulever des inquiétudes de sécurité ou de s'exprimer publiquement », y écrit la direction. Autrement dit, l'entreprise maintient sa version : le motif tient au traitement de l'information sensible, pas au contenu des alertes.
Les deux comptes rendus ne peuvent pas être vrais en même temps. D'un côté, des chercheurs disent avoir agi dans le cadre de leur mission et y voir un avertissement. De l'autre, une entreprise dit avoir appliqué une règle de confidentialité sans lien avec leurs opinions. Aucun élément public ne permet, à ce stade, de trancher.
Le raisonnement illisible, enjeu de fond derrière l'affaire
Sous le désaccord sur les faits se cache un sujet technique bien réel. La fuite démentie portait sur des architectures de modèles rendant la chaîne de raisonnement plus difficile à suivre. Cette chaîne est le journal écrit des étapes qu'un modèle suit pour résoudre un problème.
Si une entreprise perd la capacité de suivre ce fil, elle perd une partie de son contrôle sur le modèle. Le sujet compte pour quiconque s'intéresse à la sûreté : un raisonnement opaque rend plus dur le repérage d'un comportement indésirable avant qu'il ne se produise. Que cette fuite ait eu lieu ou non, la question reste ouverte dans le secteur.
Le licenciement de spécialistes de la sûreté arrive dans un moment où les régulateurs et une partie de la recherche demandent des garde-fous plus lisibles. Un départ aussi commenté nourrit donc le débat au-delà du cas individuel.
Ce qu'il faut suivre dans les jours qui viennent
Pour l'instant, aucun des deux camps n'a produit de preuve publique décisive. L'attention se porte sur deux éléments : une éventuelle réponse officielle d'OpenAI à la lettre, et le devenir des procédures internes évoquées par les chercheurs.
Si vous suivez la gouvernance de l'IA, l'affaire vaut surtout comme signal. Elle pose une question simple, mais lourde : comment une entreprise peut-elle à la fois protéger ses informations confidentielles et laisser ses experts de la sécurité dialoguer avec l'extérieur ? La réponse à cette tension dira beaucoup de la culture des grands laboratoires.
