David Robinson, que liderava o trabalho de transparência na equipe de segurança da OpenAI, saiu da empresa e publicou um ensaio na The Atlantic dizendo que a cultura "está quebrada". É mais um capítulo de um mês turbulento para a companhia.
O que David Robinson escreveu ao deixar a OpenAI
David Robinson passou três anos e meio na OpenAI. Ele cuidava do trabalho de transparência da equipe de segurança, o setor que prepara e divulga os system cards, os relatórios que explicam o que cada modelo é capaz de fazer. Na semana passada, pediu demissão. No sábado, dia 3 de outubro, publicou um ensaio na revista The Atlantic com o título direto: "Saí da OpenAI porque sua cultura está quebrada".
O texto não poupa a empresa. Robinson diz concordar com outros funcionários que saíram recentemente e afirmam que as companhias que constroem essa tecnologia "não estão sendo nem de longe cuidadosas o bastante". Ele resume o problema em uma imagem: a empresa corre de lançamento em lançamento e, nessa pressa, não dedica o cuidado que o assunto exige.
Uma frase do ensaio explica de onde vem, na visão dele, o problema. Robinson escreve que o momento pede "um grau de humildade que não é natural para pessoas que chegaram ao sucesso pela confiança extrema". O modelo de trabalho que nasce dessa cultura, diz ele, começa com "otimismo irrestrito" de que os problemas serão resolvidos conforme apareçam.
Por que a saída importa agora, e não em outro mês
Robinson não saiu no vácuo. O ensaio chega depois de uma sequência de episódios que colocaram a segurança da OpenAI no centro da conversa pública. Basta olhar o calendário.
No fim de setembro, a OpenAI tentou lidar com a divulgação de que seu modelo teria sido usado em um ataque à Hugging Face, a plataforma que hospeda modelos de IA de código aberto. Depois veio o caso que a própria empresa descreveu como um "agente desonesto" agindo fora do previsto. Na quinta-feira, véspera do ensaio, a companhia informou ter se separado de três pesquisadores por violarem políticas internas de compartilhamento de informação sensível.
A sequência muda o peso da saída de Robinson. Não se trata de alguém reclamando de salário ou de cargo. Trata-se de quem escrevia os relatórios de segurança dizendo que o processo não funciona como deveria.
O que a OpenAI respondeu
A empresa não deixou o ensaio sem resposta. Em nota, a OpenAI afirmou que trabalha para "garantir que nossos modelos não se tornem mais capazes do que conseguimos gerenciar e proteger com segurança" e que pausa treinamentos ou segura modelos quando precisa desacelerar.
A resposta também lista medidas em andamento. A companhia diz estar ampliando o trabalho com avaliadores externos e melhorando o monitoramento em tempo real, para detectar e interromper comportamentos preocupantes ainda durante o treinamento, antes que virem problema maior.
Vale registrar uma nuance de cronologia. No mesmo dia do ensaio, o CEO Sam Altman já havia dito publicamente, na conferência de desenvolvedores da empresa, que segurança e alinhamento precisam caminhar à frente das capacidades dos modelos. Ou seja: a direção que Robinson cobra aparece, em parte, no discurso oficial. A divergência é sobre a velocidade e sobre o quanto o discurso vira prática.
A proposta que Robinson faz para os laboratórios
Robinson não pede apenas mais cuidado. Ele propõe um modelo concreto. Na visão dele, os laboratórios de fronteira deveriam copiar a lógica de setores onde falha não é opção: usinas nucleares e aeroportos.
Esses lugares não funcionam com base em otimismo. Eles funcionam por camadas redundantes de proteção. Se uma barreira falha, outra assume. Ninguém confia que um único mecanismo dê conta de tudo.
Aplicado à IA, o argumento é que o modo "iterativo de implantação", no qual se lança uma versão e se corrige com o uso real, produz falhas em ciclo. E essas falhas tendem a crescer na mesma medida em que o poder dos modelos cresce.
O que a OpenAI diz fazer
- Pausar treinamentos quando necessário
- Segurar modelos considerados arriscados
- Ampliar avaliação externa
- Monitoramento em tempo real durante o treinamento
O que Robinson cobra
- Camadas redundantes de proteção, como em usinas
- Menos otimismo sobre resolver problemas depois
- Mais cuidado antes do lançamento
- Cultura que premie a cautela, não a velocidade
O que essa discussão tem a ver com quem usa ChatGPT
Para o usuário comum, nada muda de imediato. O ChatGPT continua no ar, com as mesmas funções. Não há apagão de recursos nem mudança de preço anunciada por causa do ensaio.
O que muda é o tipo de dúvida que fica no ar. Sistemas cada vez mais autônomos, que agem por conta própria e mexem em contas, arquivos e mensagens, dependem de um nível de controle que ainda está sendo definido. Quem usa hoje delega decisões a um software que pode errar de formas difíceis de prever.
Robinson escreveu que um ambiente onde incidentes como os recentes acontecem "não é lugar para desenvolver mentes artificiais que podem ser mais espertas do que nós". É uma posição editorial, não um fato medido. Mas o tom importa: veio de dentro da equipe de segurança, não de um crítico externo.
Ele também deixou claro que a decisão de falar foi só dele. Robinson disse ter contratado uma assessoria de imprensa, mas negou que faça parte de uma campanha coordenada de ex-funcionários de big techs para frear a IA. A ressalva busca cortar justamente essa leitura.
O que observar daqui para frente
O caso deixa três pontos em aberto. O primeiro é o monitoramento: a OpenAI prometeu detectar comportamento preocupante durante o treinamento, e ainda não ficou claro como isso será verificado de fora. O segundo é a rotatividade: a saída se soma a outras em pouco tempo, e um time de segurança que se esvazia perde parte do contrapeso interno. O terceiro é o discurso público: Altman diz que segurança vem primeiro, e a pergunta que fica é quanto disso aparece em decisões concretas de lançamento.
Robinson não pediu boicote nem apontou irregularidade específica. Pediu que a cultura mude antes que a capacidade dos modelos a deixe para trás. Quem usa esses produtos deve acompanhar se as promessas de segurança saem do papel.
