Oito estados americanos entraram com ações separadas contra a OpenAI, acusando o ChatGPT de oferecer respostas perigosas a menores e de esconder esses riscos dos pais. A empresa nega e diz que já tem proteções por faixa de idade.
Os processos contra a OpenAI
Na quarta-feira (14), procuradores-gerais de oito estados americanos entraram com ações judiciais contra a OpenAI. Cada estado protocolou o processo em seu próprio tribunal, e todos apontam o mesmo problema central: o ChatGPT colocaria crianças e adolescentes em risco.
Os estados são Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana. Os procuradores-gerais são autoridades que defendem o consumidor em cada estado, e essa coordenação entre vários deles costuma indicar uma ofensiva organizada, não um caso isolado. Oito de uma vez.
Os processos também alegam que a OpenAI apresentou uma imagem enganosa sobre a segurança do chatbot, violando leis estaduais de proteção ao consumidor. Nada foi julgado até agora. São acusações, não sentenças.
O que os estados alegam
As ações afirmam que o sistema pode reforçar delírios, estimular comportamentos de risco e orientar usuários a causar danos a si mesmos ou a outras pessoas, incluindo o planejamento de atos violentos. O foco recai sobre respostas dadas a menores de idade.
Os estados também sustentam que a OpenAI priorizou o engajamento dos usuários e os interesses comerciais em vez de medidas de segurança. É uma acusação sobre prioridades da empresa, não só sobre um erro pontual do modelo.
As petições citam outros casos em que famílias alegaram que o ChatGPT contribuiu para a morte de parentes ou ajudou usuários a planejar atos violentos. Esses relatos entram como argumentos para justificar medidas adicionais de proteção, segundo as autoridades.
O que os estados pedem na Justiça
Os procuradores-gerais querem que os tribunais determinem mudanças no funcionamento do ChatGPT e imponham sanções à empresa. Entre os pedidos estão multas, indenizações por danos e ordens para impedir declarações consideradas enganosas sobre a segurança do chatbot.
Um ponto menos comentado aparece nas ações: os estados querem restringir o desenvolvimento de modelos de IA capazes de se aperfeiçoar sozinhos, enquanto a empresa não puder garantir que os sistemas estejam alinhados a valores humanos. É uma discussão que vai além do ChatGPT e entra no terreno da "IA que aprende sem supervisão".
Esse pedido é o que torna os processos mais relevantes para o setor como um todo. Se avançar, pode criar um precedente sobre como estados podem regular capacidades de IA que ainda estão em pesquisa.
A resposta da OpenAI
A OpenAI rebateu. Em nota ao The Verge, o porta-voz Drew Pusateri disse que a empresa incorporou ao ChatGPT proteções específicas para diferentes faixas etárias. Ele citou controles parentais, lembretes para fazer pausas e proteções nos modelos adaptadas à idade dos usuários.
A empresa também afirmou que continuará trabalhando com especialistas para aprimorar os mecanismos de segurança. E declarou estar disposta a colaborar com os estados na elaboração de políticas de IA que valham para todo o setor, não apenas para uma companhia.
Esse último ponto é a estratégia conhecida do setor: em vez de aceitar regras estaduais fragmentadas, empresas costumam preferir uma regra federal única e mais previsível. Faz sentido comercial. Resta saber se os tribunais estaduais vão aceitar esse argumento ou impor suas próprias exigências.
O que isso significa para pais e usuários
Para famílias que usam o ChatGPT com filhos, a ação coloca em evidência os controles parentais e os limites por idade que a OpenAI diz já oferecer. Vale conferir se eles estão ativados na conta, porque muitos usuários não sabem que existem.
Para o setor, o caso sinaliza que a segurança de menores virou o principal campo de batalha regulatório da IA nos Estados Unidos. Depois de anos de debate sobre privacidade de dados, o foco migrou para os danos concretos que chatbots podem causar a jovens.
Acompanhe os próximos passos. Como os processos correm em tribunais estaduais diferentes, os desfechos podem divergir, e o primeiro resultado concreto deve vir na forma de decisões liminares ou acordos nos próximos meses.
