Negócios e indústriaEm alta

Brad Smith propõe freios de segurança para agentes de IA

Brad Smith, presidente da Microsoft, pediu regras de IA com avisos legais quando agentes autônomos causam danos, testes independentes antes do lançamento e um "freio de segurança" para parar sistemas fora de controle. Ele comparou a IA ao leite e à máquina de lavar.

Mariana SilvaMariana Silva
Popularidade: 3,600
Brad Smith propõe freios de segurança para agentes de IA

Brad Smith comparou o setor de IA ao leite e à máquina de lavar: tecnologias que viraram rotina antes de alguém pensar em regulá-las. Para o presidente da Microsoft, os agentes autônomos vão exigir freios que produtos anteriores nunca precisaram.

O que Brad Smith propôs para a regulação de IA

Brad Smith, presidente da Microsoft, pediu novas regras para a IA em uma entrevista ao podcast da BBC divulgada em 12 de outubro. O argumento central é que a tecnologia já avançou além do que as regras atuais alcançam, e que os agentes autônomos são a pressão que força uma revisão.

Ele não falou em criar um órgão novo nem em travar o desenvolvimento. A proposta é preencher lacunas específicas no que já existe. O foco está no que acontece quando um sistema de IA funciona sozinho e comete um erro.

A distinção importa. Smith descreveu a regulação de IA como uma escolha de ritmo, não de direção: mover rápido o bastante para proteger as pessoas, sem construir um processo que atrase tudo o resto.

As três ideias de Brad Smith

A primeira ideia trata da prestação de contas. Smith disse que, quando um agente autônomo sai do controle e causa danos, deve haver um requisito legal de notificar as pessoas afetadas, do mesmo jeito que as regras atuais funcionam em outros setores.

A segunda é sobre testes antes do lançamento. Ele defende que sistemas de IA sejam avaliados por testadores independentes antes de chegarem ao público. Não apenas pelas empresas que os constroem.

A terceira é o que Smith chama de freio de segurança. Agentes autônomos precisam de um meio de parar ou reverter uma ação que já saiu do previsto, um mecanismo que ele enxerga como condição para confiar nesses sistemas.

Por que ele usa o leite e a máquina de lavar como comparação

A analogia do leite é a imagem mais repetida da entrevista. Smith lembrou que ninguém regulou o leite como um produto de risco quando ele virou item básico das casas, e que o mesmo vale para lavadoras e secadoras. A tecnologia virou rotina e a regra só veio depois, em grande parte para tratar de segurança.

O ponto que ele constrói em cima disso é que a IA já percorreu o mesmo caminho em poucos anos. Ferramentas que eram novidade viraram uso diário dentro de empresas e casas. A estrutura regulatória não acompanhou o mesmo ritmo.

Para um executivo que representa uma das maiores empresas de IA do mundo, é uma posição cuidadosa. Reconhece a necessidade de regras sem apoiar um modelo pesado, o que deixa Smith alinhado com a preferência da Microsoft por regras direcionadas em vez de um regime amplo.

Onde a proposta encontra resistência

O discurso de Smith chega em um momento em que os governos avançam em direções diferentes. A União Europeia aplica uma lei ampla de IA por fases e começou a exigir dos provedores mais obrigações. Nos Estados Unidos, o quadro continua fragmentado. Alguns estados criam regras próprias enquanto o governo federal discute sua abordagem. Qual modelo vai prevalecer? Ainda não há resposta.

É nesse ponto que a conversa fica difícil. As empresas costumam preferir um conjunto único de regras a dezenas de regras estaduais que se sobrepõem, algo que Smith já defendeu publicamente antes. Mas governos estaduais e grupos de defesa do consumidor resistem a deixar a supervisão para um único nível de poder.

Para quem usa IA no trabalho, as três ideias de Smith tocam em três coisas concretas: avisos quando um agente causa danos, testes independentes antes do lançamento e uma forma de parar um sistema que saiu dos trilhos. Nenhuma delas depende de uma lei nova gigante, e é justamente por isso que a proposta é fácil de aceitar em princípio e difícil de transformar em texto legal.

A questão que fica em aberto é quem testa os testadores independentes e quem paga por isso. Smith não detalhou essas partes. A resposta define se a proposta vira prática ou fica só no discurso.

Como o Reino Unido entra na conversa de Brad Smith

Smith descreveu o Reino Unido como bem posicionado na regulação de IA, citando uma cultura de inovação e um ambiente acadêmico forte. Para a Microsoft, que investe no país, um clima favorável é melhor do que um regime restritivo.

A fala também é uma mensagem indireta. Ao elogiar o Reino Unido, Smith reforça a preferência da empresa por quadros regulatórios que incentivam o desenvolvimento com salvaguardas, um tom diferente do que a Microsoft adota ao comentar as regras mais rígidas da União Europeia.

O que resta é uma disputa sobre o ritmo, não sobre a necessidade. Smith aceita que a regulação de IA vai acontecer. A parte que ele tenta moldar é a velocidade, e o freio de segurança dos agentes autônomos é o primeiro item da lista.

Compartilhar esta notícia

Fontes

Notícias de IA relacionadas

China propõe controle de exportação para 23 tecnologias de IA
Negócios e indústria

China propõe controle de exportação para 23 tecnologias de IA

O Aviso nº 48 do Ministério do Comércio da China propõe incluir 23 tecnologias de IA no catálogo de controle de exportação, com exigência de registro imediata. Conteúdo já publicado de forma aberta, como pesos de modelos, fica de fora.

Popularidade: 1,580
Oito estados dos EUA processam a OpenAI por riscos a menores
Negócios e indústria

Oito estados dos EUA processam a OpenAI por riscos a menores

Oito estados americanos entraram com ações separadas contra a OpenAI, acusando o ChatGPT de oferecer respostas perigosas a menores e de esconder os riscos. A empresa nega e cita proteções por idade.

Popularidade: 1,700
DeepSeek devolve uma semana de uso após apagão na API
Negócios e indústria

DeepSeek devolve uma semana de uso após apagão na API

A API da DeepSeek ficou quase cinco horas fora do ar e a empresa decidiu devolver em créditos tudo o que os clientes gastaram na semana anterior. O gesto é raro no setor.

Popularidade: 1,380
Anthropic fatura US$ 16,8 bilhões no 3º trimestre e mira IPO
Negócios e indústria

Anthropic fatura US$ 16,8 bilhões no 3º trimestre e mira IPO

A Anthropic apresentou uma receita trimestral de US$ 16,8 bilhões e lucro operacional ajustado, mas o ritmo de crescimento desacelerou. A empresa planeja um IPO em novembro, com valuation incerta.

Popularidade: 1,460