Três coisas mudam no seu plano: não construa sobre uma capacidade que ainda não foi lançada, garanta que a pessoa que aprova o seu assistente de IA não seja a mesma que o desenvolveu e dê a ele um botão de desligar de verdade, que um funcionário não técnico consiga usar. O motivo: em 12 de setembro de 2026, o CEO da Anthropic, Dario Amodei, publicou um ensaio intitulado "We Must Pace the Frontier" (Precisamos ditar o ritmo da fronteira), argumentando que o setor de IA precisa desacelerar o ritmo com que melhora as capacidades dos modelos, e apresentou um plano de três passos. A Anthropic se comprometeu com o primeiro passo: colocar avaliadores externos independentes dentro dos seus escritórios, com acesso quase de funcionário e o direito de publicar o que encontrarem sem que a Anthropic tenha controle editorial. Em poucas horas, Sam Altman disse que a OpenAI concorda e vai assumir o mesmo compromisso.

Os três passos como o ensaio os apresenta

  • Avaliadores incorporados dentro do laboratório: organizações de avaliação independentes, como a METR, recebem acesso permanente, em nível de funcionário, para verificar se os compromissos de segurança declarados são de fato aplicados e se os incidentes são comunicados como deveriam. É o passo com que a Anthropic se comprometeu sozinha, sem esperar por ninguém.
  • Coordenação entre laboratórios de países democráticos: padrões de segurança comuns e limites acordados para o ritmo do progresso sem controle, com respaldo governamental para tratar das preocupações antitruste que essa coordenação levantaria. Aqui Amodei lança a ideia de um "ponto de controle": se um modelo atingir determinada capacidade, ele não deve ser lançado antes que certificações específicas comprovem determinadas propriedades de alinhamento — possivelmente junto com limites aos próprios insumos, como a computação de treinamento ou o uso interno de modelos para construir outros modelos.
  • Coordenação global: uma tentativa de chegar a entendimentos com governos não democráticos, em quatro níveis crescentes que vão de proibições restritas a aplicações específicas até pausas completas no desenvolvimento, com o reconhecimento explícito de como seria difícil verificar o cumprimento.

Amodei não deu nenhum percentual de desaceleração nem cronograma, mas disse que ganhar "um ou dois anos a mais" antes que os modelos atinjam níveis críticos de capacidade reduziria muito o risco. Ao mesmo tempo, ressaltou que o progresso ainda vai parecer rápido e que a ideia é usar bem o tempo ganho, e não parar.

Por que os concorrentes concordaram tão rápido

A velocidade é a verdadeira notícia. Um setor construído sobre "quem chegar primeiro ganha" viu seus quatro maiores nomes se alinharem em um único dia. O pano de fundo é que Demis Hassabis, do Google DeepMind, havia proposto em 14 de julho um órgão de padronização financiado pelo setor e supervisionado em nível federal, inspirado no regulador do setor financeiro FINRA, que testaria modelos de classe de fronteira por até trinta dias antes do lançamento — de forma voluntária no início e depois como condição para implantação nos Estados Unidos.

E em 14 de setembro, apenas dois dias depois, a Microsoft publicou um rascunho de código de conduta para seus modelos próprios, que Mustafa Suleyman, chefe da área de IA da empresa, descreveu como uma espécie de constituição. Sua regra central é que um modelo nunca deve resistir a correções ou ao desligamento, deve se comunicar em termos que as pessoas consigam entender e deve tratar qualquer violação do código como uma falha completa, e não como um caso extremo. A empresa abriu um período de consulta pública de seis semanas, após o qual pretende treinar sua próxima geração de modelos com o código final.

O que realmente muda dentro da sua empresa

Três mudanças concretas, e nenhuma exige que você espere por legislação:

  • Não baseie um plano em uma capacidade que não foi lançada. Um número enorme de projetos de IA parados se apoia implicitamente na frase "a próxima versão vai resolver isso". Se os próprios fundadores dos laboratórios estão falando em moderar o ritmo, a suposição sensata é que aquilo sobre o que você vai construir no ano que vem é, mais ou menos, o que você consegue ver hoje. Projete com base em capacidades que realmente existem e meça-as você mesmo.
  • O princípio do avaliador independente se adapta ao seu porte. O núcleo do compromisso da Anthropic é simples: quem constrói o sistema não é quem certifica que ele é seguro. Na sua empresa, isso significa que quem desenvolveu o assistente de IA não deve ser também quem aprova colocá-lo para funcionar diante dos clientes. Peça a outra pessoa ou equipe que o teste com casos reais, com autoridade real para dizer não.
  • A regra de não resistir ao desligamento se traduz em um botão de desligar de verdade. Se você tem um agente de IA que envia mensagens, altera pedidos ou emite faturas, faça uma única pergunta: de quantos segundos um funcionário não técnico precisa para pará-lo completamente? Se a resposta inclui "a gente liga para o desenvolvedor", você não tem um botão de desligar — você tem um número de telefone.

Quatro decisões que merecem um trimestre da sua atenção

  • Escreva em uma única página tudo o que o seu sistema de IA pode fazer sem aprovação humana e depois risque cada ação irreversível: pagamentos, exclusões, mensagens enviadas a clientes externos, alterações de estoque.
  • Coloque uma etapa de aprovação exatamente nessas ações e deixe o restante funcionar livremente, para não eliminar o benefício junto com o risco.
  • Ative um registro de auditoria que mostre o que o sistema fez, quando e com qual entrada — porque a primeira pergunta depois de qualquer erro será "por que ele fez isso?".
  • Decida com antecedência quem para o sistema e quem é notificado, e teste isso pelo menos uma vez antes de precisar.

Essa direção está alinhada com o caminho que o Reino já está seguindo. Os Princípios de Ética da IA e a Lei de Proteção de Dados Pessoais (PDPL) emitidos pela Autoridade Saudita de Dados e Inteligência Artificial (SDAIA) pedem as mesmas coisas com outras palavras: supervisão humana clara, explicabilidade e responsabilização definida para decisões automatizadas. O que você fizer hoje para se preparar não será desperdiçado.

E o que não muda

Esses compromissos não devem ser lidos como maiores do que são. Eles são totalmente voluntários, sem mecanismo de verificação vinculante e sem cronograma anunciado. A concorrência dos modelos de pesos abertos vindos da China não está sujeita a nada disso e vai continuar empurrando os preços para baixo e as capacidades para cima. E o ensaio de Amodei é uma proposta, não uma regulamentação. A mensagem prática não é que a IA vai parar de melhorar — é que a camada que separa um modelo poderoso da sua empresa, ou seja, governança, testes e supervisão, passou oficialmente de luxo a parte do produto.

Na Origami, construímos sistemas de IA para empresas exatamente com essa lógica desde o primeiro dia: etapas de aprovação em ações irreversíveis, um registro de auditoria completo e uma passagem limpa para uma pessoa quando a conversa sai do escopo do sistema. Não porque um regulador pediu, mas porque essa é a diferença entre uma ferramenta em que você confia diante do seu cliente e outra que você observa com nervosismo.

Fontes

  • Texto completo de "We Must Pace the Frontier", de Dario Amodei, 12 de setembro de 2026: darioamodei.com
  • Cobertura do TechCrunch sobre o plano, o compromisso da Anthropic e a resposta de Sam Altman: techcrunch.com
  • Cobertura da CNBC sobre o rascunho do código de conduta de IA da Microsoft: cnbc.com
  • Autoridade Saudita de Dados e Inteligência Artificial (SDAIA) — Princípios de Ética da IA e Lei de Proteção de Dados Pessoais: sdaia.gov.sa