Como proteger sua empresa dos riscos da IA: dicas práticas à luz dos alertas mais recentes

Proteja sua empresa dos riscos da IA com sete passos: conheça cada ferramenta e cada agente de IA em funcionamento nela, dê a cada agente a própria conta com o menor acesso possível, exija aprovação humana antes de qualquer pagamento, exclusão ou mensagem a clientes, mantenha os dados dos clientes fora de ferramentas não aprovadas, corrija em poucos dias os sistemas expostos à internet, verifique pedidos de dinheiro por um segundo canal e revise o que o seu seguro cobre. Esses passos vêm dos alertas de outubro de 2026: a Microsoft pediu às empresas que tratem os agentes como pessoas de dentro que podem errar ou ser manipuladas; as duas falhas PHP2Shell, uma delas encontrada com um modelo de IA, entraram na lista de vulnerabilidades exploradas ativamente 5 dias após a divulgação; e o prospecto de IPO da Anthropic alertou que seus modelos podem agir de maneiras que nenhum usuário ou desenvolvedor pretendia.

Quais são os alertas mais recentes e por que eles dizem respeito à sua empresa?

Em menos de um mês, vieram alertas das próprias empresas que constroem modelos de IA e de agências governamentais de cibersegurança. Estes são os principais, na ordem em que saíram:

O que esses alertas têm em comum é que a IA aumenta o risco por dois lados: de fora, porque os atacantes agora encontram e exploram falhas mais rápido, e de dentro, quando uma ferramenta ou um agente recebe mais acesso do que precisa. A OpenAI, que liderou a coalizão que respondeu às falhas do PHP, as considera um dos problemas de segurança de maior impacto da memória recente e diz que «as mesmas capacidades também podem ajudar atacantes a desenvolver rapidamente ferramentas ofensivas e exploits». A empresa espera que descobertas semelhantes «aumentem bruscamente nos próximos meses». O prospecto de IPO da Anthropic acrescenta que «agentes mal-intencionados já realizaram ciberataques de grande repercussão usando as capacidades da IA para descobrir vulnerabilidades, gerar malware e escapar de ferramentas de detecção».

Como proteger sua empresa? 7 dicas práticas

1. Conheça cada ferramenta e cada agente de IA em funcionamento na sua empresa. A Microsoft diz isso com todas as letras: «Não é possível proteger o que você não vê». A empresa ampliou suas ferramentas para detectar 60 tipos de agentes que rodam nos computadores dos funcionários, entre eles Claude Code, OpenAI Codex e GitHub Copilot, porque alguns chegam às máquinas sem nenhuma implantação central. Comece com uma única planilha que liste cada ferramenta, quem a usa, quais dados ela alcança, se a conta é pessoal ou empresarial e quem é o responsável por ela. Essa mesma planilha é o ponto de partida do framework nacional de gestão de riscos da IA da SDAIA.
2. Dê a cada agente a própria conta e o menor acesso possível. O exemplo da Microsoft é um agente que analisa pedidos de reembolso de despesas: ele precisa ler os pedidos e a política da empresa, mas não deve herdar todas as permissões do funcionário que o configurou. A Microsoft recomenda que um agente comece sem nenhuma autoridade, receba apenas o que a tarefa exige e somente enquanto ela durar, e que ações de maior impacto exijam aprovação humana verificada. Na prática: não conecte um agente à conta do diretor, não entregue a ele a senha do banco da empresa, separe o acesso de leitura do de escrita, remova do código e das configurações as chaves esquecidas que abrem mais do que ele precisa e mantenha uma forma de pará-lo na hora. Satya Nadella, CEO da Microsoft, resume assim: «O sistema agêntico mais confiável não será aquele cujo modelo mais confiamos. Será aquele projetado para nos permitir confiar o mínimo possível no modelo».
3. Não deixe um agente agir com base no que leu em um e-mail, arquivo ou página da web sem revisão. O prospecto de IPO da Anthropic define a injeção de prompt como um ataque em que instruções maliciosas são inseridas em conteúdos que um modelo precisa processar, como sites, documentos ou resultados de ferramentas, para manipular o comportamento dele, geralmente sem o usuário saber. Um agente que lê os e-mails dos clientes e pode transferir, excluir ou enviar pode executar uma ordem que um atacante escreveu dentro de uma mensagem. A Microsoft descreve o mesmo cenário: o agente de despesas pode encontrar uma injeção de prompt em um documento externo, e o comportamento dele muda mesmo sem a configuração ter mudado. Faça com que todo passo que tire dinheiro ou dados da empresa passe pela aprovação de um funcionário, principalmente depois que o agente tiver lido conteúdo de fora. Vimos o mesmo risco com agentes de programação que executam o comando de um atacante assim que o projeto é aberto.
4. Mantenha os dados dos clientes fora de ferramentas não aprovadas. Segundo a Central de Ajuda da OpenAI, a OpenAI não usa por padrão as entradas nem as saídas do ChatGPT Business, do ChatGPT Enterprise ou da sua API para melhorar seus modelos, enquanto o conteúdo dos planos individuais Free, Plus e Pro pode ser usado em treinamento, a menos que o usuário desative isso nas configurações. A Anthropic diz que, por padrão, não treina com as entradas dos seus produtos comerciais, como o Claude for Work e a sua API. Por isso, padronize contas empresariais e diga por escrito à sua equipe o que nunca entra em nenhuma ferramenta: dados pessoais de clientes, contratos e senhas. Se você inserir dados pessoais de clientes em uma ferramenta de IA, o fornecedor trata esses dados em seu nome, e o artigo 17 do regulamento de aplicação da Lei saudita de Proteção de Dados Pessoais (PDPL) exige que você escolha um operador que ofereça garantias suficientes, com um acordo que defina a finalidade e a duração do tratamento e o dever do operador de avisar você sobre qualquer vazamento. Se um vazamento puder prejudicar as pessoas envolvidas, o artigo 24 exige que você notifique a autoridade competente em até 72 horas após tomar conhecimento dele.
5. Corrija os sistemas expostos à internet em dias, não em semanas. A Fortinet diz que as ferramentas de IA já ajudam os atacantes a fazer engenharia reversa das correções e a criar exploits funcionais «em horas ou dias, e não em semanas», e que «a janela entre a divulgação e a exploração continua diminuindo». A Anthropic afirma que exploits agora podem ser desenvolvidos em minutos. É por isso que, para as falhas PHP2Shell, a CISA pediu passos claros: inventariar todos os sistemas que rodam PHP, aplicar a correção imediatamente começando pelos sistemas expostos à internet e tirar do ar o que não puder ser atualizado até que seja, lembrando que um firewall de aplicações web (WAF) pode dar alguma proteção nesse meio-tempo. A Autoridade Nacional de Cibersegurança da Arábia Saudita (NCA) publicou um alerta recomendando atualizar os produtos afetados. Aplique a mesma regra a todo sistema exposto: o site, o firewall, a VPN e o e-mail. Os detalhes estão nos nossos artigos sobre a falha PHP2Shell, a nova vulnerabilidade do Linux e os firewalls FortiGate.
6. Confirme qualquer pedido de dinheiro ou de dados por um segundo canal. Na campanha de conscientização sobre deepfakes, a SDAIA e a Comissão de Comunicações, Espaço e Tecnologia (CST) dizem que «ver alguém em um vídeo ou ouvir a voz da pessoa não prova que ela disse aquilo», e citam entre os riscos perdas financeiras e golpes, a invasão de sistemas de verificação e o roubo de identidade. Por isso, nunca transfira dinheiro nem envie dados com base em uma ligação, uma mensagem de voz ou um vídeo, mesmo que a voz pareça a do diretor. Ligue de volta para a pessoa no número que você já tem e exija duas assinaturas para qualquer transferência acima de um limite que você definir. Explicamos as camadas de proteção no nosso artigo sobre deepfakes e fraude com IA e como fechar cada caminho que movimenta o dinheiro da sua empresa sem a sua assinatura na lição do ataque à Binance.
7. Revise o que o seu seguro cobre e o que dizem os contratos dos seus fornecedores. O prospecto de IPO da Anthropic afirma: «Como nossos modelos podem agir de maneiras que nenhum usuário ou desenvolvedor pretendia, reclamações decorrentes dessas ações podem resultar em responsabilidade substancial». E acrescenta que suas apólices de seguro podem não oferecer cobertura suficiente e que «o mercado de seguros para riscos específicos de IA é incipiente e está em evolução». Se essa é a situação da empresa que constrói o modelo, pergunte por escrito à sua seguradora: a apólice cobre um vazamento de dados causado por um agente de IA, ou uma transferência fraudulenta feita com uma voz clonada? E pergunte a cada fornecedor de ferramenta onde os seus dados ficam armazenados, por quanto tempo são guardados e quando ele vai avisar você sobre um incidente.

O que dizem as autoridades sauditas?

Três referências importam para qualquer empresa saudita que use IA:

• A SDAIA lançou o framework nacional de gestão de riscos da IA como referência de orientação para entidades públicas e privadas; explicamos suas quatro etapas e como a sua empresa pode aplicá-las.
• A Autoridade Nacional de Cibersegurança (NCA) colocou em consulta pública o seu rascunho de diretrizes de cibersegurança para IA, com 5 de agosto de 2026 como prazo para comentários. O rascunho se apoia em 4 domínios: governança de cibersegurança, defesa, resiliência e cibersegurança de terceiros, e abrange a IA generativa e a IA agêntica.
• A Lei de Proteção de Dados Pessoais (PDPL) vale para toda empresa que trata dados pessoais, incluindo os artigos 17 e 24 do seu regulamento de aplicação citados acima. Há mais detalhes no nosso guia prático da lei.

Qual é o plano para os primeiros 30 dias?

A visão da Origami

Não vemos nesses alertas um motivo para desligar a IA na sua empresa, e sim um motivo para usá-la dentro de limites claros. A própria Microsoft diz que o objetivo não é um modelo com todas as ações previsíveis, mas «sistemas que continuem seguros mesmo quando o modelo não estiver». Na Origami, integramos recursos e agentes de IA aos sistemas das empresas com permissões limitadas, etapas de aprovação e registros claros, revisamos código criado com ferramentas de IA e fechamos suas brechas, e atualizamos servidores e aplicativos expostos à internet. Fale conosco para revisarmos juntos as suas ferramentas e os seus agentes.

Principais conclusões

• Os alertas de outubro de 2026 dizem que a IA acelera a descoberta e a exploração de falhas, que os agentes podem errar ou ser manipulados e que os modelos podem agir de maneiras que ninguém pretendia.
• Conheça suas ferramentas e seus agentes, dê a cada agente o menor acesso e exija aprovação humana antes de etapas financeiras e sensíveis.
• Use contas empresariais que não treinam modelos com os seus dados por padrão e mantenha os dados dos clientes fora de ferramentas não aprovadas.
• Corrija os sistemas expostos em dias, confirme pedidos de dinheiro por um segundo canal e revise o seu seguro e os contratos dos fornecedores.

Fontes

• Microsoft: os agentes são as suas pessoas de dentro mais recentes, 19 de outubro de 2026
• OpenAI: Patch the Planet, a coordenação da resposta às falhas críticas do PHP
• CISA: vulnerabilidades críticas no PHP exigem correção imediata
• Autoridade Nacional de Cibersegurança da Arábia Saudita (NCA): alerta sobre PHP
• Fortinet: versão de reforço de segurança para vários produtos
• Anthropic: um serviço opcional de busca de vulnerabilidades para software de código aberto, 8 de outubro de 2026
• Anthropic: descobrindo e explorando vulnerabilidades com o Claude, 27 de outubro de 2026
• Anthropic: formulário de registro S-1 na SEC dos Estados Unidos
• SPA: a SDAIA lança o framework nacional de gestão de riscos da IA
• Autoridade Nacional de Cibersegurança da Arábia Saudita (NCA): consulta sobre as diretrizes de cibersegurança para IA
• SDAIA e CST: deepfakes e vídeos falsos
• SDAIA: regulamento de aplicação da Lei de Proteção de Dados Pessoais
• OpenAI: como os seus dados são usados para melhorar o desempenho dos modelos
• Anthropic: meus dados são usados para treinar modelos?