Comment protéger votre entreprise contre les risques de l'IA ? Conseils pratiques à la lumière des derniers avertissements

Protégez votre entreprise contre les risques de l'IA en sept mesures : recensez chaque outil et agent d'IA, donnez à chaque agent son propre compte avec le moins de droits possible, exigez une validation humaine avant tout paiement, suppression ou envoi aux clients, gardez les données des clients hors des outils non approuvés, corrigez en quelques jours les systèmes exposés à Internet, vérifiez les demandes d'argent par un second canal et revoyez votre assurance. Ces mesures découlent des avertissements d'octobre 2026 : Microsoft veut que les agents soient traités comme des initiés capables de se tromper ou d'être manipulés, les failles PHP2Shell, dont l'une trouvée par une IA, ont été classées activement exploitées 5 jours après leur annonce, et le prospectus d'Anthropic prévient que ses modèles peuvent agir d'une manière qu'aucun utilisateur ni développeur n'a voulue.

Quels sont les derniers avertissements, et pourquoi concernent-ils votre entreprise ?

En moins d'un mois, des avertissements sont venus des entreprises qui construisent les modèles d'IA elles-mêmes et d'agences gouvernementales de cybersécurité. Voici les principaux, dans l'ordre de leur parution :

Ces avertissements ont un point commun : l'IA accroît le risque de deux côtés. De l'extérieur, parce que les attaquants trouvent et exploitent les failles plus vite ; de l'intérieur, quand un outil ou un agent reçoit plus d'accès qu'il ne lui en faut. OpenAI, qui a mené la coalition de réponse aux failles PHP, les considère comme l'un des problèmes de sécurité les plus graves de mémoire récente et souligne que « les mêmes capacités peuvent aussi aider les attaquants à développer rapidement des outils offensifs et des exploits ». Elle s'attend à ce que ces découvertes « augmentent fortement dans les mois à venir ». Le prospectus d'Anthropic ajoute que des acteurs malveillants « ont déjà mené des cyberattaques retentissantes » en utilisant l'IA pour découvrir des vulnérabilités, générer des logiciels malveillants et échapper aux outils de détection.

Comment protéger votre entreprise ? 7 conseils pratiques

1. Connaissez chaque outil et chaque agent d'IA qui fonctionne dans votre entreprise. Microsoft le résume ainsi : « on ne peut pas sécuriser ce que l'on ne voit pas ». L'éditeur a étendu ses outils pour détecter 60 types d'agents installés sur les postes des employés, dont Claude Code, OpenAI Codex et GitHub Copilot, car certains arrivent sur les postes sans aucun déploiement central. Commencez par un tableau unique : chaque outil, qui l'utilise, quelles données il atteint, s'il s'agit d'un compte personnel ou professionnel, et qui en est responsable. Ce même tableau est le point de départ du cadre national de gestion des risques de l'IA de la SDAIA.
2. Donnez à chaque agent son propre compte et le moins de droits possible. Microsoft prend l'exemple d'un agent qui examine les notes de frais : il doit lire les demandes et la politique de l'entreprise, mais il ne doit pas hériter de tous les droits de l'employé qui l'a créé. L'éditeur recommande qu'un agent commence sans aucun droit, ne reçoive que ce dont la tâche a besoin et seulement pendant sa durée, et que les actions à fort impact passent par une validation humaine vérifiée. Concrètement : ne reliez pas un agent au compte du dirigeant, ne lui confiez pas le mot de passe bancaire de l'entreprise, séparez la lecture de l'écriture, supprimez du code et des réglages les clés oubliées qui lui ouvrent plus qu'il ne faut, et gardez un moyen de l'arrêter immédiatement. Satya Nadella, directeur général de Microsoft, résume l'idée : « le système agentique le plus digne de confiance ne sera pas celui dont nous jugeons le modèle le plus fiable, mais celui conçu pour nous permettre de faire le moins possible confiance au modèle ».
3. Ne laissez pas un agent exécuter ce qu'il a lu dans un courriel, un fichier ou une page web sans contrôle. Le prospectus d'Anthropic définit l'injection de prompt comme une technique d'attaque qui cache des instructions malveillantes dans un contenu que le modèle doit traiter, comme des sites, des documents ou des résultats d'outils, afin de manipuler son comportement, généralement à l'insu de l'utilisateur. Un agent qui lit les courriels des clients et peut virer, supprimer ou envoyer risque d'exécuter un ordre écrit par un attaquant dans un message. Microsoft décrit le même scénario : l'agent des notes de frais peut rencontrer une injection de prompt dans un document externe, et son comportement change alors que sa configuration n'a pas changé. Faites valider par un employé toute étape qui fait sortir de l'argent ou des données de l'entreprise, surtout après que l'agent a lu un contenu externe. Nous avons vu le même risque avec les agents de programmation qui exécutent la commande de l'attaquant dès l'ouverture du projet.
4. Gardez les données des clients hors des outils non approuvés. Selon le centre d'aide d'OpenAI, OpenAI n'utilise pas par défaut les entrées et sorties de ChatGPT Business, ChatGPT Enterprise ou de son API pour améliorer ses modèles, alors que le contenu des offres individuelles Free, Plus et Pro peut servir à l'entraînement sauf si l'utilisateur le désactive dans les réglages. Anthropic indique qu'elle n'entraîne pas ses modèles par défaut sur les entrées de ses produits professionnels, comme Claude for Work et son API. Adoptez donc des comptes professionnels et dites clairement par écrit à vos employés ce qui n'entre dans aucun outil : les données personnelles des clients, les contrats et les mots de passe. Si vous saisissez des données personnelles de clients dans un outil d'IA, son fournisseur les traite pour votre compte, et l'article 17 du règlement d'application de la loi saoudienne sur la protection des données personnelles vous oblige à choisir un sous-traitant offrant des garanties suffisantes, avec un accord qui fixe la finalité et la durée du traitement ainsi que son obligation de vous signaler toute fuite. Si une fuite risque de nuire aux personnes concernées, l'article 24 vous impose d'en informer l'autorité compétente dans les 72 heures suivant sa découverte.
5. Corrigez les systèmes exposés à Internet en quelques jours, pas en quelques semaines. Fortinet explique que les outils d'IA aident désormais les attaquants à analyser les correctifs et à construire un exploit fonctionnel « en quelques heures ou jours, et non plus en semaines », et que le délai entre l'annonce d'une faille et son exploitation « continue de se réduire ». Anthropic affirme qu'un exploit peut maintenant être développé en quelques minutes. C'est pourquoi, pour les failles PHP2Shell, la CISA a demandé des mesures claires : recenser chaque système qui utilise PHP, installer immédiatement la correction en commençant par les systèmes exposés à Internet, et mettre hors ligne ce qui ne peut pas être mis à jour jusqu'à sa mise à jour, un pare-feu applicatif web (WAF) pouvant offrir une protection partielle entre-temps. L'Autorité nationale saoudienne de cybersécurité a publié une alerte recommandant de mettre à jour les produits concernés. Appliquez la même règle à tout système exposé : site web, pare-feu, VPN et messagerie. Les détails figurent dans nos articles sur la faille PHP2Shell, la nouvelle faille Linux et les pare-feu FortiGate.
6. Vérifiez toute demande d'argent ou de données par un second canal. Dans leur campagne de sensibilisation aux deepfakes, la SDAIA et la Commission des communications, de l'espace et de la technologie rappellent que voir quelqu'un dans une vidéo ou entendre sa voix ne prouve pas qu'il a tenu ces propos, et citent parmi les risques les pertes financières et les escroqueries, le contournement des systèmes de vérification et l'usurpation d'identité. Ne virez donc pas d'argent et n'envoyez pas de données sur la foi d'un appel, d'un message vocal ou d'une vidéo, même si la voix semble être celle du dirigeant. Rappelez la personne au numéro que vous connaissez déjà, et exigez deux signatures pour tout virement au-delà d'un seuil que vous fixez. Nous avons détaillé les niveaux de protection dans notre article sur les deepfakes et la fraude par IA, et comment fermer chaque voie qui fait sortir l'argent de votre entreprise sans votre signature dans la leçon du piratage de Binance.
7. Revoyez ce que couvre votre assurance et ce que prévoient les contrats de vos fournisseurs. Le prospectus d'Anthropic indique : « comme nos modèles peuvent agir d'une manière qu'aucun utilisateur ni développeur n'a voulue, les réclamations découlant de ces actions pourraient entraîner une responsabilité importante ». Il ajoute que ses polices d'assurance pourraient ne pas offrir une couverture suffisante et que le marché de l'assurance des risques propres à l'IA est « naissant et en évolution ». Si telle est la situation de l'entreprise qui construit le modèle, demandez par écrit à votre assureur si la police couvre une fuite de données causée par un agent d'IA ou un virement frauduleux obtenu avec une voix clonée. Et demandez à chaque fournisseur d'outil où vos données sont stockées, combien de temps elles sont conservées et quand il vous préviendra d'un incident.

Que disent les autorités saoudiennes ?

Trois références comptent pour toute entreprise saoudienne qui utilise l'IA :

• La SDAIA a lancé le cadre national de gestion des risques de l'IA, référence d'orientation pour les entités publiques et privées ; nous avons expliqué ses quatre étapes et comment votre entreprise peut les appliquer.
• L'Autorité nationale de cybersécurité a soumis son projet de lignes directrices sur la cybersécurité de l'IA à consultation publique, avec le 5 août 2026 comme date limite des commentaires. Le projet repose sur 4 domaines : gouvernance de la cybersécurité, défense, résilience et cybersécurité liée aux tiers, et il couvre l'IA générative et l'IA agentique.
• La loi sur la protection des données personnelles s'impose à toute entreprise qui traite des données personnelles, y compris les articles 17 et 24 de son règlement d'application cités plus haut. Vous trouverez plus de détails dans notre guide pratique de la loi.

Quel plan pour les 30 premiers jours ?

Le point de vue d'Origami

Nous ne voyons pas dans ces avertissements une raison d'arrêter l'IA dans votre entreprise, mais une raison de la faire fonctionner dans des limites claires. Microsoft le dit elle-même : l'objectif n'est pas un modèle dont chaque action est prévisible, mais « des systèmes qui restent sûrs même quand le modèle ne l'est pas ». Chez Origami, nous intégrons des fonctions et des agents d'IA dans les systèmes des entreprises avec des droits limités, des étapes de validation et des journaux clairs, nous révisons le code écrit avec des outils d'IA et en comblons les failles, et nous mettons à jour les serveurs et applications exposés à Internet. Contactez-nous pour passer en revue vos outils et vos agents.

L'essentiel

• Les avertissements d'octobre 2026 montrent que l'IA accélère la découverte et l'exploitation des failles, que les agents peuvent se tromper ou être manipulés, et que les modèles peuvent agir d'une manière que personne n'a voulue.
• Connaissez vos outils et vos agents, donnez à chaque agent le moins de droits possible et exigez une validation humaine avant les étapes financières et sensibles.
• Utilisez des comptes professionnels qui n'entraînent pas les modèles sur vos données par défaut, et gardez les données des clients hors des outils non approuvés.
• Corrigez les systèmes exposés en quelques jours, vérifiez les demandes d'argent par un second canal et revoyez votre assurance et les contrats de vos fournisseurs.