Dans cet article
Trois choses changent dans votre plan : ne construisez pas sur une capacité qui n'est pas encore sortie, veillez à ce que la personne qui valide votre assistant d'IA ne soit pas celle qui l'a développé, et dotez-le d'un véritable bouton d'arrêt qu'un employé non technique peut utiliser. La raison : le 12 septembre 2026, Dario Amodei, PDG d'Anthropic, a publié un essai intitulé « We Must Pace the Frontier » (« Nous devons modérer l'avancée de la frontière »), dans lequel il soutient que le secteur de l'IA doit ralentir le rythme auquel il améliore les capacités des modèles, et il a exposé un plan en trois étapes. Anthropic s'est engagée sur la première étape : installer dans ses bureaux des évaluateurs externes indépendants, avec un accès proche de celui d'un employé et le droit de publier leurs constats sans qu'Anthropic exerce de contrôle éditorial. En quelques heures, Sam Altman a déclaré qu'OpenAI était d'accord et prendrait le même engagement.
Les trois étapes telles que l'essai les présente
- Des évaluateurs intégrés au laboratoire : des organismes d'évaluation indépendants comme METR obtiennent un accès permanent, de niveau employé, pour vérifier que les engagements de sécurité affichés sont réellement appliqués et que les incidents sont signalés comme il se doit. C'est l'étape sur laquelle Anthropic s'est engagée seule, sans attendre personne.
- Une coordination entre les laboratoires des pays démocratiques : des normes de sécurité communes et des limites convenues au rythme des progrès non contrôlés, avec le soutien des gouvernements pour répondre aux questions de droit de la concurrence qu'une telle coordination soulèverait. Amodei avance ici l'idée d'un « point de contrôle » : si un modèle atteint une capacité donnée, il ne devrait pas sortir avant que des certifications précises n'établissent certaines propriétés d'alignement, éventuellement assorties de limites sur les intrants eux-mêmes, comme la puissance de calcul d'entraînement ou l'usage interne de modèles pour en construire d'autres.
- Une coordination mondiale : une tentative de parvenir à des ententes avec des gouvernements non démocratiques, selon quatre niveaux croissants allant d'interdictions ciblées sur des applications précises jusqu'à des pauses complètes du développement, avec une reconnaissance explicite de la difficulté de vérifier le respect de ces engagements.
Amodei n'a donné ni pourcentage de ralentissement ni calendrier, mais il a affirmé que gagner « une ou deux années supplémentaires » avant que les modèles n'atteignent des niveaux de capacité critiques réduirait fortement le risque. Il a en même temps souligné que les progrès paraîtront toujours rapides, et que l'enjeu est d'utiliser judicieusement le temps gagné, non de s'arrêter.
Pourquoi les concurrents ont-ils approuvé si vite ?
La rapidité est le véritable sujet. Un secteur fondé sur le principe « le premier arrivé l'emporte » a vu ses quatre plus grands noms s'aligner en une journée. En toile de fond, Demis Hassabis, de Google DeepMind, avait proposé le 14 juillet un organisme de normalisation financé par le secteur et supervisé au niveau fédéral, sur le modèle du régulateur du secteur financier FINRA, qui testerait les modèles de classe frontière pendant une durée pouvant aller jusqu'à trente jours avant leur sortie, d'abord sur une base volontaire, puis comme condition de déploiement aux États-Unis.
Et le 14 septembre, deux jours plus tard seulement, Microsoft a publié un projet de code de conduite pour ses modèles maison, que Mustafa Suleyman, à la tête de la branche IA de l'entreprise, a présenté comme une sorte de constitution. Sa règle centrale : un modèle ne doit jamais résister à une correction ou à un arrêt, doit communiquer en des termes compréhensibles par les humains et doit traiter tout manquement au code comme un échec pur et simple, et non comme un cas limite. L'entreprise a ouvert une consultation publique de six semaines, à l'issue de laquelle elle prévoit d'entraîner sa prochaine génération de modèles sur le code finalisé.
Ce qui change réellement dans votre entreprise
Trois changements concrets, dont aucun n'exige d'attendre une loi :
- Ne bâtissez pas un plan sur une capacité qui n'est pas sortie. Un très grand nombre de projets d'IA au point mort reposent implicitement sur la phrase « la prochaine version réglera ça ». Si les fondateurs des laboratoires eux-mêmes parlent de ralentir le rythme, l'hypothèse raisonnable est que ce sur quoi vous construirez l'an prochain ressemble à peu près à ce que vous voyez aujourd'hui. Concevez en fonction de capacités qui existent réellement, et mesurez-les vous-même.
- Le principe de l'évaluateur indépendant s'applique à votre échelle. Le cœur de l'engagement d'Anthropic est simple : la partie qui construit le système n'est pas celle qui certifie qu'il est sûr. Dans votre entreprise, cela signifie que la personne qui a développé l'assistant d'IA ne doit pas être aussi celle qui approuve sa mise en service face aux clients. Faites-le tester sur des cas réels par une autre personne ou une autre équipe, dotée d'un réel pouvoir de dire non.
- La règle de non-résistance à l'arrêt se traduit par un vrai bouton d'arrêt. Si vous avez un agent d'IA qui envoie des messages, modifie des commandes ou émet des factures, posez une seule question : de combien de secondes un employé non technique a-t-il besoin pour l'arrêter complètement ? Si la réponse comporte « on appelle le développeur », vous n'avez pas de bouton d'arrêt, vous avez un numéro de téléphone.
Quatre décisions qui méritent un trimestre de votre attention
- Écrivez sur une seule page tout ce que votre système d'IA peut faire sans validation humaine, puis rayez toute action irréversible : paiements, suppressions, messages sortants vers des clients externes, modifications des stocks.
- Placez une étape de validation sur exactement ces actions, et laissez le reste fonctionner librement pour ne pas tuer le bénéfice en même temps que le risque.
- Activez un journal d'audit qui montre ce que le système a fait, quand et à partir de quelle entrée, car la première question après toute erreur sera « pourquoi a-t-il fait cela ? ».
- Décidez à l'avance qui arrête le système et qui est prévenu, et testez-le au moins une fois avant d'en avoir besoin.
Cette orientation rejoint la direction que prend déjà le Royaume. Les principes d'éthique de l'IA et la loi sur la protection des données personnelles (PDPL) publiés par l'Autorité saoudienne des données et de l'intelligence artificielle (SDAIA) demandent les mêmes choses dans un autre vocabulaire : une supervision humaine claire, l'explicabilité et une responsabilité définie pour les décisions automatisées. Ce que vous faites aujourd'hui pour vous y préparer ne sera pas perdu.
Et ce qui ne change pas
Il ne faut pas donner à ces engagements plus de portée qu'ils n'en ont. Ils sont entièrement volontaires, sans mécanisme de vérification contraignant ni calendrier annoncé. La concurrence des modèles à poids ouverts venus de Chine n'est soumise à rien de tout cela et continuera de faire baisser les prix et monter les capacités. Et l'essai d'Amodei est une proposition, pas une réglementation. Le message pratique n'est pas que l'IA va cesser de progresser : c'est que la couche qui sépare un modèle puissant de votre entreprise, à savoir la gouvernance, les tests et la supervision, est officiellement passée du statut de luxe à celui de composante du produit.
Chez Origami, nous construisons dès le premier jour des systèmes d'IA d'entreprise selon exactement cette logique : des étapes de validation sur les actions irréversibles, un journal d'audit complet et un passage de relais propre à un humain lorsque la conversation sort du périmètre du système. Non parce qu'un régulateur l'a demandé, mais parce que c'est la différence entre un outil auquel vous faites confiance devant votre client et un outil que vous surveillez avec inquiétude.
Sources
- Texte intégral de l'essai de Dario Amodei « We Must Pace the Frontier », 12 septembre 2026 : darioamodei.com
- Couverture par TechCrunch du plan, de l'engagement d'Anthropic et de la réponse de Sam Altman : techcrunch.com
- Couverture par CNBC du projet de code de conduite de Microsoft pour l'IA : cnbc.com
- Autorité saoudienne des données et de l'intelligence artificielle (SDAIA) : principes d'éthique de l'IA et loi sur la protection des données personnelles : sdaia.gov.sa
Questions fréquentes
Cela signifie-t-il que les modèles d'IA vont cesser de s'améliorer ?
Non. Amodei lui-même a déclaré que les progrès paraîtront toujours rapides et que l'objectif est de gagner une ou deux années supplémentaires avant que les modèles n'atteignent des niveaux de capacité critiques. Ce qui change, c'est le rythme des grands sauts et le volume d'examen avant la mise sur le marché, pas la direction. Concrètement, cela signifie planifier en fonction de ce qui est disponible aujourd'hui plutôt que d'une version promise.
Ces engagements sont-ils juridiquement contraignants ?
Non. Ils restent à ce jour entièrement volontaires, sans mécanisme de vérification contraignant ni calendrier. Anthropic s'est engagée unilatéralement à accueillir des évaluateurs indépendants, et OpenAI a annoncé qu'elle ferait de même. Les deuxième et troisième étapes exigent une coordination du secteur, puis des gouvernements, et ni l'une ni l'autre n'a encore eu lieu.
Quel effet cela a-t-il sur un projet d'IA que je prépare pour mon entreprise ?
Trois effets : concevez en fonction de capacités qui existent et que vous avez mesurées, plutôt que de capacités promises ; veillez à ce que la partie qui valide le système pour un usage face aux clients ne soit pas celle qui l'a construit ; et assurez-vous qu'un employé non technique peut l'arrêter en quelques secondes. Ces trois mesures augmentent les chances de réussite du projet, quoi que décident les laboratoires.
Quel rapport avec la réglementation saoudienne comme la PDPL ?
La direction est la même, même si le vocabulaire diffère. Les principes d'éthique de l'IA et la loi sur la protection des données personnelles (PDPL) de l'Autorité saoudienne des données et de l'intelligence artificielle (SDAIA) exigent une supervision humaine claire, l'explicabilité et une responsabilité définie pour les décisions automatisées. S'y préparer dès aujourd'hui vous sert à la fois en matière de conformité et sur le plan opérationnel.
Suivez Origami sur Google
Ajoutez Origami à vos sources préférées : nos articles apparaîtront en premier pour vous dans la recherche Google et les actualités à la une.
