En su plan cambian tres cosas: no construya sobre una capacidad que aún no se ha lanzado, asegúrese de que la persona que aprueba su asistente de IA no sea la misma que lo desarrolló, y dele un verdadero interruptor de apagado que un empleado no técnico pueda usar. El motivo: el 12 de septiembre de 2026, el CEO de Anthropic, Dario Amodei, publicó un ensayo titulado "We Must Pace the Frontier" (Hay que marcar el ritmo de la frontera), en el que sostiene que la industria de la IA debe frenar el ritmo al que mejora las capacidades de los modelos, y expuso un plan de tres pasos. Anthropic se comprometió con el primer paso: instalar evaluadores externos independientes dentro de sus oficinas, con un acceso casi de empleado y el derecho a publicar lo que encuentren sin que Anthropic tenga control editorial. En cuestión de horas, Sam Altman dijo que OpenAI está de acuerdo y que asumirá el mismo compromiso.

Los tres pasos tal como los expone el ensayo

  • Evaluadores integrados dentro del laboratorio: organizaciones de evaluación independientes como METR obtienen un acceso permanente, de nivel de empleado, para verificar que los compromisos de seguridad declarados se aplican de verdad y que los incidentes se notifican como corresponde. Este es el paso con el que Anthropic se comprometió en solitario, sin esperar a nadie.
  • Coordinación entre laboratorios de países democráticos: normas de seguridad comunes y límites acordados al ritmo del progreso sin control, con respaldo gubernamental para resolver las preocupaciones antimonopolio que esa coordinación plantearía. Aquí Amodei lanza la idea de un "punto de control": si un modelo alcanza cierta capacidad, no debería lanzarse antes de que certificaciones específicas establezcan determinadas propiedades de alineación, posiblemente junto con límites a los propios insumos, como la capacidad de cómputo para el entrenamiento o el uso interno de modelos para construir otros modelos.
  • Coordinación global: un intento de alcanzar acuerdos con gobiernos no democráticos, en cuatro niveles crecientes que van desde prohibiciones acotadas de aplicaciones concretas hasta pausas completas del desarrollo, con un reconocimiento explícito de lo difícil que sería verificar su cumplimiento.

Amodei no dio ningún porcentaje de desaceleración ni calendario, pero sí dijo que ganar "uno o dos años más" antes de que los modelos alcancen niveles críticos de capacidad reduciría mucho el riesgo. Al mismo tiempo, subrayó que el progreso seguirá pareciendo rápido y que se trata de aprovechar bien el tiempo ganado, no de detenerse.

Por qué los competidores aceptaron tan rápido

La rapidez es la verdadera noticia. Una industria construida sobre "gana quien llega primero" vio a sus cuatro nombres más importantes alinearse en un solo día. El contexto es que Demis Hassabis, de Google DeepMind, había propuesto el 14 de julio un organismo de normalización financiado por la industria y supervisado a nivel federal, inspirado en el regulador del sector financiero FINRA, que probaría los modelos de clase frontera durante un máximo de treinta días antes de su lanzamiento: primero de forma voluntaria y después como condición para desplegarlos en Estados Unidos.

Y el 14 de septiembre, apenas dos días después, Microsoft publicó un borrador de código de conducta para sus modelos propios, que Mustafa Suleyman, responsable de la división de IA de la compañía, describió como una especie de constitución. Su regla central es que un modelo nunca debe resistirse a la corrección ni al apagado, debe comunicarse en términos que las personas puedan entender y debe tratar cualquier incumplimiento del código como un fallo absoluto y no como un caso límite. La compañía abrió un período de comentarios públicos de seis semanas, tras el cual prevé entrenar su próxima generación de modelos con el código definitivo.

Qué cambia realmente dentro de su empresa

Tres cambios concretos, y ninguno exige esperar a que haya legislación:

  • No base un plan en una capacidad que no se ha lanzado. Muchísimos proyectos de IA estancados descansan implícitamente en la frase "la próxima versión lo resolverá". Si los propios fundadores de los laboratorios hablan de moderar el ritmo, lo sensato es suponer que aquello sobre lo que construirá el año que viene es, más o menos, lo que puede ver hoy. Diseñe sobre capacidades que existen de verdad y mídalas usted mismo.
  • El principio del evaluador independiente se adapta a su tamaño. El núcleo del compromiso de Anthropic es sencillo: quien construye el sistema no es quien certifica que es seguro. En su empresa, eso significa que quien desarrolló el asistente de IA no debería ser también quien aprueba ponerlo a funcionar frente a los clientes. Haga que otra persona u otro equipo lo pruebe con casos reales y con autoridad real para decir que no.
  • La regla de no resistirse al apagado se traduce en un verdadero interruptor de apagado. Si tiene un agente de IA que envía mensajes, modifica pedidos o emite facturas, hágase una sola pregunta: ¿cuántos segundos necesita un empleado no técnico para detenerlo por completo? Si la respuesta incluye "llamamos al desarrollador", no tiene un interruptor de apagado: tiene un número de teléfono.

Cuatro decisiones que merecen un trimestre de su atención

  • Escriba en una sola página todo lo que su sistema de IA puede hacer sin aprobación humana y luego tache cada acción irreversible: pagos, eliminaciones, mensajes salientes a clientes externos, cambios de inventario.
  • Ponga una puerta de aprobación exactamente en esas acciones y deje que el resto funcione libremente, para no eliminar el beneficio junto con el riesgo.
  • Active un registro de auditoría que muestre qué hizo el sistema, cuándo y con qué entrada, porque la primera pregunta después de cualquier error será "¿por qué hizo eso?".
  • Decida de antemano quién detiene el sistema y a quién se notifica, y pruébelo al menos una vez antes de necesitarlo.

Esta dirección coincide con el rumbo que ya sigue el Reino. Los Principios de Ética de la IA y la Ley de Protección de Datos Personales (PDPL) emitidos por la Autoridad Saudí de Datos e Inteligencia Artificial (SDAIA) piden lo mismo con otras palabras: supervisión humana clara, explicabilidad y una rendición de cuentas definida para las decisiones automatizadas. Lo que haga hoy para prepararse no será en vano.

Y lo que no cambia

Estos compromisos no deben interpretarse como más grandes de lo que son. Son totalmente voluntarios, sin un mecanismo de verificación vinculante y sin un calendario anunciado. La competencia de los modelos de pesos abiertos procedentes de China no está sujeta a nada de esto y seguirá empujando los precios a la baja y las capacidades al alza. Y el ensayo de Amodei es una propuesta, no una regulación. El mensaje práctico no es que la IA dejará de mejorar, sino que la capa que separa un modelo potente de su empresa, es decir, la gobernanza, las pruebas y la supervisión, ha pasado oficialmente de ser un lujo a formar parte del producto.

En Origami construimos sistemas de IA para empresas exactamente con esta lógica desde el primer día: puertas de aprobación en las acciones irreversibles, un registro de auditoría completo y un traspaso limpio a una persona cuando la conversación sale del ámbito del sistema. No porque un regulador lo haya pedido, sino porque es la diferencia entre una herramienta en la que confía frente a su cliente y otra que vigila con nerviosismo.

Fuentes

  • Texto completo de "We Must Pace the Frontier" de Dario Amodei, 12 de septiembre de 2026: darioamodei.com
  • Cobertura de TechCrunch sobre el plan, el compromiso de Anthropic y la respuesta de Sam Altman: techcrunch.com
  • Cobertura de CNBC sobre el borrador del código de conducta de IA de Microsoft: cnbc.com
  • Autoridad Saudí de Datos e Inteligencia Artificial (SDAIA): Principios de Ética de la IA y Ley de Protección de Datos Personales: sdaia.gov.sa