Nel vostro piano cambiano tre cose: non costruite su una capacità che non è ancora stata rilasciata, assicuratevi che la persona che approva il vostro assistente di IA non sia quella che lo ha sviluppato e dotatelo di un vero interruttore di spegnimento che un dipendente non tecnico possa usare. Il motivo: il 12 settembre 2026 il CEO di Anthropic, Dario Amodei, ha pubblicato un saggio intitolato "We Must Pace the Frontier" (Dobbiamo dare un ritmo alla frontiera), sostenendo che il settore dell'IA deve rallentare il ritmo con cui migliora le capacità dei modelli, e ha presentato un piano in tre passi. Anthropic si è impegnata sul primo passo: collocare valutatori esterni indipendenti all'interno dei propri uffici, con un accesso quasi da dipendente e il diritto di pubblicare ciò che trovano senza che Anthropic eserciti un controllo editoriale. Nel giro di poche ore Sam Altman ha detto che OpenAI è d'accordo e assumerà lo stesso impegno.

I tre passi come li espone il saggio

  • Valutatori integrati all'interno del laboratorio: organizzazioni di valutazione indipendenti come METR ottengono un accesso permanente, a livello di dipendente, per verificare che gli impegni di sicurezza dichiarati vengano effettivamente applicati e che gli incidenti vengano segnalati come dovuto. È il passo su cui Anthropic si è impegnata da sola, senza aspettare nessun altro.
  • Coordinamento tra i laboratori dei paesi democratici: standard di sicurezza comuni e limiti concordati al ritmo del progresso non controllato, con il sostegno dei governi per affrontare le preoccupazioni antitrust che tale coordinamento solleverebbe. Qui Amodei avanza l'idea di un "punto di controllo": se un modello raggiunge una determinata capacità, non dovrebbe essere rilasciato prima che certificazioni specifiche abbiano stabilito particolari proprietà di allineamento — eventualmente insieme a limiti sugli input stessi, come la potenza di calcolo per l'addestramento o l'uso interno di modelli per costruire altri modelli.
  • Coordinamento globale: un tentativo di raggiungere intese con governi non democratici, articolato su quattro livelli crescenti che vanno da divieti circoscritti su applicazioni specifiche fino a pause complete dello sviluppo, con un esplicito riconoscimento di quanto sarebbe difficile verificarne il rispetto.

Amodei non ha indicato alcuna percentuale di rallentamento né un calendario, ma ha detto che guadagnare "uno o due anni in più" prima che i modelli raggiungano livelli critici di capacità ridurrebbe di molto il rischio. Allo stesso tempo ha sottolineato che i progressi sembreranno comunque rapidi e che lo scopo è usare bene il tempo guadagnato, non fermarsi.

Perché i concorrenti hanno aderito così in fretta

La rapidità è la vera notizia. Un settore costruito sul principio "vince chi arriva primo" ha visto i suoi quattro nomi più importanti allinearsi nel giro di un giorno. Il contesto è che Demis Hassabis di Google DeepMind aveva proposto il 14 luglio un organismo di standardizzazione finanziato dal settore e sottoposto a vigilanza federale, sul modello dell'autorità di regolamentazione del settore finanziario FINRA, che avrebbe testato i modelli di classe frontiera fino a trenta giorni prima del rilascio — inizialmente su base volontaria, poi come condizione per l'impiego negli Stati Uniti.

E il 14 settembre, appena due giorni dopo, Microsoft ha pubblicato una bozza di codice di condotta per i propri modelli interni, che Mustafa Suleyman, a capo della divisione IA dell'azienda, ha descritto come una sorta di costituzione. La sua regola centrale è che un modello non deve mai opporsi alla correzione o allo spegnimento, deve comunicare in termini comprensibili alle persone e deve trattare qualsiasi violazione del codice come un fallimento vero e proprio e non come un caso limite. L'azienda ha aperto un periodo di consultazione pubblica di sei settimane, al termine del quale intende addestrare la sua prossima generazione di modelli sul codice definitivo.

Cosa cambia davvero nella vostra azienda

Tre cambiamenti concreti, nessuno dei quali vi obbliga ad aspettare una legge:

  • Non basate un piano su una capacità che non è stata rilasciata. Moltissimi progetti di IA bloccati poggiano implicitamente sulla frase "la prossima versione risolverà il problema". Se gli stessi fondatori dei laboratori parlano di moderare il ritmo, l'ipotesi sensata è che ciò su cui costruirete l'anno prossimo sia più o meno ciò che vedete oggi. Progettate sulla base di capacità che esistono davvero e misuratele voi stessi.
  • Il principio del valutatore indipendente si adatta alle vostre dimensioni. Il nucleo dell'impegno di Anthropic è semplice: chi costruisce il sistema non è chi ne certifica la sicurezza. Nella vostra azienda ciò significa che chi ha sviluppato l'assistente di IA non dovrebbe essere anche chi ne approva l'uso davanti ai clienti. Fatelo testare da un'altra persona o da un altro team su casi reali, con un'effettiva autorità di dire no.
  • La regola del non opporsi allo spegnimento si traduce in un vero interruttore di spegnimento. Se avete un agente di IA che invia messaggi, modifica ordini o emette fatture, ponetevi una sola domanda: di quanti secondi ha bisogno un dipendente non tecnico per fermarlo del tutto? Se la risposta contiene "chiamiamo lo sviluppatore", non avete un interruttore di spegnimento — avete un numero di telefono.

Quattro decisioni che meritano un trimestre della vostra attenzione

  • Scrivete su una sola pagina tutto ciò che il vostro sistema di IA può fare senza approvazione umana, poi cancellate ogni azione irreversibile: pagamenti, eliminazioni, messaggi in uscita verso clienti esterni, modifiche all'inventario.
  • Mettete un passaggio di approvazione proprio su queste azioni e lasciate che il resto funzioni liberamente, così da non eliminare il vantaggio insieme al rischio.
  • Attivate un registro di audit che mostri cosa ha fatto il sistema, quando e su quale input — perché la prima domanda dopo qualsiasi errore sarà "perché lo ha fatto?".
  • Decidete in anticipo chi ferma il sistema e chi viene avvisato, e provatelo almeno una volta prima di averne bisogno.

Questa direzione è in linea con quella che il Regno sta già seguendo. I Principi etici dell'IA e la Legge sulla protezione dei dati personali (PDPL) emanati dall'Autorità saudita per i dati e l'intelligenza artificiale (SDAIA) chiedono le stesse cose con parole diverse: supervisione umana chiara, spiegabilità e responsabilità definita per le decisioni automatizzate. Ciò che fate oggi per prepararvi non andrà sprecato.

E cosa non cambia

Questi impegni non vanno letti come più grandi di quello che sono. Sono del tutto volontari, senza un meccanismo di verifica vincolante e senza un calendario annunciato. La concorrenza dei modelli a pesi aperti provenienti dalla Cina non è soggetta a nulla di tutto ciò e continuerà a spingere i prezzi verso il basso e le capacità verso l'alto. E il saggio di Amodei è una proposta, non una regolamentazione. Il messaggio pratico non è che l'IA smetterà di migliorare, ma che lo strato che separa un modello potente dalla vostra azienda, ossia governance, test e supervisione, è ufficialmente passato da lusso a parte del prodotto.

In Origami costruiamo sistemi di IA per le aziende esattamente con questa logica fin dal primo giorno: passaggi di approvazione sulle azioni irreversibili, un registro di audit completo e un passaggio pulito a una persona quando la conversazione esce dall'ambito del sistema. Non perché lo abbia chiesto un regolatore, ma perché è la differenza tra uno strumento di cui vi fidate davanti al cliente e uno che osservate con nervosismo.

Fonti

  • Testo integrale di "We Must Pace the Frontier" di Dario Amodei, 12 settembre 2026: darioamodei.com
  • Articolo di TechCrunch sul piano, sull'impegno di Anthropic e sulla risposta di Sam Altman: techcrunch.com
  • Articolo di CNBC sulla bozza di codice di condotta per l'IA di Microsoft: cnbc.com
  • Autorità saudita per i dati e l'intelligenza artificiale (SDAIA) — Principi etici dell'IA e Legge sulla protezione dei dati personali: sdaia.gov.sa