Come proteggere la tua azienda dai rischi dell'IA: consigli pratici alla luce degli ultimi avvertimenti

Proteggi la tua azienda dai rischi dell'IA con sette passi: conosci ogni strumento e ogni agente di IA che vi funziona, dai a ogni agente un proprio account con il minor accesso possibile, richiedi l'approvazione umana prima di qualsiasi pagamento, cancellazione o messaggio ai clienti, tieni i dati dei clienti fuori dagli strumenti non approvati, aggiorna in pochi giorni i sistemi esposti a internet, verifica le richieste di denaro tramite un secondo canale e controlla cosa copre la tua assicurazione. Questi passi nascono dagli avvertimenti di ottobre 2026: Microsoft ha chiesto alle aziende di trattare gli agenti come insider che possono sbagliare o essere manipolati; le due falle PHP2Shell, una delle quali trovata con un modello di IA, sono entrate nell'elenco delle vulnerabilità sfruttate attivamente 5 giorni dopo la loro divulgazione; e il prospetto di quotazione di Anthropic ha avvertito che i suoi modelli possono comportarsi in modi che nessun utente né sviluppatore intendeva.

Quali sono gli ultimi avvertimenti e perché riguardano la tua azienda?

In meno di un mese sono arrivati avvertimenti dalle stesse aziende che costruiscono i modelli di IA e da agenzie governative di sicurezza informatica. Ecco i principali, nell'ordine in cui sono usciti:

Ciò che questi avvertimenti hanno in comune è che l'IA aumenta il rischio da due direzioni: dall'esterno, perché gli attaccanti ora trovano e sfruttano le falle più in fretta, e dall'interno, quando uno strumento o un agente riceve più accesso di quanto gli serva. OpenAI, che ha guidato la coalizione di risposta alle falle di PHP, le definisce uno dei problemi di sicurezza di maggiore impatto degli ultimi tempi e afferma che «le stesse capacità possono anche aiutare gli attaccanti a sviluppare rapidamente strumenti offensivi ed exploit». Si aspetta che scoperte simili «aumentino nettamente nei prossimi mesi». Il prospetto di quotazione di Anthropic aggiunge che «attori malintenzionati hanno già condotto attacchi informatici di alto profilo usando le capacità dell'IA per scoprire vulnerabilità, generare malware ed eludere gli strumenti di rilevamento».

Come proteggere la tua azienda? 7 consigli pratici

1. Conosci ogni strumento e ogni agente di IA che funziona nella tua azienda. Microsoft lo dice chiaramente: «Non puoi proteggere ciò che non vedi». Ha esteso i suoi strumenti per rilevare 60 tipi di agenti che girano sui computer dei dipendenti, tra cui Claude Code, OpenAI Codex e GitHub Copilot, perché alcuni arrivano sui dispositivi senza alcuna distribuzione centrale. Comincia da un unico foglio che elenchi ogni strumento, chi lo usa, a quali dati arriva, se l'account è personale o aziendale e chi ne è responsabile. Quello stesso foglio è il punto di partenza del quadro nazionale della SDAIA per la gestione dei rischi dell'IA.
2. Dai a ogni agente un proprio account e il minor accesso possibile. L'esempio di Microsoft è un agente che esamina le note spese: deve leggere le richieste e la policy aziendale, ma non deve ereditare tutti i permessi del dipendente che lo ha configurato. Microsoft raccomanda che un agente parta senza alcuna autorità, riceva solo ciò che serve al compito e solo per la sua durata, e che le azioni di maggiore impatto richiedano un'approvazione umana verificata. In pratica: non collegare un agente all'account del direttore, non dargli la password della banca aziendale, separa l'accesso in lettura da quello in scrittura, elimina dal codice e dalle impostazioni le chiavi dimenticate che gli aprono più del necessario, e tieni un modo per fermarlo subito. Satya Nadella, amministratore delegato di Microsoft, lo riassume così: «Il sistema agentico più affidabile non sarà quello con il modello di cui ci fidiamo di più. Sarà quello progettato per permetterci di fidarci il meno possibile del modello».
3. Non lasciare che un agente agisca senza verifica su ciò che ha letto in un'email, un file o una pagina web. Il prospetto di quotazione di Anthropic definisce la prompt injection come un attacco in cui istruzioni malevole vengono inserite in contenuti che un modello deve elaborare, come siti web, documenti o risultati di strumenti, per manipolarne il comportamento, di solito all'insaputa dell'utente. Un agente che legge le email dei clienti e può trasferire, cancellare o inviare potrebbe eseguire un ordine che un attaccante ha scritto dentro un messaggio. Microsoft descrive lo stesso scenario: l'agente delle note spese può imbattersi in una prompt injection in un documento esterno, e il suo comportamento cambia anche se la sua configurazione non è cambiata. Fai passare ogni operazione che porta denaro o dati fuori dall'azienda per l'approvazione di un dipendente, soprattutto dopo che l'agente ha letto contenuti esterni. Abbiamo visto lo stesso rischio con gli agenti di programmazione che eseguono il comando di un attaccante appena si apre il progetto.
4. Tieni i dati dei clienti fuori dagli strumenti non approvati. Secondo il Centro assistenza di OpenAI, OpenAI per impostazione predefinita non usa gli input né gli output di ChatGPT Business, ChatGPT Enterprise o della sua API per migliorare i propri modelli, mentre i contenuti dei piani individuali Free, Plus e Pro possono essere usati per l'addestramento, a meno che l'utente non lo disattivi nelle impostazioni. Anthropic afferma di non addestrare per impostazione predefinita i modelli sugli input dei suoi prodotti commerciali, come Claude for Work e la sua API. Adotta quindi account aziendali e scrivi chiaramente ai tuoi dipendenti cosa non entra mai in nessuno strumento: i dati personali dei clienti, i contratti e le password. Se inserisci dati personali dei clienti in uno strumento di IA, il fornitore li tratta per tuo conto, e l'articolo 17 del regolamento di attuazione della legge saudita sulla protezione dei dati personali (PDPL) ti obbliga a scegliere un responsabile del trattamento che offra garanzie sufficienti, con un accordo che fissi la finalità e la durata del trattamento e il suo obbligo di avvisarti di qualsiasi fuga di dati. Se una fuga può danneggiare le persone interessate, l'articolo 24 ti obbliga a informare l'autorità competente entro 72 ore da quando ne vieni a conoscenza.
5. Aggiorna i sistemi esposti a internet in giorni, non in settimane. Fortinet afferma che gli strumenti di IA ormai aiutano gli attaccanti a fare il reverse engineering delle patch e a costruire exploit funzionanti «in ore o giorni, invece che in settimane», e che «la finestra tra la divulgazione e lo sfruttamento continua a restringersi». Anthropic afferma che oggi gli exploit possono essere sviluppati in pochi minuti. Per questo, per le falle PHP2Shell, la CISA ha chiesto passi chiari: censire ogni sistema che esegue PHP, applicare subito la patch partendo dai sistemi esposti a internet e scollegare ciò che non si può aggiornare finché non viene aggiornato, ricordando che un web application firewall (WAF) può offrire una certa protezione nel frattempo. L'Autorità nazionale saudita per la sicurezza informatica (NCA) ha pubblicato un avviso che raccomanda di aggiornare i prodotti interessati. Applica la stessa regola a ogni sistema esposto: il sito web, il firewall, la VPN e la posta elettronica. I dettagli sono nei nostri articoli su la falla PHP2Shell, la nuova vulnerabilità di Linux e i firewall FortiGate.
6. Verifica qualsiasi richiesta di denaro o di dati tramite un secondo canale. Nella loro campagna di sensibilizzazione sui deepfake, la SDAIA e la Commissione per le comunicazioni, lo spazio e la tecnologia (CST) spiegano che «vedere qualcuno in un video o sentirne la voce non prova che l'abbia detto», e citano tra i rischi le perdite economiche e le truffe, l'aggiramento dei sistemi di verifica e il furto d'identità. Quindi non trasferire mai denaro e non inviare dati sulla base di una telefonata, di un messaggio vocale o di un video, anche se la voce sembra quella del direttore. Richiama la persona al numero che già hai e richiedi due firme per ogni bonifico oltre una soglia che stabilisci tu. Abbiamo spiegato i livelli di protezione nel nostro articolo sui deepfake e sulle frodi con l'IA, e come chiudere ogni strada che sposta il denaro della tua azienda senza la tua firma nella lezione dell'attacco a Binance.
7. Verifica cosa copre la tua assicurazione e cosa dicono i contratti dei tuoi fornitori. Il prospetto di quotazione di Anthropic afferma: «Poiché i nostri modelli possono comportarsi in modi che nessun utente né sviluppatore intendeva, le richieste di risarcimento derivanti da tali azioni potrebbero comportare una responsabilità rilevante». Aggiunge che le sue polizze assicurative potrebbero non offrire una copertura sufficiente e che «il mercato assicurativo per i rischi specifici dell'IA è agli inizi e in evoluzione». Se questa è la situazione dell'azienda che costruisce il modello, chiedi per iscritto al tuo assicuratore: la polizza copre una fuga di dati causata da un agente di IA, o un bonifico fraudolento ottenuto con una voce clonata? E chiedi a ogni fornitore di strumenti dove sono conservati i tuoi dati, per quanto tempo vengono tenuti e quando ti avviserà di un incidente.

Cosa dicono le autorità saudite?

Tre riferimenti contano per qualsiasi azienda saudita che usa l'IA:

• La SDAIA ha lanciato il quadro nazionale per la gestione dei rischi dell'IA come riferimento orientativo per gli enti pubblici e privati; abbiamo spiegato le sue quattro fasi e come la tua azienda può applicarle.
• L'Autorità nazionale per la sicurezza informatica (NCA) ha messo in consultazione pubblica la sua bozza di linee guida sulla sicurezza informatica dell'IA, con il 5 agosto 2026 come scadenza per i commenti. La bozza poggia su 4 ambiti: governance della sicurezza informatica, difesa, resilienza e sicurezza informatica legata a terze parti, e copre l'IA generativa e l'IA agentica.
• La legge sulla protezione dei dati personali (PDPL) vincola ogni azienda che tratta dati personali, compresi gli articoli 17 e 24 del suo regolamento di attuazione citati sopra. Trovi altri dettagli nella nostra guida pratica alla legge.

Qual è il piano per i primi 30 giorni?

Il punto di vista di Origami

Non vediamo in questi avvertimenti un motivo per spegnere l'IA nella tua azienda, ma un motivo per usarla entro limiti chiari. La stessa Microsoft dice che l'obiettivo non è un modello con ogni azione prevedibile, ma «sistemi che restano sicuri anche quando il modello non lo è». In Origami integriamo funzioni e agenti di IA nei sistemi delle aziende con permessi limitati, passaggi di approvazione e registri chiari, rivediamo il codice creato con strumenti di IA e ne chiudiamo le falle, e aggiorniamo i server e le applicazioni esposti a internet. Contattaci per esaminare insieme i tuoi strumenti e i tuoi agenti.

In sintesi

• Gli avvertimenti di ottobre 2026 dicono che l'IA accelera la scoperta e lo sfruttamento delle falle, che gli agenti possono sbagliare o essere manipolati e che i modelli possono comportarsi in modi che nessuno voleva.
• Conosci i tuoi strumenti e i tuoi agenti, dai a ogni agente il minor accesso e richiedi l'approvazione umana prima dei passaggi finanziari e sensibili.
• Usa account aziendali che per impostazione predefinita non addestrano i modelli sui tuoi dati, e tieni i dati dei clienti fuori dagli strumenti non approvati.
• Aggiorna i sistemi esposti in pochi giorni, verifica le richieste di denaro tramite un secondo canale e controlla la tua assicurazione e i contratti dei fornitori.

Fonti

• Microsoft: gli agenti sono i tuoi nuovi insider, 19 ottobre 2026
• OpenAI: Patch the Planet, il coordinamento della risposta alle falle critiche di PHP
• CISA: le vulnerabilità critiche di PHP richiedono patch immediate
• Autorità nazionale saudita per la sicurezza informatica (NCA): avviso su PHP
• Fortinet: release di rafforzamento della sicurezza per più prodotti
• Anthropic: un servizio facoltativo di ricerca delle vulnerabilità per il software open source, 8 ottobre 2026
• Anthropic: scoprire e sfruttare vulnerabilità con Claude, 27 ottobre 2026
• Anthropic: modulo di registrazione S-1 presso la SEC statunitense
• SPA: la SDAIA lancia il quadro nazionale per la gestione dei rischi dell'IA
• Autorità nazionale saudita per la sicurezza informatica (NCA): consultazione sulle linee guida di sicurezza informatica per l'IA
• SDAIA e CST: deepfake e video falsi
• SDAIA: regolamento di attuazione della legge sulla protezione dei dati personali
• OpenAI: come vengono usati i tuoi dati per migliorare le prestazioni dei modelli
• Anthropic: i miei dati vengono usati per addestrare i modelli?