Il 1 ottobre 2026 Cloudflare ha annunciato Clef e Clef-flash, due "modelli decisionali" open source rilasciati con licenza Apache 2.0. Il modello non scrive una risposta libera. Legge l'input, sceglie da un elenco di risposte che definite in anticipo e restituisce una probabilità per ogni opzione. Il più leggero, Clef-flash, si basa su un modello Qwen 3.5 da 9 miliardi di parametri e ha un tempo di risposta mediano di 38,8 millisecondi. Il più preciso, Clef, si basa su un modello Qwen 3.8 da 27 miliardi di parametri, con una mediana di 209,3 millisecondi. Entrambi sono disponibili su Workers AI e i loro pesi sono pubblicati su Hugging Face per l'hosting in proprio.

Gran parte dell'IA nel servizio clienti è in realtà classificazione: reclamo o ordine? Urgente o no? Molti team usano per questo un modello di chat generico e ottengono risposte più lente, che possono cambiare da un'esecuzione all'altra.

Che cos'è davvero un modello decisionale

Cloudflare descrive un modello decisionale come un modello che produce output strutturati e delimitati "in modo economico, rapido e coerente". Lo contrappone ai grandi modelli linguistici, che descrive come in gran parte non deterministici.

Secondo la scheda del modello su Hugging Face, si invia uno "stato" che descrive la situazione, come testo o JSON, più immagini o video se necessario, poi un elenco di domande, ciascuna con le opzioni consentite. Il modello restituisce una probabilità per ogni opzione e non genera testo libero. Cloudflare afferma che il vostro codice usa queste probabilità per smistare il ticket, avviare un'escalation o passare la decisione a una persona.

I numeri così come li ha pubblicati Cloudflare

  • Capacità: una finestra di contesto da 64k token secondo l'annuncio (la scheda del modello fissa un limite di input predefinito di 16.384 token, modificabile), ed entrambe le versioni possono leggere e classificare immagini.
  • Latenza mediana: 38,8 millisecondi per Clef-flash e 209,3 millisecondi per Clef, contro 524,1 millisecondi per Jev, un modello concorrente di Typesafe AI.
  • Test interno: nel team di threat intelligence di Cloudflare, recuperare, renderizzare e classificare un sito web ha richiesto 2,2 secondi con Clef, contro 4,7 secondi con gpt-oss-120b, il suo LLM generico più veloce, che ha restituito solo due classificazioni.
  • Richieste più lente: il 95% delle richieste si completa entro 122,4 millisecondi con Clef-flash ed entro 238,6 millisecondi con Clef.

Su CLINC150, un test di classificazione delle intenzioni che verifica anche le richieste fuori ambito, Clef ha ottenuto 97,43 di macro-F1 contro 66,77 di Clef-flash. Su BANKING77, che riguarda le richieste dei clienti bancari, i due sono stati vicini: 94,20 contro 90,93, e su API-Bank Clef-flash è risultato in vantaggio con 93,11 di accuratezza contro 91,93. Per questo Cloudflare definisce Clef il suo modello di precisione e Clef-flash la scelta migliore per le decisioni in cui la latenza è critica. Il divario maggiore emerge quando bisogna individuare le richieste fuori ambito.

Dove questo aiuta le aziende saudite

Tra i casi d'uso citati da Cloudflare ci sono lo smistamento dei ticket di assistenza per urgenza e team, la classificazione dei domini web per il suo team di threat intelligence e la distinzione tra bot buoni e cattivi, mentre l'elaborazione delle fatture e gli incidenti di sicurezza compaiono tra i suoi test. In un'azienda saudita, ecco come appare:

  • Smistamento su WhatsApp: ogni messaggio viene classificato all'istante come ordine, reclamo, richiesta di prezzo o spam, poi inviato al dipendente giusto.
  • Ticket di assistenza: stabilire l'urgenza e il reparto responsabile prima che qualsiasi dipendente apra il ticket.
  • Documenti nell'ERP: identificare il tipo di documento in arrivo, che sia una fattura del fornitore, un ordine d'acquisto o una nota di credito, e instradarlo sul percorso giusto.
  • Protezione di moduli e negozi: individuare registrazioni e ordini automatizzati nei moduli di contatto e nei negozi di e-commerce.

Eseguirlo sui vostri server mantiene i dati nel Regno

La caratteristica più importante per il mercato saudita non è la velocità. È il fatto che i pesi sono pubblicati e possono essere eseguiti all'interno del Regno. I messaggi dei clienti e le fatture dei fornitori contengono dati personali e commerciali, e la Legge sulla protezione dei dati personali (PDPL) pone controlli sul trasferimento dei dati personali fuori dal Regno. Un modello eseguito in un data center locale evita la questione del trasferimento transfrontaliero per le attività di classificazione, mentre gli altri obblighi della legge restano validi. La scheda del modello indica che è stato testato su una singola GPU H200, quindi pianificate per tempo il vostro hardware.

Limiti da conoscere prima di iniziare

  • L'arabo non è menzionato: né l'annuncio né le schede dei modelli elencano le lingue supportate. Provatelo su messaggi reali in arabo nel dialetto saudita.
  • Nessun prezzo nell'annuncio: Cloudflare non ha pubblicato nel suo post sul blog il costo d'uso dei due modelli su Workers AI, quindi consultate la pagina dei prezzi prima di stimare i costi.
  • La personalizzazione non è ancora self-service: adattare il modello ai vostri dati con l'apprendimento per rinforzo passa al momento da un team di ingegneri di Cloudflare, mentre una piattaforma self-service arriverà in seguito.

Come costruire con esso, passo dopo passo

  • Fate l'inventario delle vostre decisioni: trovate ogni domanda nei vostri sistemi che abbia risposte limitate.
  • Raccogliete un campione reale: messaggi e ticket passati che il vostro personale ha classificato a mano.
  • Confrontate tre opzioni: Clef-flash, Clef e la vostra soluzione attuale, per accuratezza e tempo di risposta.
  • Fissate una soglia di confidenza: se la probabilità dell'opzione principale è alta, il sistema agisce in automatico; se è bassa, il caso passa a un dipendente.
  • Dividete il lavoro: il modello decisionale sceglie il percorso, e il grande modello linguistico scrive la risposta solo quando serve.

In Origami applichiamo questo schema quando costruiamo sistemi di servizio clienti e di automazione dei processi: un modello piccolo decide, un modello grande scrive e un dipendente esamina i casi poco chiari. I modelli Clef semplificano la prima parte, che può restare all'interno del Regno.

Fonti