Am 1. Oktober 2026 kündigte Cloudflare Clef und Clef-flash an, zwei quelloffene „Entscheidungsmodelle“, veröffentlicht unter der Lizenz Apache 2.0. Das Modell schreibt keine freie Antwort. Es liest die Eingabe, wählt aus einer Liste von Antworten, die Sie vorab festlegen, und gibt für jede Option eine Wahrscheinlichkeit zurück. Das leichtere Clef-flash basiert auf einem Qwen-3.5-Modell mit 9 Milliarden Parametern und hat eine mediane Antwortzeit von 38,8 Millisekunden. Das präzisere Clef basiert auf einem Qwen-3.8-Modell mit 27 Milliarden Parametern, mit einem Median von 209,3 Millisekunden. Beide sind auf Workers AI verfügbar, und ihre Gewichte sind auf Hugging Face zum Selbsthosten veröffentlicht.

Ein Großteil der KI im Kundenservice ist eigentlich Klassifizierung: Beschwerde oder Bestellung? Dringend oder nicht? Viele Teams nutzen dafür ein allgemeines Chatmodell und erhalten langsamere Antworten, die sich von Durchlauf zu Durchlauf ändern können.

Was ein Entscheidungsmodell eigentlich ist

Cloudflare beschreibt ein Entscheidungsmodell als eines, das begrenzte, strukturierte Ausgaben „günstig, schnell und konsistent“ liefert. Es stellt dies großen Sprachmodellen gegenüber, die es als weitgehend nicht deterministisch beschreibt.

Laut der Modellkarte auf Hugging Face senden Sie einen „Zustand“, der die Situation beschreibt, als Text oder JSON, bei Bedarf zusätzlich Bilder oder Video, und dann eine Liste von Fragen, jede mit zulässigen Optionen. Das Modell gibt für jede Option eine Wahrscheinlichkeit zurück und erzeugt keinen freien Text. Laut Cloudflare nutzt Ihr Code diese Wahrscheinlichkeiten, um das Ticket weiterzuleiten, eine Eskalation auszulösen oder an einen Menschen zu übergeben.

Die Zahlen, wie Cloudflare sie veröffentlicht hat

  • Fähigkeiten: ein Kontextfenster von 64k Token laut Ankündigung (die Modellkarte legt ein Standard-Eingabelimit von 16.384 Token fest, das geändert werden kann), und beide Versionen können Bilder lesen und klassifizieren.
  • Mediane Latenz: 38,8 Millisekunden für Clef-flash und 209,3 Millisekunden für Clef, gegenüber 524,1 Millisekunden für Jev, ein Konkurrenzmodell von Typesafe AI.
  • Interner Test: Beim Threat-Intelligence-Team von Cloudflare dauerte das Abrufen, Rendern und Klassifizieren einer Website mit Clef 2,2 Sekunden, gegenüber 4,7 Sekunden mit gpt-oss-120b, dem schnellsten allgemeinen LLM des Teams, das nur zwei Klassifizierungen lieferte.
  • Langsamste Anfragen: 95 % der Anfragen sind mit Clef-flash innerhalb von 122,4 Millisekunden und mit Clef innerhalb von 238,6 Millisekunden abgeschlossen.

Bei CLINC150, einem Test zur Absichtserkennung, der auch Anfragen außerhalb des Anwendungsbereichs prüft, erreichte Clef einen Macro-F1 von 97,43 gegenüber 66,77 für Clef-flash. Bei BANKING77, das Anfragen von Bankkunden abdeckt, lagen beide nah beieinander: 94,20 gegenüber 90,93, und bei API-Bank lag Clef-flash mit einer Genauigkeit von 93,11 gegenüber 91,93 vorn. Deshalb nennt Cloudflare Clef sein Präzisionsmodell und Clef-flash die bessere Wahl für latenzkritische Entscheidungen. Der größte Abstand zeigt sich, wenn Anfragen außerhalb des Anwendungsbereichs erkannt werden müssen.

Wo das saudischen Unternehmen hilft

Zu den von Cloudflare genannten Anwendungsfällen gehören das Weiterleiten von Support-Tickets nach Dringlichkeit und Team, das Klassifizieren von Website-Domains für das Threat-Intelligence-Team und das Unterscheiden guter von schlechten Bots, während Rechnungsverarbeitung und Sicherheitsvorfälle unter den Tests auftauchen. In einem saudischen Unternehmen sieht das so aus:

  • WhatsApp-Triage: Jede Nachricht wird sofort als Bestellung, Beschwerde, Preisanfrage oder Spam klassifiziert und dann an den richtigen Mitarbeiter geschickt.
  • Support-Tickets: Dringlichkeit und zuständige Abteilung festlegen, bevor ein Mitarbeiter das Ticket öffnet.
  • Dokumente im ERP: die Art des eingehenden Dokuments erkennen, ob Lieferantenrechnung, Bestellung oder Gutschrift, und es auf den richtigen Weg schicken.
  • Schutz von Formularen und Shops: automatisierte Anmeldungen und Bestellungen in Kontaktformularen und Onlineshops erkennen.

Der Betrieb auf eigenen Servern hält die Daten im Königreich

Die wichtigste Eigenschaft für den saudischen Markt ist nicht die Geschwindigkeit. Es ist die Tatsache, dass die Gewichte veröffentlicht sind und innerhalb des Königreichs betrieben werden können. Kundennachrichten und Lieferantenrechnungen enthalten personenbezogene und geschäftliche Daten, und das Gesetz zum Schutz personenbezogener Daten (PDPL) unterwirft die Übermittlung personenbezogener Daten ins Ausland Kontrollen. Ein Modell, das in einem lokalen Rechenzentrum läuft, umgeht bei Klassifizierungsaufgaben die Frage der grenzüberschreitenden Übermittlung, während die übrigen Pflichten des Gesetzes weiterhin gelten. Laut Modellkarte wurde es auf einer einzelnen H200-GPU getestet, planen Sie Ihre Hardware also frühzeitig.

Grenzen, die Sie vor dem Start kennen sollten

  • Arabisch wird nicht erwähnt: Weder die Ankündigung noch die Modellkarten nennen unterstützte Sprachen. Testen Sie es mit echten arabischen Nachrichten im saudischen Dialekt.
  • Kein Preis in der Ankündigung: Cloudflare hat in seinem Blogbeitrag die Kosten für die Nutzung der beiden Modelle auf Workers AI nicht veröffentlicht. Prüfen Sie daher die Preisseite, bevor Sie Kosten schätzen.
  • Anpassung noch nicht in Eigenregie: Das Feintuning des Modells auf Ihre Daten mit Reinforcement Learning läuft derzeit über ein Team von Cloudflare-Ingenieuren; eine Self-Service-Plattform soll später folgen.

So bauen Sie damit, Schritt für Schritt

  • Erfassen Sie Ihre Entscheidungen: Finden Sie jede Frage in Ihren Systemen, die begrenzte Antworten hat.
  • Sammeln Sie eine echte Stichprobe: frühere Nachrichten und Tickets, die Ihre Mitarbeiter von Hand klassifiziert haben.
  • Vergleichen Sie drei Optionen: Clef-flash, Clef und Ihre aktuelle Lösung, nach Genauigkeit und Antwortzeit.
  • Legen Sie eine Konfidenzschwelle fest: Ist die Wahrscheinlichkeit der besten Option hoch, handelt das System automatisch; ist sie niedrig, geht der Fall an einen Mitarbeiter.
  • Teilen Sie die Arbeit auf: Das Entscheidungsmodell wählt den Weg, und das große Sprachmodell schreibt die Antwort nur, wenn nötig.

Bei Origami wenden wir dieses Muster beim Aufbau von Kundenservice- und Prozessautomatisierungssystemen an: Ein kleines Modell entscheidet, ein großes Modell schreibt, und ein Mitarbeiter prüft unklare Fälle. Die Clef-Modelle erleichtern den ersten Teil, und er kann im Königreich bleiben.

Quellen