Was kostet es, KI auf eigener Hardware zu betreiben?

Unternehmer fragen uns immer wieder dasselbe: Unsere Daten sind sensibel und die Nutzungsrechnung wächst jeden Monat, können wir das Modell also selbst betreiben, statt von einem externen Dienst abhängig zu sein?

Eine ehrliche Antwort beginnt mit einer Korrektur: Die Gewichte von Claude und GPT werden nicht veröffentlicht, daher betreibt sie niemand zu Hause, egal mit welcher Hardware. Was Sie tatsächlich betreiben können, sind Open-Weight-Modelle, die heute 200 Milliarden Parameter und mehr erreichen und bei vielen praktischen Aufgaben nahe an das herankommen, was die kostenpflichtigen Dienste liefern: Dokumente zusammenfassen, Fragen zu Ihren eigenen Daten beantworten, Code schreiben, übersetzen. Der Abstand schrumpft alle paar Monate.

Die eigentliche Frage ist also nicht, ob es möglich ist, sondern wie viele Parameter Ihr Rechner fasst. Das führt zu der einen Regel, die alles entscheidet.

Die entscheidende Regel: Speicher vor Geschwindigkeit

Ein Modell muss vollständig in den Speicher passen, um zu laufen. Die Rechnung ist einfacher, als sie aussieht:

• Bei voller Präzision: zwei Byte pro Parameter.
• Bei 8-Bit-Quantisierung: ein Byte pro Parameter.
• Bei 4-Bit-Quantisierung: ein halbes Byte pro Parameter – die praktische Wahl für die meisten Anwendungen.

Rechnen Sie dann ungefähr 20 bis 30 % für Kontext und Laufzeit-Overhead hinzu. Das Ergebnis ist diese Schätztabelle, an der Sie jeden Rechner messen können:

Die Werte enthalten Laufzeit-Reserven und sind Schätzungen; sie verschieben sich leicht je nach Quantisierungsmethode und Kontextlänge.

Allein diese Tabelle erspart die meisten Vergleiche: Schauen Sie zuerst auf die Speicherkapazität, denn sie entscheidet, was Sie betreiben können. Bandbreite und Prozessortyp entscheiden, wie schnell.

Die heute verfügbaren Optionen

Apple – der neue Mac Studio

Am 25. August 2026 kündigte Apple eine neue Mac-Studio-Generation an, die ab dem 22. September ausgeliefert wird; die Konfiguration mit 512GB folgt Ende Oktober. Bei der Kapazität ist sie derzeit die breiteste Option:

• M5 Max: eine CPU mit 18 Kernen, eine GPU mit bis zu 40 Kernen und in jeden Kern integrierten Neural Accelerators sowie bis zu 128GB Unified Memory mit bis zu 614GB/s Bandbreite.
• M5 Ultra: eine CPU mit bis zu 36 Kernen, eine GPU mit bis zu 80 Kernen und bis zu 512GB Unified Memory – genug, um riesige Modelle vollständig auf dem Gerät zu betreiben.
• Thunderbolt 5 erlaubt es, mehrere Geräte zu einem Cluster zu verbinden, und erreicht bei verteilter Inferenz bis zur 3x so hohen Leistung wie ein Einzelsystem.

Sein eigentlicher Vorteil ist, dass der Speicher zwischen CPU und GPU geteilt wird, Sie brauchen also keine separate Karte mit eigenem Speicher. Mitgeliefert werden zwei Entwickler-Frameworks: das neue Core AI und das Open-Source-Framework MLX.

AMD – der Ryzen AI Max+ 395

Er kommt in kleinen Desktop-Rechnern mit 128GB Unified Memory, läuft unter Windows oder Linux und kostet weniger als sein direkter Konkurrent von Nvidia. Er ist die praktische Wahl für alle, die 128GB zu den niedrigsten Kosten wollen oder deren Team eine vertraute Linux-Umgebung bevorzugt.

Nvidia – DGX Spark

Eine Box von etwa einem Liter mit einem Grace-Blackwell-Chip und 128GB – und das Produkt, das diese Kategorie geschaffen hat. Sein wichtigster Vorteil sind nicht die technischen Daten, sondern das CUDA-Ökosystem: Die meisten KI-Tools und Trainings-Frameworks wurden zuerst dafür geschrieben. Wenn Ihr Team Modelle trainieren oder feinabstimmen und nicht nur ausführen will, ist das ein entscheidender Punkt.

Der klassische Weg – ein Server mit dedizierten GPUs

Nach wie vor die richtige Antwort, wenn Sie mehrere Nutzer gleichzeitig bedienen. Serverkarten liefern eine weit höhere Bandbreite als Rechner mit Unified Memory, und das zeigt sich bei gleichzeitigen Anfragen, nicht bei der Modellgröße. Die Nachteile: höhere Kosten sowie Stromverbrauch, Wärme und Lärm, die einen geeigneten Raum erfordern.

Die Rechner im direkten Vergleich

Genaue Preise und wo man kauft

Die Apple-Preise haben wir am Tag der Veröffentlichung dieses Artikels direkt aus Apples eigenen Stores in den USA und in Saudi-Arabien übernommen:

Kaufen Sie im saudischen Apple Store oder im US-amerikanischen Apple Store. Es handelt sich um Einstiegspreise je Konfiguration; maximaler Speicher erhöht sie erheblich, und die Option mit 512GB kommt erst Ende Oktober statt zum Marktstart. Beachten Sie, dass der saudische Preis die Mehrwertsteuer enthält, während der US-Preis vor Steuern gilt.

AMD und Nvidia verkaufen diese Rechner nicht direkt zu einem einheitlichen Preis: Der AMD-Chip steckt in Geräten verschiedener Hersteller zu ungefähr 1.500 bis 4.000 $, je nach Hersteller und Konfiguration, und DGX Spark startete bei rund 4.000 $ und ist im Handel teurer geworden. Zum Zeitpunkt der Veröffentlichung fanden wir für keines der beiden ein offizielles Angebot im saudischen Einzelhandel, der Kauf läuft also über einen Distributor oder per Import – rechnen Sie in diesem Fall Mehrwertsteuer, Zoll und Versand hinzu. Ihre offiziellen Seiten: NVIDIA DGX Spark und AMD Ryzen AI Max+ 395.

Welches offene Modell betreiben Sie, und worauf?

Der Rechner ist die Hälfte der Entscheidung; die andere Hälfte ist das Modell selbst. Dies sind die führenden Open-Weight-Modelle, die Sie heute herunterladen und betreiben können, mit dem Rechner, der jedes davon bei 4 Bit fasst, und einer Schätzung seiner praktischen Leistungsfähigkeit:

Was bedeutet der Prozentwert hier? Wie nahe das Modell bei der alltäglichen Geschäftsarbeit – Zusammenfassen, Beantworten von Fragen zu Dokumenten, Code schreiben, Übersetzen – an die stärksten kostenpflichtigen geschlossenen Modelle herankommt. Es ist eine redaktionelle Schätzung von Origami auf Basis veröffentlichter Spezifikationen und der von den Anbietern selbst gemeldeten Werte, nicht das Ergebnis eines einzelnen neutralen Tests. Der Grund ist einfach: Jedes Labor veröffentlicht seine Zahlen mit einer anderen Testumgebung und anderen Einstellungen, daher gibt es heute keinen neutralen Benchmark, der all diese Modelle einordnet. Betrachten Sie ihn als Orientierung, nicht als Urteil, und testen Sie das Modell an Ihren eigenen Aufgaben, bevor Sie sich festlegen.

Zwei Hinweise, die die ganze Tabelle zusammenfassen: Als "aktiv" gekennzeichnete Modelle nutzen pro Anfrage nur einen kleinen Teil ihrer Parameter und sind daher schneller, als ihre Größe vermuten lässt – sie brauchen aber trotzdem den vollen Speicher. Und der Unterschied zwischen 72 % und 90 % verschwindet bei der meisten Büroarbeit völlig, zeigt sich aber deutlich bei langen, komplexen Aufgaben. Zahlen Sie nicht für 512GB, um einen Vorsprung zu gewinnen, den Sie nie bemerken werden.

So wählen Sie in der Praxis

• Ein oder zwei Nutzer? Ein Rechner mit Unified Memory reicht und spart viel.
• Ein Team, das das System gleichzeitig nutzt? Sie brauchen dedizierte GPUs, denn das Problem sind nun gleichzeitige Anfragen, nicht die Modellgröße.
• Training oder Feinabstimmung? Tendieren Sie zu CUDA.
• Sie wollen das größtmögliche Modell mit der geringsten Komplexität? Die größte Kapazität bietet heute Apple.
• Begrenztes Budget? 128GB decken Modelle mit bis zu 200 Milliarden Parametern bei 4 Bit ab, was die meisten Anforderungen von Unternehmen wirklich erfüllt.

Der Kompromiss, den Sie vor dem Kauf verstehen sollten: Rechner mit Unified Memory bieten große Kapazität bei geringerer Bandbreite als Serverkarten. Sie laden das große Modell problemlos, erzeugen Text aber langsamer. Bei Chat und Zusammenfassungen merken Sie das kaum; bei umfangreicher Stapelverarbeitung schon.

Wann ein eigener Server die falsche Entscheidung ist

Wir sagen das offen, weil wir es oft sehen: Die Hardware ist nicht das Ende des Projekts, sondern der Anfang. Sie kaufen auch die Verantwortung für Updates, Backups, Überwachung und dafür, wer ihn repariert, wenn er an einem Donnerstag ausfällt. Ist Ihre Nutzung sporadisch und gering, ist die monatliche Rechnung eines externen Dienstes günstiger als der Rechner, sein Strom und die Zeit der Person, die ihn betreibt.

Ein eigener Server rechtfertigt sich, wenn drei Dinge zusammenkommen: Daten, die das Haus nicht verlassen dürfen, eine stetige hohe Nutzung und eine Person oder Stelle, die ihn betreibt. Fehlt eines der drei, rechnen Sie neu.

Die Sicht von Origami

Wir halten nicht die Frage für wichtig, welchen Rechner Sie kaufen, sondern was Sie darauf betreiben. Die meisten, die uns nach einem eigenen Server fragen, brauchen eigentlich ein mittelgroßes Modell, das Fragen zu den Dokumenten ihres Unternehmens beantwortet, und das läuft komfortabel auf 128GB – manchmal auf weniger. 512GB zu kaufen, um ein Modell mit 70 Milliarden Parametern zu betreiben, ist eine Ausgabe ohne Gegenwert.

Unser praktischer Rat: Definieren Sie die Aufgabe, wählen Sie dann das Modell, das sie erledigt, und kaufen Sie dann den Rechner, der dieses Modell mit Reserve fasst. Wir helfen in genau dieser Reihenfolge – Aufgabe definieren, Modell auswählen und die Schicht bauen, die es mit Ihren Daten und Systemen verbindet, denn ein Modell ohne Verbindung zu Ihren Daten bleibt ein allgemeines Werkzeug und wird kein System, das Ihrem Unternehmen dient. Sie finden uns auf der Kontaktseite.

Fazit

Claude werden Sie nicht zu Hause betreiben, aber leistungsfähige offene Modelle, die den Großteil der Geschäftsarbeit abdecken. Bemessen Sie Ihren Bedarf zuerst in Parametern: ein halbes Byte pro Parameter bei 4 Bit, plus Reserve. Wählen Sie dann zwischen Unified Memory, das Kapazität zu vertretbaren Kosten bietet, und dedizierten Karten, die Geschwindigkeit und Parallelität bieten. Die wichtigste Entscheidung fällt aber weiterhin vor der Hardware: was Sie betreiben werden und warum.

Quellen

• Pressemitteilung von Apple, 25. August 2026 – technische Daten des Mac Studio mit M5 Max und M5 Ultra, Kapazitäten und Bandbreite des Unified Memory, Clustering über Thunderbolt 5 sowie die Frameworks Core AI und MLX.
• Unabhängige Tests von StorageReview und HotHardware zu AMD Ryzen AI Max+ 395 und Nvidia DGX Spark, einschließlich ihrer Kapazitäts- und Preisvergleiche.
• Die Speicherrechnung folgt der Standardregel für den Betrieb von Modellen: zwei Byte pro Parameter bei voller Präzision, weniger mit Quantisierung.
• Offizielle Modellkarten auf Hugging Face für Qwen3.8, Llama 4, Mistral, gpt-oss, DeepSeek V4, GLM-5.3 und Kimi K3 – die Quelle für Parameterzahlen und Lizenzen. Die Prozentwerte zur Leistungsfähigkeit sind eine redaktionelle Schätzung von Origami, wie oben erläutert.