Wann lohnt sich Hardware für lokale LLMs wirklich? Ich habe gerechnet.

Alle paar Wochen fragt mich jemand dasselbe: Soll ich mir nicht einfach eine Maschine kaufen und aufhören, für AI-Tokens zu bezahlen? Die Rechnung kriecht nach oben, der Usage-Meter schläft nie, und eine eigene Kiste zu kaufen fühlt sich plötzlich nach dem naheliegenden Schritt an. Ist es nicht. Es ist Rechnerei, und die meisten rechnen falsch.

Ich sag dir gleich, wo ich tatsächlich lande, bevor du ein weiteres Wort liest: Ich fahre Claude Code auf einem Mac Studio M1 Max mit 64GB. Ich habe lokale Modelle auf genau dieser Maschine laufen lassen. Und nachdem ich gerechnet habe, zahle ich immer noch überwiegend Claude. Das ist kein Seitenhieb gegen lokal. Es ist das ehrliche Ergebnis des Local-LLM-vs-Cloud-API-Kostenvergleichs für die Art, wie ich arbeite. Deine Zahlen zeigen vielleicht in die andere Richtung. So findest du es raus.

Die Break-even-Zahl, die niemand ehrlich einordnet

Fang damit an, was Mieten wirklich kostet, denn diese Zahl überspringen alle. Eine H100 kostet aktuell etwa 1,49 Dollar pro Stunde auf Vast.ai, rund 1,99 auf RunPod und etwa 2,99 auf Lambda. Nimm eine Instanz für 3 Dollar die Stunde und lass sie den ganzen Monat laufen, etwa 720 Stunden, und du landest bei rund 2.160 Dollar im Monat.

Und jetzt der ehrliche Teil, den die Rechner verstecken: Fast niemand mietet eine GPU rund um die Uhr für den eigenen Gebrauch. Diese 2.160 Dollar sind eine Obergrenze, nicht deine echten Kosten. Du zahlst pro Token, und der Token-Verbrauch eines einzelnen Entwicklers ist meistens ein Bruchteil einer dauerhaft laufenden Instanz. Der Vergleich, der zählt, ist also nicht Miete gegen Eigentum. Es ist deine tatsächliche monatliche API-Rechnung gegen eine Maschine, die vorab 1.500 bis 4.000 Dollar kostet. Meine Faustregel: Wenn deine API-Ausgaben mehrere Monate am Stück deutlich über ein paar hundert Dollar im Monat lagen, amortisiert sich eigene Hardware in etwa 3 bis 12 Monaten. Wenn es unregelmäßig ist oder darunter liegt, gewinnt Mieten oder einfach die API. Das ist dieselbe Selbst-hosten-gegen-Abo-Rechnung, die ich in Dein SaaS-Stack blutet dich aus. Das hoste ich stattdessen selbst. durchgegangen bin, nur mit einer GPU dran.

Die versteckten Kosten, die die Rechner überspringen

Der Anschaffungspreis ist der Teil, den alle nennen. Es ist auch der kleine Teil.

Strom ist echtes Geld. Ein leistungsfähiger lokaler Rechner zieht je nach Auslastung zwischen 50 und 300 Dollar im Monat. Und hier ein Kostenpunkt, den ein US-Blog nie erwähnt: Deutscher Haushaltsstrom kostet rund 30 bis 40 Cent pro Kilowattstunde, ein Vielfaches dessen, was die meisten US-Leser zahlen. Eine GPU-Kiste, die in Augsburg heiß läuft, kostet mich spürbar mehr als dieselbe Kiste in Texas. Dann ist da die Cold-Start-Latenz. Fahr eine Community-Cloud-Instanz hoch, und du wartest 30 Sekunden bis 3 Minuten, nur damit sie die Modellgewichte lädt und bootet, was den Plan "ich miete nur, wenn ich es brauche" leise killt. Dann ist da deine eigene Zeit. Llama.cpp mit CUDA-Support neu bauen, Treiberfehler unter Linux jagen, herausfinden, warum deine Tokens pro Sekunde eingebrochen sind. Diese Zeit ist nicht gratis, sie wird nur nicht in Rechnung gestellt. Die Falle, die 2026 die meisten Wochen gekostet hat, war das Serving-Framework selbst: Lädst du ein Modell auf eine einzelne 24GB-Consumer-Karte mit vLLM, kann es still scheitern, seine CUDA-Graphen zu bauen, weil Modell plus KV-Cache keinen zusammenhängenden VRAM übrig lassen, und dann alles langsam auf der CPU laufen lassen. Gleiche Karte, gleiches Modell, stattdessen llama.cpp, und es fliegt. Die Lehre: llama.cpp für ein oder zwei Consumer-GPUs, vLLM nur für Workstation-Karten oder Cloud-Instanzen mit echtem Speicher-Spielraum.

Was das heute tatsächlich stemmt

Nichts von dieser Rechnung hätte sich vor einem Jahr gelohnt. Um ein lokales Modell zu fahren, das gut genug ist, um eine echte Codebasis zu refaktorieren, brauchtest du Rechenzentrums-Hardware. Das hat sich 2026 geändert.

Zwei Modelle haben die Grenze verschoben. Qwen3-Coder-Next ist ein 80B-Mixture-of-Experts-Modell mit nur 3B aktiven Parametern, das rund 70,6% auf SWE-bench Verified erreicht und bei Q4-Quantisierung nahe 46GB landet. Das dichte Qwen 3.8-27B ist die leisere Überraschung: etwa 77,2% auf SWE-bench Verified, rund 17GB, und es läuft bequem auf einem 32GB-Mac. Auf meinem M1 Max 64GB ist das dichte 27B für die tägliche Arbeit wirklich brauchbar, und das 80B-Mixture-of-Experts passt zwar, kriecht aber, weil die Speicherbandbreite der M1-Klasse der Flaschenhals ist, nicht der RAM. Ich reiche dir keine saubere "zwei Punkte hinter Claude"-Zahl, weil ich keine aktuelle Frontier-SWE-bench-Zahl zum Vergleichen bestätigen konnte. Fair ist zu sagen: Die besten lokalen Coding-Modelle liegen jetzt nur wenige Punkte hinter Frontier auf veröffentlichtem SWE-bench Verified, nah genug, um für den Alltag zu zählen. Die Setup-Seite davon habe ich in Claude Code auf einem lokalen Modell ist gerade 2x schneller geworden (dank Ollama + MLX) aufgeschrieben.

Kaufen oder mieten, je nachdem, wie viel du wirklich ausgibst

Vergiss die Datenblätter für einen Moment. Die Entscheidung hängt an einem einzigen Wert: deinen echten monatlichen Ausgaben.

Unter 100 Dollar im Monat: kauf nichts. Die API ist billiger, schneller und besser als alles, was du zu Hause laufen lassen würdest, und eine Maschine stünde nur abschreibend herum. Stabile 200 bis 800 Dollar im Monat mit einem echten Grund, Daten im Haus zu halten, und eine einzelne Maschine fängt an, Sinn zu ergeben. Deine zwei ehrlichen Optionen: ein Mac Studio M4 Max 128GB für grob 4.000 bis 5.000 Dollar, mit 546 GB/s Speicherbandbreite, der ein dichtes 70B-Modell mit realistischen 10 bis 14 Tokens pro Sekunde bei Q4 fährt, nicht den 15 bis 28, die du in manchen Videos behauptet siehst. Oder ein RTX-5090-Build mit 32GB VRAM für rund 3.500 Dollar, der 30 bis 45 Tokens pro Sekunde auf einem 32B-Modell schafft, aber einen Linux-Server will, den du pflegen magst. Für ein kleines Team oder viel Batch-Arbeit landen zwei gebrauchte RTX 3090 bei rund 3.000 bis 4.000 Dollar und teilen die Last. In welcher Stufe du auch bist, die 5 Fragen, die du vor dem Kauf jedes KI-Tools stellen solltest gelten für Hardware genauso: Wisse, was du tatsächlich kaufst, bevor das Geld weg ist.

Die ehrliche Obergrenze: Lokal ist eine Ergänzung, kein Ersatz

Jetzt muss ich klar sein, denn ich habe zugesehen, wie Leute Erwartungen setzen, die lokale Hardware nicht erfüllen kann. Eigene Inferenz bringt dir vier echte Dinge: unbegrenzte Tokens bei langem Kontext, echten Datenschutz für proprietären und Mandantencode, Offline-Fähigkeit und die Option, auf deiner eigenen Arbeit zu finetunen. Das ist viel wert, und nichts davon taucht auf einer Pro-Token-Rechnung auf.

Was lokal dir nicht bringt, ist Frontier-Qualität bei harter, mehrstufiger Agenten-Arbeit. Bitte ein lokales Modell, einen Dienst von Grund auf zu architektieren, die Tests zu schreiben und die Integrationsfehler zu debuggen, ohne dass du die Tastatur anfasst, und es dreht Schleifen, halluziniert oder verliert den Faden früher als die besten proprietären Modelle. Das Framing, das in der Praxis funktioniert: Fahr etwa 80% deiner täglichen Arbeit lokal, das Autocomplete, die Refactorings, das Boilerplate, das Code-Review, und gib die harten 20% an ein Frontier-Modell. Ungefähr so teile ich es auf, und deshalb behalte ich ein bezahltes Claude-Abo, auch während lokal besser wird. Wenn du die Begründung willst, welches Modell ich für die harten 20% greife, die steht in Ich bin bei Opus 4.6 geblieben, während alle 4.7 und 4.8 hinterherjagten. Dann tauchte Fable 5 auf.

Also, solltest du eine kaufen?

Es gibt hier keine saubere Antwort, und wer dir eine verkauft, verkauft dir eine Maschine. Es läuft auf zwei Fragen hinaus: Ist deine monatliche API-Rechnung dauerhaft hoch genug, um die Hardware abzuzahlen, und ist es deinem Geschäft tatsächlich etwas wert, Mandantendaten von fremden Servern fernzuhalten? Wenn beides ja ist, kauf, und erwarte, dass es sich in unter einem Jahr rechnet. Wenn eins nein ist, miete weiter oder zahl weiter pro Token und steck die 4.000 Dollar irgendwohin, wo sie etwas einbringen.

Für mich, auf einem M1 Max 64GB mit der Art unregelmäßiger, gemischter Arbeit, die eine Ein-Personen-Agentur fährt, zeigt die Rechnung immer noch überwiegend auf Claude, und das ist okay. Die Local-LLM-vs-Cloud-API-Kostenfrage ist nicht ideologisch. Sie ist eine Tabelle, und die Werte hast du schon. Wenn du lieber jemanden hättest, der diese Tabelle gegen deine echten Zahlen rechnet, bevor du irgendwas ausgibst, genau dabei helfe ich bei wunderlandmedia.com.