Kurz gesagt: Ich habe lokale KI-Modelle deutsche Produkttexte für einen B2B-Shop mit Corporate Fashion schreiben lassen, auf einem ASUS GX10 ohne separate Grafikkarte. Gewonnen hat Gemma 4 31B von Google. Die größten Unterschiede zeigten sich erst mit dem echten Marken-Prompt der Kundin. Und dasselbe Modell lief je nach Setup achtmal schneller, bei gleicher Qualität. Alle Zahlen stehen im ausführlichen Testbericht.
Die Aufgabe
Der Shop hat über 10.000 Artikel mit kurzen, uneinheitlichen Herstellertexten. Die neuen Texte sollten drei Dinge erfüllen: korrektes Deutsch, keine erfundenen Eigenschaften und die Vorgaben der Marke einhalten. Alles läuft lokal auf einem ASUS GX10 (NVIDIA GB10, 128 GB gemeinsamer Speicher für CPU und GPU). Keine Produktdaten in fremden Clouds, keine Kosten pro Text.
Jeder Text wurde einzeln gegen die Herstellerdaten geprüft und mit höchstens 10 Punkten bewertet, nach einem festen Schema und mit Begründung pro Text. Geprüft hat Claude von Anthropic. Das ist eine begründete Einschätzung, keine Messung.
Schritt 1: Zehn Modelle, eine einfache Anweisung
Zehn lokale Modelle beschrieben dieselben 30 Artikel. Vorne lag die Gemma-4-Familie: Gemma 4 26B mit 288 von 300 Punkten, dicht gefolgt von 12B und 31B. Typische Fehler der anderen:
- Normen bei Warnschutzkleidung weggelassen (Mistral Small 4)
- Beispiele aus dem Prompt als Branchen übernommen (Nemotron 3 Super)
- ein „Firmenkunden-Angebot“ erfunden (Qwen 3.6)
Erkenntnis: Größer ist nicht besser. Die drei größten Modelle mit 71 bis 86 GB landeten hinter Gemma 4 26B mit 18 GB.
Schritt 2: Der echte Marken-Prompt
Die Kundin, selbst Designerin, hat ihren Markenton als Prompt beschrieben: klare Sprache, keine Floskeln wie „überzeugt durch“, strenge Regeln zur Faktentreue. Damit habe ich die fünf besten Modelle erneut getestet.
| Modell | einfache Anweisung | Marken-Prompt |
|---|---|---|
| Gemma 4 31B | 287,5 | 238 |
| Gemma 4 26B | 288 | 229 |
| Qwen 3.8 27B | 281 | 182 |
| Gemma 4 12B | 287,5 | 181 |
| Mistral Small 3.2 24B | 282 | 127 |
Die Wertung war hier strenger, weil der Ton mitzählte. Entscheidend ist der Abstand: Mit der einfachen Anweisung lagen die fünf Modelle 7 Punkte auseinander, mit dem Marken-Prompt 111.
Erkenntnis: Teste mit deinem echten Prompt und echten Daten. Ein einfacher Test verschleiert die Unterschiede.
Schritt 3: Gemma 4 31B in acht Setups
Gemma 4 31B schrieb die besten Texte, war aber langsam. Also habe ich zuerst den Ablauf verbessert und dann dasselbe Modell in verschiedenen Setups getestet, mit 50 Artikeln aus 50 Produktarten.
Beim Ablauf haben drei Dinge am meisten gebracht:
- Daten vor dem Prompt aufbereiten. Farbcodes, falsche Apostrophe und Zertifikate gehören in ein Skript, nicht in den Prompt.
- Feste Regeln vor KI-Prüfung. Alles, was sich als Muster beschreiben lässt, prüft Code zuverlässiger.
- KI-Korrekturen eng begrenzen. Nur den falschen Satz neu schreiben lassen, nie den ganzen Text, sonst werden die Texte trocken.
Und dann die Setups:
| Gemma 4 31B | Sekunden je Artikel | Punkte (von 500) |
|---|---|---|
| 4 Bit (QAT), Ollama | 46,6 | 423 |
| volle Genauigkeit (BF16), Ollama | 110,7 | 413 |
| 4 Bit nachträglich (NVFP4), vLLM, 8 parallel | 17,5 | 399 |
| 4 Bit (QAT), vLLM, 8 parallel | 13,6 | 421 |
| dasselbe mit Denkmodus | 119,1 | 419 |
Erkenntnisse:
- Volle Genauigkeit bringt nichts. BF16 schreibt nicht besser, braucht aber mehr als doppelt so lange.
- 4 Bit ist nicht gleich 4 Bit. Die QAT-Fassung wurde schon im Training auf 4 Bit vorbereitet und hält die Qualität. Die nachträglich komprimierte Fassung verliert spürbar.
- Parallelität bringt das Tempo. vLLM mit 8 gleichzeitigen Anfragen statt Ollama mit 2. Damit dauern 10.000 Artikel rund 1,6 Tage auf einem Rechner statt 5,4.
- Der Denkmodus lohnt sich nicht. Gleiche Qualität, neunfache Zeit.
Zwei ganz neue Modelle aus dem Oktober 2026, NVIDIA Nemotron 3.5 Bolt und Aleph Alpha Kolibri-1, lagen mit 305 und 290 Punkten deutlich dahinter. Neu heißt nicht besser.
Was du für deinen Shop mitnehmen kannst
- Teste mit deinem echten Prompt und nimm auch Artikel mit schlechten Daten in den Test.
- Wähl die Modellfassung, nicht nur das Modell.
- Nutze für viele Texte eine Laufzeitumgebung, die Anfragen parallel verarbeitet.
- Prüfe Pflichtangaben wie Normen gezielt mit festen Regeln.
- Eine menschliche Stichprobe bleibt. Auch im besten Lauf standen in einzelnen Texten unbelegte Aussagen wie „speichert Wärme“.
Warum feste Regeln dabei so wichtig sind, beschreibe ich auch in Wann klassische Automatisierung besser ist als KI. Alle Tabellen, die Punkte pro Artikel, die Laufzeit-Einstellungen und ein Beispielartikel im Vergleich stehen im Testbericht.
Häufige Fragen
Welches lokale KI-Modell schreibt die besten deutschen Produkttexte?
In meinem Test Gemma 4 31B von Google, als 4-Bit-QAT-Fassung. Gemma 4 26B lag knapp dahinter und ist rund viermal schneller. Das gilt für deutsche Texte zu Berufsbekleidung mit einem anspruchsvollen Marken-Prompt.
Brauche ich dafür eine Grafikkarte?
Eine separate Grafikkarte nicht, aber viel schnellen Speicher. Der ASUS GX10 hat einen Chip, bei dem sich CPU und GPU 128 GB Speicher teilen. Gemma 4 31B in der QAT-Fassung braucht davon rund 22 GB.
Wie lange dauern 10.000 Produkttexte lokal?
Mit Gemma 4 31B QAT auf vLLM und 8 parallelen Anfragen rund 1,6 Tage, inklusive Prüfregeln, Faktenkontrolle und SEO-Feldern.
Wie verhindere ich, dass die KI Eigenschaften erfindet?
Mit drei Ebenen: Daten bereinigen, feste Regeln für typische Behauptungen und eine eng begrenzte KI-Faktenprüfung, die nur den betroffenen Satz korrigiert. Eine Stichprobe durch Menschen ersetzt das nicht.