ASUS Ascent GX10: Warum ich einen eigenen KI-Server betreibe

Kurz gesagt: Seit Juni 2026 läuft in meinem Büro ein ASUS Ascent GX10, ein kompakter KI-Rechner mit NVIDIA-GB10-Chip und 128 GB Speicher, den sich CPU und GPU teilen. Darauf betreibe ich lokale Sprachmodelle mit Ollama und nutze sie über Open WebUI oder direkt per Schnittstelle aus eigenen Werkzeugen. Für gelegentliche Chat-Fragen braucht das niemand. Spannend wird es, wenn du viele Modelle testen, Daten im Haus behalten und KI in eigene Abläufe einbauen willst.

Warum überhaupt eigene Hardware?

In meinem Artikel Lokale KI oder Cloud habe ich beschrieben, nach welchen Kriterien ich entscheide, wo eine KI-Aufgabe laufen sollte. Für mich gaben drei Gründe den Ausschlag für eigene Hardware:

• Experimentieren: verschiedene Modelle und Varianten ausprobieren, ohne für jede Anfrage zu bezahlen
• Daten im Haus: Code, Dokumente und Produktdaten müssen für die Verarbeitung nicht zu einem fremden Anbieter
• Einbindung: eine lokale Schnittstelle, die meine eigenen Skripte und Werkzeuge jederzeit nutzen können

Das Gerät: ASUS Ascent GX10

Der GX10 basiert auf der NVIDIA-GB10-Plattform. Die Besonderheit ist der Speicher: 128 GB, die sich Prozessor und Grafikeinheit teilen. Es gibt also keine klassische Grafikkarte mit separatem Grafikspeicher.

Für Sprachmodelle ist genau das interessant. Große Modelle brauchen viel Speicher, und auf normaler Hardware ist der Grafikspeicher meist die Grenze. Mit 128 GB passen Modelle auf den Rechner, die auf einem gewöhnlichen PC kaum laufen.

Was viele unterschätzen: Viel Speicher heißt nicht automatisch hohe Geschwindigkeit. Wie schnell ein Modell antwortet, hängt von seiner Größe, der Quantisierung, der Länge des Kontexts und der Antwort ab. Modelle, bei denen pro Wort nur ein Teil des Netzes rechnet, sogenannte Mixture-of-Experts-Modelle, sind auf diesem Gerät deutlich flotter als gleich große Modelle, bei denen immer alles rechnet.

Zum Preis: Ich habe für das Gerät rund 3.500 € bezahlt. Die Preise für solche Hardware sind seitdem deutlich gestiegen. Zum Vergleich: KI-Server für den Firmeneinsatz spielen in einer ganz anderen Liga und kosten schnell ein Vielfaches davon.

Die Software dahinter

Das Herzstück ist Ollama. Es verwaltet die Modelle, lädt sie bei Bedarf in den Speicher und stellt eine lokale Schnittstelle bereit. Dazu kommt Open WebUI als Oberfläche im Browser. So kann ich Modelle im Chat ausprobieren und gleichzeitig aus anderen Programmen ansprechen.

Der Aufbau ist bewusst einfach:

   Browser / IDE / eigene Skripte
                  |
         Open WebUI / API-Client
                  |
                Ollama
                  |
         lokales Sprachmodell
                  |
           ASUS Ascent GX10

Ganz wichtig: Die Schnittstelle ist nicht offen im Internet erreichbar. Von unterwegs greife ich nur über ein VPN auf mein Netzwerk zu. Eine ungeschützte Modell-Schnittstelle wäre ein Einfallstor, auch wenn das Modell lokal läuft.

Welche Modelle mich interessieren

Ich teste Modelle aus verschiedenen Familien, darunter Qwen, GPT-OSS, Llama und DeepSeek. Der Name ist mir dabei weniger wichtig als die Frage, ob ein Modell bei echten Aufgaben brauchbare Ergebnisse liefert:

• PHP-Code verstehen und erklären
• technische Fragen auf Deutsch und Englisch beantworten
• Vorgaben präzise einhalten, ohne etwas zu erfinden

Dafür ist ein eigener Praxistest hilfreicher als jede Rangliste. Ich bewerte Antwortqualität, Geschwindigkeit, Speicherbedarf und vor allem, ob ich im Alltag damit arbeiten will.

Was ein eigener KI-Server nicht löst

• Modelle machen weiter Fehler. Ein lokales Modell kann genauso falsche Aussagen treffen wie ein Cloud-Modell.
• Betrieb kostet Zeit. Updates, Strom, Backups und Netzwerkpflege gehören dazu.
• Speicher ist endlich. Zwei große Modelle gleichzeitig zu laden, bringt auch 128 GB an die Grenze. Wer das nicht im Blick hat, legt den Rechner lahm.
• Die Spitzenmodelle der großen Anbieter laufen nicht lokal. Für die anspruchsvollsten Aufgaben bleibt die Cloud oft vorne.

Wer nur gelegentlich eine Frage an die KI hat, ist mit einem Cloud-Angebot deutlich einfacher unterwegs.

Fazit

Für mich ist der GX10 vor allem ein Experimentier- und Arbeitsserver. Er ermöglicht unabhängige Tests, eine lokale Schnittstelle und eigene KI-Abläufe. Richtig interessant wird er, sobald nicht nur ein Chatfenster, sondern mehrere Werkzeuge gleichzeitig darauf zugreifen.

Häufige Fragen

Brauche ich für lokale KI einen Rechner wie den GX10?

Nein. Kleinere Modelle laufen auch auf einem guten PC oder Laptop. Für große Modelle mit vielen Milliarden Parametern brauchst du aber viel schnellen Speicher, und genau da spielt so ein Gerät seine Stärke aus.

Was ist der Unterschied zwischen Ollama und Open WebUI?

Ollama betreibt die Modelle und stellt die Schnittstelle bereit. Open WebUI ist eine Oberfläche im Browser, über die du mit den Modellen chatten kannst. Andere Programme können Ollama auch ohne Open WebUI nutzen.

Kann der GX10 mehrere Modelle gleichzeitig betreiben?

Ja, solange sie zusammen in den Speicher passen. Ein sehr großes Modell belegt aber schnell den Großteil der 128 GB. Dann muss ein anderes Modell erst entladen werden, bevor das nächste starten kann.