KI-Modelle werden immer leistungsfähiger – gleichzeitig steigt jedoch der Hardwarebedarf. GEEKOM will auf der IFA 2026 zeigen, dass dafür nicht zwangsläufig ein klassischer GPU-Server oder eine Cloud-Infrastruktur notwendig ist. Beim Projekt „AGENT 4N“ arbeiten vier kompakte A9 Mega Mini-PCs gemeinsam als verteilter KI-Cluster und führen das große Sprachmodell DeepSeek V4 Flash vollständig lokal aus.
*Dieser Beitrag wurde in Zusammenarbeit mit GEEKOM erstellt
Auf der IFA 2026, die vom 4. bis 8. September in Berlin stattfindet, möchte GEEKOM nicht nur neue Mini-PCs präsentieren. Mit AGENT 4N – AI Solutions Powered by GEEKOM zeigt der Hersteller auch ein ungewöhnliches Anwendungsszenario. Vier leistungsstarke Mini-PCs werden miteinander verbunden und übernehmen gemeinsam die Berechnung eines großen KI-Modells. Statt eines klassischen Server-Racks kommen dafür vier GEEKOM A9 Mega zum Einsatz. Die Systeme kommunizieren über USB4 mit bis zu 40 Gbit/s miteinander und bilden so eine verteilte Plattform für die lokale KI-Nutzung. Einen speziellen High-Speed-Switch oder zusätzliche Server-Hardware benötigt das Demonstrationssystem damit nicht.
Vier Ryzen AI Max+ 395 und insgesamt 512 GB Arbeitsspeicher
Die notwendige Rechenleistung liefern vier AMD Ryzen AI Max+ 395. AMDs Strix-Halo-Chip kombiniert jeweils 16 Zen-5-Kerne und 32 Threads mit einer integrierten Radeon 8060S mit 40 RDNA-3.5-Compute-Units. Hinzu kommt eine XDNA-2-NPU.
Eine besonders wichtige Rolle spielt bei diesem Projekt der Speicheraufbau. Jeder der vier A9 Mega besitzt 128 GB LPDDR5X-8000, die von CPU und GPU gemeinsam genutzt werden können. Über alle vier Systeme verteilt stehen damit 512 GB Speicher zur Verfügung. Rein technisch handelt es sich allerdings nicht um einen einzigen gemeinsamen 512-GB-Speicherpool – die Daten bleiben auf die vier einzelnen Speichernodes verteilt. Die Ryzen-AI-Max-Plattform kann den schnellen Arbeitsspeicher sowohl der CPU als auch der integrierten GPU bereitstellen. Dadurch stehen große Speichermengen für KI-Berechnungen zur Verfügung, ohne vier separate professionelle Grafikkarten mit entsprechend viel VRAM einsetzen zu müssen.
KLICKEN! Das komplette Mini-PC Line-up von GEEKOM auf Geekom.de
Wer sich von der lokalen KI-Verarbeitung nicht beeindrucken lässt, dürfte zumindest beim Gegenwert des riesigen Speicher-Clusters hellhörig werden. Allein vergleichbare 512 GB Arbeitsspeicher würden Endkunden angesichts der aktuellen Speicherpreise mehrere Tausend Euro kosten. Je nach zugrunde gelegtem Speicherkit bewegt sich die rechnerische Preisspanne derzeit grob zwischen 6.000 und 9.500 Euro – wohlgemerkt nur für den Speicher.
DeepSeek V4 Flash läuft komplett lokal
Auf dem Cluster setzt GEEKOM Ubuntu, AMD ROCm und DwarfStar ein. DwarfStar verteilt eine optimierte Variante von DeepSeek V4 Flash auf die vier Systeme und ermöglicht damit die gemeinsame Berechnung des Modells über mehrere Rechner hinweg. Anwendungen müssen dabei nicht speziell für den GEEKOM-Cluster programmiert werden. Eine OpenAI-kompatible API ermöglicht es bestehenden Anwendungen und KI-Agenten, mit dem lokal ausgeführten Sprachmodell zu kommunizieren.
Der größte Vorteil liegt dabei in der lokalen Datenverarbeitung. Dokumente, Prompts, Quellcode oder andere möglicherweise sensible Informationen müssen nicht an einen öffentlichen Cloud-Dienst übertragen werden, sondern können innerhalb der eigenen Infrastruktur verarbeitet werden. Unternehmen könnten damit beispielsweise interne Wissensdatenbanken aufbauen, die Richtlinien, Verträge, Handbücher oder Berichte durchsuchen und zusammenfassen. Auch lokale RAG-Systeme, die Analyse größerer Quellcode-Projekte oder KI-Agenten mit Zugriff auf interne Daten und Anwendungen sind möglich. GEEKOM nennt darüber hinaus Dokumentenanalysen, Multi-Source-Recherchen und automatisierte Arbeitsabläufe als mögliche Einsatzgebiete.
Bis zu 250.000 Token Kontext lokal verarbeitet
Auch erste Leistungsdaten hat GEEKOM veröffentlicht. Bei einer einzelnen gleichzeitig ausgeführten Anfrage erreichte der Vierer-Cluster laut Hersteller rund 14,61 Token pro Sekunde. Die P95-Zeit bis zum ersten ausgegebenen Token soll bei Tests mit 32 beziehungsweise 128 Output-Tokens bei rund 0,42 Sekunden gelegen haben.
Diese Werte sollte man allerdings nicht als direkten Geschwindigkeitsvergleich mit aktuellen Cloud-Diensten verstehen. Für einen lokalen KI-Cluster ist vor allem die verfügbare Speicherkapazität interessant. GEEKOM konnte nach eigenen Angaben bereits Kontextfenster mit bis zu 250.000 Token verarbeiten. Dadurch können beispielsweise sehr umfangreiche Dokumente, größere Softwareprojekte oder interne Datensammlungen innerhalb einer einzigen KI-Sitzung berücksichtigt werden. Gerade beim lokalen Betrieb großer Sprachmodelle wird häufig nicht zuerst die reine Rechenleistung, sondern der verfügbare Speicher zum begrenzenden Faktor.
KLICKEN! Das komplette Mini-PC Line-up von GEEKOM auf Geekom.de
Der KI-Cluster lässt sich schrittweise erweitern
Das Konzept muss zudem nicht zwangsläufig aus vier Rechnern bestehen. Nach Angaben von GEEKOM kann eine Installation zunächst mit einem oder zwei A9 Mega aufgebaut und später um zusätzliche Nodes erweitert werden. Jeder Rechner bleibt unabhängig nutzbar und kann bei Bedarf Rechenleistung zum Cluster beisteuern. Preiswert ist ein solcher Aufbau allerdings nicht. Der A9 Mega gehört mit Ryzen AI Max+ 395 und 128 GB RAM zu den absoluten High-End-Mini-PCs. Das Projekt dürfte daher weniger den Anspruch haben, einen dedizierten KI-Server grundsätzlich günstiger zu ersetzen. Der Vierer-Cluster soll vielmehr zeigen, wie weit kompakte Hardware inzwischen gekommen ist. Große Sprachmodelle, für die vor wenigen Jahren noch mehrere Server-GPUs nötig gewesen wären, lassen sich heute auf mehrere vergleichsweise kleine Systeme verteilen.
