Lokale KI im Büro: Golem testet Mini-PCs von Apple, AMD und Intel
11. Oktober 2026
KI-generiert, redaktionell von 8thsense ausgewählt, geprüft und freigegeben. EU AI Act, Art. 50
Lokale Sprachmodelle auf einem kleinen Rechner im eigenen Büro: Das klingt nach Datenschutz ohne Kompromisse. Golem hat jetzt sechs Mini-PCs zwischen 270 und 1.650 Euro mit einem automatisierten Benchmark für lokale KI getestet. Klarer Sieger ist der neue Mac Mini mit M6, obwohl er mit 16 GB den kleinsten Arbeitsspeicher der Spitzengruppe hat. Für Geschäftsführer, die Kundendaten nicht an US-Clouddienste geben wollen, liefert der Test erstmals belastbare Zahlen zu der Frage, was so ein KI-Rechner kosten muss.
So wurde getestet
Golem-Redakteur Mike Faust nutzte den quelloffenen LLM-Benchmark von AIDatatools (Quelle: golem.de). Das Werkzeug steht unter MIT-Lizenz, setzt auf Ollama auf, die verbreitete Plattform zum lokalen Ausführen von Sprachmodellen, und wählt je nach verfügbarem Arbeitsspeicher passende Modelle aus (Quelle: github.com). Bei Geräten mit 15 bis 31 GB RAM sind das unter anderem Gemma 2 mit 9 Milliarden Parametern, Mistral 7B, Phi-4 14B, Deepseek-R1 in 8B und 14B sowie das Bildmodell Llava. Gemessen wird ausschließlich die Geschwindigkeit in Tokens pro Sekunde, also wie schnell ein Modell Text erzeugt. Über die Qualität der Antworten sagt der Test nichts. Die Windows-Geräte liefen mit dem vorinstallierten Windows 11, der Mac mit dem aktuellen macOS.
Die Ergebnisse im Überblick
Die Unterschiede sind deutlich. Laut Golem lagen die Durchsatzwerte bei Mistral 7B, einem typischen Modell für Zusammenfassungen und E-Mail-Entwürfe, so:
Apple Mac Mini M6 (16 GB, 1.050 Euro): 30,2 Tokens/s, maximal 28 Watt
Der Mac lag bei allen getesteten Modellen vorn, auch beim größeren Phi-4 mit 15,03 Tokens pro Sekunde. Den Preis bestätigt Macwelt mit 1.049 Euro für die Basisversion mit 16 GB und 256 GB SSD (Quelle: macwelt.de). Auf dem günstigsten Gerät liefen die 14B-Modelle gar nicht mehr.
Warum mehr RAM nicht automatisch schneller ist
Bemerkenswert ist, dass der Mac mit 16 GB die AMD-Systeme mit doppelt so viel Arbeitsspeicher schlägt. Golem selbst liefert dafür keine Begründung. Eine gängige Einordnung ist Apples gemeinsamer Speicher für Prozessor und Grafikeinheit, die Spezifikationen nennen je nach Konfiguration unterschiedliche Bandbreiten (Macwelt selbst führt 153 und 170 GB/s an). Beim Intel-Gerät erklärt Golem das schwache Abschneiden konkret: Die eingebaute NPU bringt nur dann etwas, wenn die Software sie nutzt. Ollama prüft lediglich, ob die Grafikeinheit genug Speicher hat, sonst landet das Modell im normalen Arbeitsspeicher. Auch zwei Geräte mit identischem AMD-Chip unterschieden sich: Der Ctone war bei fünf von sieben Modellen schneller, zieht aber 80 statt 58 Watt. Die Konfiguration des Herstellers zählt also mit.
Wo die Grenzen gegenüber der Cloud liegen
Ein Mini-PC für rund 1.000 Euro ersetzt keine großen Cloud-Modelle. Im Test lagen die größten Modelle bei 14 Milliarden Parametern, deutlich kleiner als die Systeme, die hinter bekannten Chat-Diensten stehen. Den M6 gibt es laut Macwelt mit maximal 32 GB, für größere lokale Modelle verweist das Magazin auf den teureren M5 Pro. Offen lässt der Test, wie sich die Geräte schlagen, wenn mehrere Mitarbeitende gleichzeitig Anfragen stellen. Gemessen wurde ein Nutzer, ein Prompt. Für Textentwürfe, Zusammenfassungen interner Dokumente oder das Vorsortieren von E-Mails dürften 15 bis 30 Tokens pro Sekunde für einen einzelnen Nutzer dagegen gut ausreichen, die Antwort entsteht dann schneller, als man sie liest.
Datenschutz: lokal heißt nicht automatisch sicher
Ollama verarbeitet Prompts bei lokalen Modellen nach eigener Aussage vollständig auf dem Gerät und bindet sich standardmäßig nur an die lokale Adresse 127.0.0.1. Wer den Rechner im Firmennetz für mehrere Arbeitsplätze freigeben will, muss das bewusst über die Variable OLLAMA_HOST einstellen. Cloud-Funktionen lassen sich mit OLLAMA_NO_CLOUD=1 komplett abschalten (Quelle: docs.ollama.com). Ein Detail am Rande: Der Benchmark selbst schickt standardmäßig Systeminfos und Messwerte an einen externen Server, per Kommandozeilen-Option abschaltbar (Quelle: github.com). Keine Prompts, aber ein gutes Beispiel dafür, dass man bei jedem Werkzeug genau hinschauen sollte.
Was das für Unternehmen bedeutet
Der Test zeigt: Die Hardware ist nicht mehr die Hürde. Für gut 1.000 Euro gibt es einen leisen, sparsamen Rechner, der kleinere Sprachmodelle flüssig betreibt. Ein Pflegedienst, der Gesprächsnotizen zusammenfassen lässt, eine Therapiepraxis mit sensiblen Befunden oder ein Verein mit Mitgliederdaten kann so KI nutzen, ohne dass Daten das Haus verlassen. Die eigentliche Arbeit beginnt nach dem Kauf. Der Rechner muss sicher ins Netz, Zugriffe brauchen Regeln, und vor allem muss die KI dort ankommen, wo gearbeitet wird: im Ticketsystem, im E-Mail-Postfach, in der Praxissoftware. Ein Chatfenster auf einem Mini-PC, das niemand in den Alltag einbindet, bleibt ein Schein-Pilotprojekt.
Sinnvoll ist ein kleiner Start: einen konkreten Prozess wählen, etwa das Zusammenfassen eingehender Anfragen, mit zwei oder drei Modellen an echten, anonymisierten Beispielen die Qualität prüfen und erst dann die Anbindung an bestehende Systeme planen. Genau an dieser Schnittstelle entscheidet sich, ob lokale Modelle zur echten KI-Automation werden oder als Bastelprojekt in der Ecke stehen. Wichtig dabei: vor dem Kauf mit Testdaten prüfen, ob ein 7B- oder 14B-Modell die eigene Aufgabe überhaupt gut genug löst. Der Golem-Benchmark misst Tempo, die Antwortqualität muss jedes Unternehmen selbst bewerten.
