Ein offenes Modell schlägt das eigene Spitzenmodell – mit einem Viertel der Rechenlast

Am 31. Juli hat der chinesische Anbieter DeepSeek sein Modell V4 Flash aus der Vorschauphase entlassen und die Modellgewichte – also die trainierten Parameter, aus denen das Modell besteht – unter der MIT-Lizenz veröffentlicht. Die MIT-Lizenz ist die freizügigste unter den gängigen: kommerzielle Nutzung ohne Rückfrage, ohne Gebühr, ohne Pflicht zur Offenlegung eigener Änderungen.

Für sich genommen ist das inzwischen Routine – offene Modelle erscheinen im Wochentakt. Zwei Details an dieser Veröffentlichung verdienen trotzdem Aufmerksamkeit.

Weniger Rechenaufwand, bessere Ergebnisse

Das Modell hat 284 Milliarden Parameter, aktiviert für eine einzelne Anfrage aber nur 13 Milliarden davon. Dahinter steckt eine Bauweise namens Mixture-of-Experts: Das Modell besteht aus vielen spezialisierten Teilnetzen, und pro Anfrage wird nur eine kleine Auswahl davon befragt. Der Rechenaufwand je Antwort sinkt dadurch erheblich – der Speicherbedarf nicht, denn vorhalten muss man alle Teilnetze.

Der eigentliche Befund: Diese Fassung mit 13 Milliarden aktiven Parametern schlägt die Vorschauversion des größeren Schwestermodells V4 Pro, die 49 Milliarden aktiviert, auf allen neun agentischen Testreihen, die DeepSeek veröffentlicht. Agentisch heißt hier: Aufgaben, die das Modell nicht mit einer Antwort erledigt, sondern in mehreren Schritten mit Werkzeugeinsatz – etwa eine Kommandozeile bedienen oder einen Fehler in fremdem Code finden. Auf Terminal Bench 2.1 stehen 82,7 gegen 72,1 Punkte, auf DeepSWE 54,4 gegen 12,8.

Architektur und Größe blieben laut Anbieter unverändert; geändert wurde nur das Nachtraining. Das ist der Punkt, der über den Einzelfall hinausweist: Der Zugewinn kam nicht aus mehr Rechenleistung, sondern aus besserem Feinschliff.

Beim Sprung von 12,8 auf 54,4 Punkte ist allerdings Vorsicht geboten. Ein Vervierfachen des Ergebnisses sagt in aller Regel mehr über die Testanordnung aus als über das Modell – wenn ein Modell in einem Testrahmen an einer Formalie scheitert, sieht das aus wie Unfähigkeit. DeepSeek weist in den Release-Notizen selbst darauf hin, dass die Werte vom verwendeten Testrahmen abhängen und man sie an der eigenen Aufgabe nachprüfen solle. Das ist ein ungewöhnlich ehrlicher Hinweis für eine Produktankündigung – und man sollte ihn ernst nehmen.

Die Hardware-Schwelle ist gefallen

Für den Selbstbetrieb nennt der Anbieter rund 160 bis 170 Gigabyte Speicher, was zwei Grafikkarten der H100-Klasse entspricht. In einer quantisierten Fassung – Quantisierung heißt, die Parameter werden mit geringerer Genauigkeit gespeichert, was Speicher spart und die Qualität leicht drückt – sinkt der Bedarf auf etwa 100 Gigabyte und damit auf zwei Workstation-Karten, allerdings mit verkleinertem Kontextfenster.

Zum Vergleich: Für das im Juli veröffentlichte Tencent-Modell Hy3 waren acht Grafikkarten der Oberklasse empfohlen. Damit rutscht der Eigenbetrieb aus dem Bereich einer Rechenzentrumsinvestition in den eines gut ausgestatteten Serverschranks. Ob sich das rechnet, hängt weiterhin an der Auslastung – dazu haben wir an anderer Stelle ausführlicher geschrieben. Neu ist, dass die Einstiegshürde nicht mehr die Anschaffung ist, sondern die Frage, wer das Ganze betreibt.

Das Kontextfenster – die Textmenge, die das Modell in einer Anfrage gleichzeitig überblickt – liegt bei einer Million Token, grob 1.500 bis 2.000 Seiten.

Wie groß der Abstand zur Spitze wirklich ist

In Communities kursierte diese Woche die Formulierung, lokal betreibbare Modelle hätten nun das Niveau der besten geschlossenen Modelle vom März erreicht. Der überprüfbare Teil davon: Auf dem Intelligence Index des Analysehauses Artificial Analysis erreicht V4 Flash 50 Punkte, bei einem Mittelwert von 25 für vergleichbare offene Modelle. Die derzeit führenden geschlossenen Modelle liegen bei etwa 59 bis 61 Punkten.

Der Abstand ist also real, aber er ist kein Abgrund mehr. Für Aufgaben, bei denen es auf die letzten Prozentpunkte ankommt, bleibt er entscheidend. Für Standardaufgaben im Betrieb – Dokumente auswerten, Texte vorbereiten, strukturierte Daten aus unstrukturierten ziehen – ist er häufig belanglos.

Was dagegen spricht

Die Benchmarks stammen vom Anbieter selbst; unabhängig geprüft ist bislang wenig. Die Beschleunigungstechnik, die DeepSeek mitliefert, setzt eine passende Betriebssoftware voraus – auf älteren Systemen kann sie fehlschlagen oder das Modell stillschweigend in eine langsamere Betriebsart zwingen. Und offene Gewichte bedeuten nicht offenes Training: Womit das Modell trainiert wurde, legt DeepSeek nicht offen. Wer Nachvollziehbarkeit der Trainingsdaten braucht – etwa im Umgang mit urheberrechtlich geschütztem Material –, bekommt sie hier nicht.

Bleibt der Punkt, der sich nicht technisch klären lässt: die Herkunft. Beim Selbstbetrieb auf eigener Hardware verlassen keine Daten das Haus, unabhängig davon, wer das Modell gebaut hat. Wer dagegen die Programmierschnittstelle des Anbieters nutzt, schickt seine Daten nach China – eine Entscheidung, die nicht die IT-Abteilung treffen sollte.

Der praktische Wert

Auch für Unternehmen, die nie vorhaben, ein Modell selbst zu betreiben, verändert eine solche Veröffentlichung etwas: Sie verschiebt die Verhandlungsposition gegenüber Anbietern und setzt deren Preise unter Druck. Der aktuelle Preisverfall bei den kommerziellen Diensten ist ohne diese Konkurrenz nicht zu erklären. Und die Option, ein Modell notfalls im eigenen Haus weiterzubetreiben, ist ein Argument, das man nicht zieht, sondern hat.