DeepSeek hat eine ganze Reihe eigener Infrastruktur-Werkzeuge für Huaweis Ascend-Chips als Open Source veröffentlicht. Die Bausteine entsprechen fast eins zu eins den zuvor veröffentlichten Komponenten für Nvidia-Plattformen.
DeepSeek open source: Infrastruktur für Huaweis Ascend-Chips
DeepSeek hat angekündigt, eine Sammlung von Infrastruktur-Komponenten für Huaweis Ascend-Rechenplattform offen zugänglich zu machen. Die Bausteine liegen auf GitHub, darunter das Projekt DeepGEMM-Ascend. Damit stellt das Unternehmen seine eigene Software-Basis auf eine Alternative zu Nvidia-Hardware.
Das ist insofern bemerkenswert, als DeepSeek zuvor genau diese Werkzeuge für Nvidia-Grafikprozessoren veröffentlicht hatte. Die neue Sammlung bildet das Nvidia-Paket fast vollständig auf Huaweis Chips ab. Wer die Software-Architektur bereits kennt, erkennt die einzelnen Entsprechungen ohne langes Suchen.
Diese sechs Bausteine gehören zum Ascend-Paket
Die Komponenten decken unterschiedliche Aufgaben im Betrieb großer KI-Modelle ab. Zusammengenommen ergibt sich eine komplette Werkzeugkette:
- TileLang – eine Compiler-Umgebung, mit der sich Rechenkerne in einer höheren Sprache beschreiben lassen
- DeepGEMM – eine Bibliothek für die universelle Matrixmultiplikation, das mathematische Rückgrat jedes Modells
- DeepEP – Kommunikationsbausteine, mit denen viele Chips gleichzeitig Daten austauschen
- TileKernels – Operatoren für Vektorberechnung und Speicherzugriff
- FlashMLA – eine Operatorensammlung für die Aufmerksamkeitsberechnung langer Kontexte
- DeepSelect – ein Werkzeug für die effiziente Auswahl von Daten
Wer diese Namen zum ersten Mal liest, kann sich das grob so vorstellen: Sie sind das Fundament, auf dem ein Modell überhaupt erst schnell rechnen kann. Fehlt ein Baustein, bleibt die teure Hardware unter ihren Möglichkeiten.
Was die Zahlen zur Leistung aussagen
DeepSeek gibt an, mit DeepGEMM auf Ascend-Hardware 99,8 Prozent des Hardware-Limits bei Matrixmultiplikationen erreicht zu haben. Für die Kombination vieler Expertenmodelle, MegaMoE genannt, nennt das Entwicklungsteam 98 Prozent.
Beide Werte sind Eigenangaben und nicht unabhängig nachgeprüft. Sie stammen aus dem Projekt selbst. Ganz unabhängig davon zeigen sie aber, wohin die Arbeit zielt: möglichst viel Rechenleistung aus gegebener Hardware herauszuholen, statt sie durch ineffiziente Software zu vergeuden.
Warum das für die KI-Landschaft zählt
Der praktische Nutzen liegt auf der Hand. Wer KI-Modelle auf Huaweis Ascend-Chips betreiben will, braucht Software, die diese Chips versteht. Ohne ausgereifte Bibliotheken bleiben die teuren Beschleuniger zu großen Teilen ungenutzt, weil die Modelle ihre Rechenleistung schlicht nicht abrufen können.
DeepSeek liefert jetzt einen großen Teil dieser Software frei verfügbar. Entwickler können ihre eigenen Modelle damit auf Ascend-Hardware bringen, ohne alles von Grund auf neu zu bauen. Das senkt die Hürde, überhaupt mit einer Alternative zu Nvidia zu experimentieren.
Ob die Qualität mit den ausgereiften Nvidia-Bibliotheken mithält, lässt sich zum jetzigen Zeitpunkt nicht beurteilen. Der Vergleich wäre erst nach unabhängigen Messungen auf gleicher Hardware möglich. Ehrlich gesagt: belastbare Zahlen fehlen bislang. Ganz gleich, wie überzeugend die Eigenwerte klingen.
Für Entwickler spannend
- Vollständige Werkzeugkette für Ascend-Chips, frei zugänglich
- Direkte Entsprechung zu den bekannten Nvidia-Komponenten
- Schneller Einstieg in Modell-Training auf alternativer Hardware
Noch unklar
- Unabhängig bestätigte Leistungswerte fehlen
- Reifegrad im Vergleich zu etablierten Nvidia-Bibliotheken
- Langfristige Pflege und Weiterentwicklung der Projekte
Wer selbst Modelle betreibt, findet die Projekte auf GitHub unter dem Dach von DeepSeek. Für die breite Öffentlichkeit ändert sich nichts unmittelbar, für die Kostenstruktur des KI-Betriebs könnte der Schritt jedoch Folgen haben.
