TensorPool

TensorPool führt Arbeit über ein Kommandozeilenwerkzeug aus, nicht über eine Web-Konsole. Sie definieren einen Job in einer Konfigurationsdatei und schieben ihn hoch wie einen Commit. Das spricht Ingenieure an, die ohnehin im Terminal arbeiten und die GPU-Bereitstellung in bestehende Skripte und CI-Pipelines einfügen wollen.

Jobs verhalten sich wie Codeänderungen. Sie reichen einen ein, beobachten seinen Zustand und holen die Ergebnisse ab, wenn er fertig ist. TensorPool berechnet nur die Laufzeit, Leerlauf zwischen Schritten schlägt also nicht auf die Rechnung. Das Modell passt besser zu wiederholbaren Trainingspipelines als zu einmaligen interaktiven Sitzungen.

Hinter der CLI sitzt ein Scheduler, der GPU-Anbieter vergleicht und die günstigste Option wählt, die zu Ihrem Job passt. Wird eine unterbrechbare Instanz verdrängt, startet die Spot-Wiederaufnahme den Lauf auf frischer Hardware neu, das Training läuft ohne manuelles Eingreifen weiter.

nb.dev ist die TensorPool-Variante von Jupyter, gebaut für ML-Arbeit. Es hängt eine GPU sofort an jedes Notebook, friert den kompletten Maschinenzustand samt GPU-Speicher und Modellgewichten ein und verzweigt diesen Schnappschuss auf beliebig viele neue Maschinen. Aus sequenziellem Ausprobieren werden so parallele Experimente.

TensorPool bietet leistungsfähigen geteilten NFS-Speicher plus einen S3-kompatiblen Objektspeicher. Die Objektebene ist weltweit verteilt und hält Daten nahe an Ihren GPUs, was laut Unternehmen die Latenz zwischen Regionen gegenüber Cloudflare R2 senkt. Der geteilte Speicher hält Datensätze und Checkpoints von jedem Knoten eines Jobs aus erreichbar.

Jeder Job läuft in einem Container, Sie bringen also Ihre eigene Umgebung und Ihre Abhängigkeiten mit. Das vermeidet die Versionsdrift, die handgebaute GPU-Server plagt, und ein Job, der auf Ihrem Laptop läuft, verhält sich auf dem Cluster genauso.

Die Preisseite listet jede GPU pro Stunde und vergleicht sie direkt mit Lambda Labs und den großen Clouds. Die B200 liegt bei 4,99 Dollar pro Stunde, die L40S bei 1,49, die CPU bei 0,015. Es gibt keine versteckte Plattformgebühr, und Speicher wird separat pro Terabyte abgerechnet.

Der Standardplan deckt bis zu 128 GPUs auf Abruf ab, Unternehmensverträge skalieren mit einem SLA von 99,9 % Verfügbarkeit in die Tausende. Teams starten mit einer einzelnen Karte und lassen denselben Workflow ohne Plattformwechsel zu einem großen Cluster wachsen.