Thunder Compute

Thunder Compute ist ein Cloud-GPU-Anbieter für alle, die Modelle trainieren, Evaluierungen laufen lassen oder ihre Agenten Rechenleistung verbrauchen lassen. Sie richten keine Maschine Monate im Voraus ein und reservieren kein Rack. Sie fordern eine GPU an, bekommen sie in unter einer Minute, führen Ihren Code aus und hören auf zu zahlen, wenn die Aufgabe endet. Das ist das Versprechen in einem Satz. Keine Warteschlange, keine Leerlauf-Hardware.

Das Unternehmen begann als Forschungslabor für Systeme. Die Gründer lernten sich am Georgia Tech kennen, wo Forschende GPU-Zeit Wochen im Voraus über eine geteilte Tabelle buchten, sodass Experimente stockten, sobald jemand anderes die Reservierung hielt. Dieser Engpass wurde zum Produkt: Thunder Compute virtualisiert GPUs, damit die Hardware beschäftigt bleibt, statt zwischen Reservierungen leerzustehen. Y Combinator unterstützte das Team in seinem Sommer-Batch 2024.

Der Preis für Cloud-GPUs wiegt genauso schwer wie die Technologie. Die meisten Anbieter runden auf die Stunde auf und berechnen die Daten beim Verlassen. Hier nicht. Was spart das nun wirklich? Es hängt davon ab, wie viel Leerlaufzeit Sie derzeit verbrauchen.

Der Dienst teilt sich in zwei Produkte. Instanzen sind dauerhafte GPU-Maschinen, mit denen Sie sich verbinden und die Sie behalten, abgerechnet pro Minute, solange sie laufen. Sandboxes sind kurzlebige, isolierte Aufträge, die Sie mit ein paar Zeilen Python zu Hunderten auffächern können, abgerechnet pro Sekunde. Beide laufen auf derselben Flotte, was zählt, wenn Ihnen daran liegt, dass A100-Miete und die Kapazität der H100-GPU-Cloud verfügbar bleiben, wenn Sie sie brauchen. Die wichtigste Grenze ist der Umfang: Das ist Infrastruktur für Menschen, die bereits programmieren können. Es gibt keinen Drag-and-drop-Baukasten, und wenn Ihr Workload auf eine Laptop-GPU passt, ergibt das Mieten pro Stunde selten Sinn. Wissen Sie, was Sie kaufen.

Erste Schritte

1. Registrieren Sie sich in der Konsole und fügen Sie eine Zahlungsmethode hinzu, denn die Abrechnung beginnt in dem Moment, in dem eine GPU startet.
2. Wählen Sie einen Editor oder eine Schnittstelle: die VS-Code-Erweiterung, die Kommandozeile, die Webkonsole oder den MCP-Server für Agent-Workflows.
3. Erstellen Sie eine Instanz mit einem einzigen Befehl wie tnr create --gpu a100, oder öffnen Sie eine Sandbox aus Python mit der Bibliothek thunder_sandbox.
4. Verbinden Sie sich aus VS Code, der CLI oder Ihrem Browser und führen Sie Ihren vorhandenen Code auf der GPU aus.
5. Erstellen Sie am Ende einen Snapshot der Festplatte, wenn Sie Ihre Umgebung behalten wollen, und fahren Sie die Instanz dann herunter, um den Zähler zu stoppen.