Thunder Compute
Thunder Compute · Autres
Thunder Compute est un cloud GPU sans serveur pour les développeurs. Il loue des instances A100 et H100 à la minute et crée des sandboxes à la seconde.
À propos de Thunder Compute
Qu'est-ce que Thunder Compute
Thunder Compute est un fournisseur de GPU cloud conçu pour ceux qui entraînent des modèles, lancent des évaluations ou laissent leurs agents consommer du calcul sans frein. Vous ne provisionnez pas une machine des mois à l'avance et vous ne réservez pas une baie. Vous demandez un GPU, vous l'obtenez en moins d'une minute, vous exécutez votre code et vous arrêtez de payer quand le travail s'arrête. Voilà l'argument en une ligne. Pas de file d'attente, pas de matériel au repos.
L'entreprise a démarré comme laboratoire de recherche en systèmes. Les fondateurs se sont rencontrés à Georgia Tech, où les chercheurs réservaient du temps GPU des semaines à l'avance dans un tableur partagé, si bien que les expériences se bloquaient dès qu'un autre détenait la réservation. Ce goulot d'étranglement est devenu le produit : Thunder Compute virtualise les GPU pour que le matériel reste occupé au lieu de dormir entre deux réservations. Y Combinator a soutenu l'équipe dans sa promotion de l'été 2024.
Le prix du GPU cloud compte autant que la technologie. La plupart des fournisseurs vous arrondissent à l'heure et facturent les données à la sortie. Ici, non. Alors combien cela vous fait-il vraiment économiser ? Tout dépend du temps mort que vous consommez aujourd'hui.
Le service se divise en deux produits. Les instances sont des machines GPU persistantes auxquelles vous vous connectez et que vous gardez, facturées à la minute tant qu'elles tournent. Les sandboxes sont des tâches isolées et de courte durée que vous pouvez multiplier par centaines avec quelques lignes de Python, facturées à la seconde. Les deux tournent sur la même flotte, ce qui compte si vous tenez à ce que la location d'A100 et la capacité du cloud GPU H100 restent disponibles quand vous en avez besoin. La principale limite est la portée : c'est une infrastructure pour ceux qui savent déjà coder. Il n'y a pas de constructeur visuel sans code, et si votre charge tient sur un GPU de portable, louer à l'heure a rarement du sens. Sachez ce que vous achetez.
Pour commencer
- Inscrivez-vous sur la console et ajoutez un moyen de paiement, car la facturation démarre dès qu'un GPU s'allume.
- Choisissez un éditeur ou une interface : l'extension VS Code, la ligne de commande, la console web ou le serveur MCP pour les flux d'agents.
- Créez une instance avec une seule commande comme
tnr create --gpu a100, ou ouvrez un sandbox depuis Python avec la bibliothèquethunder_sandbox. - Connectez-vous depuis VS Code, la CLI ou votre navigateur et exécutez votre code existant sur le GPU.
- Faites un snapshot du disque quand vous avez terminé si vous voulez garder votre environnement, puis éteignez l'instance pour arrêter le compteur.
Informations sur le produit
Aperçu des tarifs, des plateformes compatibles et des performances de Thunder Compute.
Idéal pour
Les utilisateurs, tâches et cas d'usage où cet outil convient le mieux.
Utilisateurs
- Ingénieurs machine learning
- Chercheurs en IA qui lancent des évaluations
- Équipes de startup attentives à leur trésorerie
- Développeurs d'agents
Tâches
- Entraîner et affiner des modèles
- Exécuter des environnements RL et des évaluations à l'échelle
- Tâches courtes et en rafale
- Prototyper du code de modèle
Cas d'usage
- Un laboratoire de recherche qui réserve aujourd'hui du temps GPU partagé des semaines à l'avance.
- Un agent qui a besoin d'un GPU pendant quelques minutes au cours d'une longue boucle de raisonnement.
- Un développeur solo qui vérifie si un modèle plus grand tient dans son pipeline avant de signer un gros contrat cloud.
Fonctionnalités clés
Facturation à la minute et à la seconde
Les instances facturent à la minute tant qu'elles tournent, et les sandboxes facturent à la seconde. Cet écart compte : une tâche qui finit en 90 secondes vous coûte 90 secondes, pas un arrondi à l'heure. Les vCPU supplémentaires et le disque suivent la même horloge, et le stockage des snapshots est la seule pièce facturée à part jusqu'à sa suppression. Facile à négliger. Gros sur la facture.
Des instances que vous gardez et sauvegardez
Une instance est une machine GPU persistante à laquelle vous vous connectez et sur laquelle vous restez. Vous choisissez le GPU (RTX A6000, L40, A100 80GB ou H100 SXM), fixez les vCPU, la RAM et le disque, puis faites un snapshot du disque à la fin. Le snapshot conserve votre environnement entre les exécutions, si bien que la session suivante démarre déjà configurée au lieu de reconstruire la même pile de dépendances chaque fois que vous vous mettez au travail. Pratique quand un script d'installation prend plus de temps que la tâche elle-même.
Des sandboxes GPU pour le travail en parallèle
Les sandboxes sont des tâches isolées qui montent et descendent jusqu'à zéro. Vous les lancez depuis Python avec la bibliothèque thunder_sandbox, fixez un délai et en démarrez des centaines en parallèle. Chacun peut embarquer son propre GPU, ou tourner uniquement sur CPU pour des tâches plus légères. Ils sont effacés à la fin, ce qui garde les environnements isolés propres. Pour les évaluations et l'apprentissage par renforcement, cette montée en charge est tout l'intérêt. Une seule machine ne suit pas des centaines de rollouts. Des dizaines, oui.
Plusieurs façons d'accéder
Vous pouvez piloter Thunder Compute depuis une extension VS Code ou Cursor, la ligne de commande, une console web ou un serveur MCP. La CLI réduit l'installation à quelques commandes. Le serveur MCP laisse les agents de codage demander des GPU d'eux-mêmes. Choisissez la surface qui correspond à votre façon de travailler.
Aucun frais de sortie
Les données qui quittent la plateforme ne coûtent rien. Pour les équipes qui font entrer et sortir de grands jeux de données ou des checkpoints de modèles, cette facture dépasse souvent celle des GPU eux-mêmes chez d'autres fournisseurs. Thunder Compute supprime le poste entièrement. Si vous avez déjà téléchargé un checkpoint de 200 GB et vu apparaître un frais surprise, vous apprécierez ce point. Gratuit veut dire gratuit.
Capacité réservée pour les gros travaux
Quand un GPU ne suffit pas, la capacité réservée offre de 8 à plus de 512 GPU avec une remise sur le tarif à la demande. Une réservation A100 démarre à 1,49 $ par GPU-heure contre 1,09 $ à la demande, et une H100 réservée se situe à 3,20 $ par GPU-heure. Elle vise les équipes avec des entraînements importants et réguliers, pas les tâches occasionnelles. Les petits tests ponctuels ont intérêt à rester à la demande.
Avantages et inconvénients
Avantages
- La facturation à la minute et à la seconde fait que vous ne payez que pendant que les charges tournent vraiment.
- Aucun frais de sortie de données, ce qui supprime un coût qui grimpe vite sur les gros transferts de modèles.
- Quatre interfaces (VS Code, CLI, console, serveur MCP) conviennent à des flux différents, y compris ceux pilotés par des agents.
- L'installation tient en une commande, et un GPU est prêt en moins d'une minute.
- La comparaison de prix publiée le place sous Lambda, Runpod et les grands fournisseurs cloud sur des GPU similaires.
Inconvénients
- Il n'y a pas d'offre gratuite, donc vous ne pouvez pas tester la plateforme sans ajouter d'abord un moyen de paiement.
- C'est conçu pour des développeurs qui codent ; il n'existe pas d'interface visuelle sans code pour les utilisateurs non techniques.
- La capacité réservée multi-GPU démarre à 8 GPU et exige de contacter le service commercial, ce qui écarte les petites tâches ponctuelles et rend la remise difficile à atteindre si vous ne lancez pas déjà de gros entraînements.
Questions fréquentes
Il loue des GPU cloud pour le travail d'IA : entraîner et affiner des modèles, lancer des évaluations et des environnements d'apprentissage par renforcement, et fournir du calcul à la demande aux agents. Vous exécutez votre code existant sur le GPU au lieu de le réécrire pour la plateforme.
Contenus associés
Découvrez des outils, des compétences et des articles liés à Thunder Compute.
Alternatives à Thunder Compute
Odyssey 3
Odyssey · AutresOdyssey-3 est le modèle du monde fondationnel d'Odyssey. Il simule la physique en temps réel, transforme une consigne en environnement interactif et s'adapte aux robots, voitures et jeux.
JarvisCore
Prescott Data · Programmation · Productivité · AutresJarvisCore est un runtime Python open source où les agents IA travaillent en pairs sur un maillage, prennent les tâches dans un registre partagé et joignent les services externes via un broker zero trust.
Clef
Cloudflare · Entreprise · AutresClef est le modèle de décision open source de Cloudflare pour Workers AI. Il renvoie des probabilités calibrées pour des questions typées au lieu de texte, ce qui permet à un agent de classer, router et agir vite.