Unsloth
Unsloth AI · Programmation
Unsloth est une plateforme open source pour exécuter et entraîner des modèles d'IA sur votre propre machine, que vous utilisiez l'application de bureau, l'interface web Studio ou du Python pur. En tant qu'outil d'affinage de LLM, il s'est rendu populaire en rendant l'entraînement LoRA et QLoRA bien plus rapide tout en consommant beaucoup moins de mémoire GPU. Il sert aussi d'entraîneur local de modèles d'IA, ce qui vous permet d'exécuter des LLM en local pour l'inférence, le RAG et les flux de travail avec agents. Vous ne payez pas le logiciel lui-même. Vous apportez le matériel, et le code reste gratuit sous la licence Apache 2.0.
À propos de Unsloth
Qu'est-ce qu'Unsloth
Unsloth est un outil gratuit pour entraîner et exécuter de grands modèles de langage (LLM) et des modèles de diffusion sur votre propre matériel. Il a commencé comme une bibliothèque d'entraînement de LLM open source qui réécrivait les parties lentes du travail avec LoRA, et il est devenu une plateforme locale complète. Cela comprend une application de bureau pour Windows, macOS et Linux, ainsi qu'une interface Studio pour parcourir les modèles, discuter et gérer les entraînements.
Le principal problème qu'il résout, c'est l'appétit de ressources. Avant, l'affinage exigeait un GPU coûteux et beaucoup de configuration. Plus maintenant. Avec Unsloth, vous affinez des modèles de quelques milliards de paramètres sur une seule carte grand public. Les notebooks officiels vous laissent l'essayer gratuitement sur Google Colab ou Kaggle. L'entreprise affirme que ses kernels rendent l'entraînement jusqu'à 2 fois plus rapide et réduisent fortement l'usage de mémoire, si bien qu'un modèle qui demandait une carte de centre de données peut désormais tenir sur un PC de jeu.
Le hic est technique. Unsloth vit dans Python et la ligne de commande, et le flux de travail par notebooks suppose que vous savez ce qu'est un jeu de données et un entraînement. Il n'y a pas d'accompagnement pour les vrais débutants, et exécuter de grands modèles demande encore un vrai GPU avec assez de VRAM. Et si vous êtes sur téléphone ? Alors ce n'est pas l'outil qu'il vous faut.
Pour commencer
- Vérifiez votre matériel. Unsloth fonctionne sous Windows, Linux, WSL et macOS, et prend en charge les GPU NVIDIA, AMD et Intel ainsi que les CPU et le backend Vulkan. La documentation officielle liste la VRAM minimale pour chaque taille de modèle.
- Choisissez une méthode d'installation. Téléchargez l'application de bureau depuis le site ou GitHub Releases, lancez le script d'installation ou utilisez l'image Docker. Pour le travail sur code, installez le paquet Python avec pip.
- Ouvrez les notebooks gratuits si vous voulez éviter la configuration. Les notebooks Colab et Kaggle incluent du calcul GPU, et vous ajoutez votre propre jeu de données.
- Chargez un modèle et un jeu de données. Choisissez par exemple un petit modèle instruct pour commencer, puis pointez le notebook vers vos données.
- Entraînez, sauvegardez et exportez. Lancez la cellule d'entraînement, puis fusionnez ou exportez vos poids et servez le modèle en local.
Informations sur le produit
Aperçu des tarifs, des plateformes compatibles et des performances de Unsloth.
Idéal pour
Les utilisateurs, tâches et cas d'usage où cet outil convient le mieux.
Utilisateurs
- Développeurs indépendants et passionnés avec un GPU grand public
- Chercheurs en apprentissage automatique qui font des expériences
- Petites équipes qui veulent une IA privée et locale
Tâches
- Affiner un LLM sur des données métier
- Séances d'apprentissage par renforcement
- Exécuter des modèles locaux avec RAG et agents
Cas d'usage
- Prototyper une fonctionnalité d'IA sans factures cloud
- Garder des données sensibles hors des serveurs tiers
- Construire un assistant spécialisé pour un portable ou une station de travail
Fonctionnalités clés
Affinage rapide avec moins de mémoire
Unsloth réécrit les parties lentes de l'entraînement LoRA et QLoRA avec des kernels personnalisés, donc les séances finissent plus vite et tiennent dans moins de VRAM. L'entreprise rapporte un entraînement jusqu'à 2 fois plus rapide et de grosses économies de mémoire sans perte de précision. En pratique, un affinage qui demandait un GPU loué peut tourner sur une seule carte grand public.
Notebooks gratuits pour Colab et Kaggle
Le projet fournit des notebooks prêts à l'emploi pour des modèles comme Qwen, Gemma, DeepSeek et gpt-oss. Vous cliquez sur « Run all », ajoutez un jeu de données et entraînez sans configurer de pilotes ni CUDA à la main. C'est le moyen le plus rapide d'essayer l'affinage avant d'installer quoi que ce soit.
Application de bureau et interface Studio locale
L'application de bureau native pour Windows, macOS et Linux vous donne une interface locale pour exécuter et entraîner des modèles. Studio, le notebook compagnon, vous laisse parcourir les modèles, discuter avec eux et gérer les entraînements dans une vue à clics plutôt qu'en code. Il couvre les modèles de moins de 22B paramètres.
Inférence locale, RAG et agents
Unsloth ne sert pas qu'à l'entraînement. Vous pouvez servir des modèles en local avec recherche web privée, génération par récupération (RAG) et contexte glissant. Il se connecte à des outils comme Claude Code, Codex et les serveurs MCP. L'appel d'outils et l'exécution de code fonctionnent aussi, donc un modèle local peut agir comme assistant.
Large prise en charge des modèles et du matériel
Il exécute des modèles de texte, de vision, d'audio, d'embedding et de diffusion, et fonctionne sur les GPU NVIDIA, AMD et Intel ainsi que sur les CPU et le backend Vulkan. Les configurations multi-GPU sont prises en charge, et la même installation couvre Windows, Linux, WSL et macOS que vous branchiez une carte ou plusieurs. Cette variété signifie que vous n'êtes pas enfermé chez un seul fabricant quand vous montez votre poste.
Accès distant et réseau local
Vous joignez vos modèles locaux depuis n'importe quel appareil de votre réseau local, ou de façon sécurisée par internet via Cloudflare HTTPS. Cela transforme un seul GPU de bureau en petit serveur privé de modèles que vous utilisez depuis un téléphone ou une autre machine.
Avantages et inconvénients
Avantages
- Gratuit et open source sous la licence Apache 2.0, sans abonnement pour le logiciel principal.
- Gros gains de vitesse et de mémoire pour l'affinage, ce qui réduit le coût d'entraîner sur votre propre GPU.
- Les notebooks gratuits Colab et Kaggle vous laissent tester le flux de travail sans posséder de matériel.
- Large prise en charge des modèles et du matériel, y compris NVIDIA, AMD, Intel et les configurations CPU uniquement.
- Va au-delà de l'entraînement vers l'inférence locale, le RAG et l'usage avec agents.
Inconvénients
- Le flux de travail est d'abord orienté code, donc les débutants affrontent une vraie courbe d'apprentissage avec Python et les jeux de données.
- Les modèles plus grands demandent encore un GPU capable avec beaucoup de VRAM, donc un matériel faible limite ce que vous pouvez entraîner.
- Aucune API hébergée n'est proposée, ce qui signifie que vous gérez vous-même le service et la montée en charge.
- La documentation évolue vite, et un projet qui change rapidement peut rendre les anciens tutoriels obsolètes.
Questions fréquentes
Oui. Unsloth est open source sous la licence Apache 2.0, et le logiciel principal ne coûte rien. Vous payez seulement votre propre matériel. Le temps GPU cloud est optionnel.
Contenus associés
Découvrez des outils, des compétences et des articles liés à Unsloth.
Alternatives à Unsloth
Forefront
Forefront · ProgrammationForefront est une plateforme web pour construire avec de l'IA open source. Elle vous laisse affiner les principaux modèles de langage open source sur vos propres données, évaluer leurs performances et les exécuter via une API ou les exporter pour les héberger vous-même. Les développeurs qui veulent le confort d'une plateforme fermée mais tiennent à rester propriétaires de leurs modèles et de leurs données sont le public visé ici.
Startkit
StartKit.AI · ProgrammationStartkit est un boilerplate pour créer des produits SaaS d'IA et des wrappers d'IA. Voyez-le comme un boilerplate de startup IA avec les parties ennuyeuses déjà branchées : authentification, paiements Stripe et Lemon Squeezy, limites d'usage, e-mail transactionnel et un kit de démarrage d'API IA qui parle à OpenAI, Anthropic, Groq ou Llama. Vous clonez le dépôt, fixez votre prix et attaquez la partie du produit pour laquelle les gens paient vraiment. Il repose sur Next.js au-dessus de React et Tailwind, donc une bonne partie du code boilerplate vous semble déjà familière.
Testim
Tricentis · ProgrammationTestim est une plateforme d'automatisation des tests dopée à l'IA, qui sert à créer et exécuter des tests de bout en bout sur des applications web, mobiles et Salesforce. Elle s'appuie sur l'apprentissage automatique pour garder les tests stables quand une interface change, alors les équipes passent moins de temps à réparer des sélecteurs cassés. Pas mal pour un outil de tests automatisés que vous pouvez utiliser dès aujourd'hui. Vous créez des tests en enregistrant des actions dans un navigateur, puis vous ajoutez du JavaScript quand vous avez besoin de plus de contrôle. C'est un choix solide pour une équipe QA bien occupée.