Unsloth
Unsloth AI · Programação
O Unsloth é uma plataforma de código aberto para executar e treinar modelos de IA na sua própria máquina, seja pelo app de desktop, pela interface web Studio ou por Python puro. Como ferramenta de ajuste fino de LLM, ficou popular por tornar o treinamento com LoRA e QLoRA muito mais rápido e usar muito menos memória de GPU. Ele também funciona como treinador local de modelos de IA, então você pode executar LLMs localmente para inferência, RAG e fluxos com agentes. Você não paga pelo software em si. Você traz o hardware, e o código continua gratuito sob a licença Apache 2.0.
Sobre Unsloth
O que é o Unsloth
O Unsloth é uma ferramenta gratuita para treinar e executar modelos de linguagem grandes (LLMs) e modelos de difusão no seu próprio hardware. Ele começou como uma biblioteca de treinamento de LLM de código aberto que reescreveu as partes lentas do trabalho com LoRA, e cresceu até virar uma plataforma local completa. Isso inclui um app de desktop para Windows, macOS e Linux, além de uma interface Studio para navegar por modelos, conversar e gerenciar treinamentos.
O principal problema que ele resolve é a fome de recursos. Antes, o ajuste fino exigia uma GPU cara e muita configuração. Agora não. Com o Unsloth, você ajusta modelos com alguns bilhões de parâmetros em uma única placa de consumidor. Os notebooks oficiais deixam você testar de graça no Google Colab ou no Kaggle. A empresa afirma que seus kernels tornam o treinamento até 2 vezes mais rápido e cortam o uso de memória por uma margem ampla, então um modelo que precisava de uma placa de data center agora pode caber em um PC gamer.
O porém é técnico. O Unsloth vive em Python e na linha de comando, e o fluxo com notebooks espera que você saiba o que é um conjunto de dados e um treinamento. Não há ajuda para iniciantes totais, e executar modelos grandes ainda exige uma GPU de verdade com VRAM suficiente. E se você está no celular? Então essa não é a ferramenta que você procura.
Primeiros passos
- Verifique seu hardware. O Unsloth funciona no Windows, Linux, WSL e macOS, e aceita GPUs NVIDIA, AMD e Intel, além de CPU e o backend Vulkan. A documentação oficial lista a VRAM mínima para cada tamanho de modelo.
- Escolha um caminho de instalação. Baixe o app de desktop no site ou no GitHub Releases, rode o script de instalação ou use a imagem Docker. Para trabalhar com código, instale o pacote Python com pip.
- Abra os notebooks gratuitos se quiser pular a configuração. Os notebooks do Colab e do Kaggle vêm com computação de GPU, e você adiciona seu próprio conjunto de dados.
- Carregue um modelo e um conjunto de dados. Escolha algo como um modelo instruct pequeno para começar, depois aponte o notebook para seus dados.
- Treine, salve e exporte. Rode a célula de treinamento, depois faça o merge ou exporte seus pesos e sirva o modelo localmente.
Informações do produto
Uma visão rápida dos preços, das plataformas compatíveis e do desempenho de Unsloth.
Ideal para
Os usuários, tarefas e cenários em que esta ferramenta se encaixa melhor.
Usuários
- Desenvolvedores individuais e entusiastas com uma GPU de consumidor
- Pesquisadores de aprendizado de máquina que fazem experimentos
- Equipes pequenas que querem IA privada e local
Tarefas
- Ajustar um LLM com dados de domínio
- Rodadas de aprendizado por reforço
- Executar modelos locais com RAG e agentes
Cenários
- Prototipar um recurso de IA sem contas de nuvem
- Manter dados sensíveis fora de servidores de terceiros
- Construir um assistente especializado para um notebook ou estação de trabalho
Principais recursos
Ajuste fino rápido com menos memória
O Unsloth reescreve as partes lentas do treinamento com LoRA e QLoRA usando kernels personalizados, então as rodadas terminam mais rápido e cabem em menos VRAM. A empresa relata treinamento até 2 vezes mais rápido e grandes economias de memória sem perda de precisão. Na prática, um ajuste fino que antes precisava de uma GPU alugada pode rodar em uma única placa de consumidor.
Notebooks gratuitos para Colab e Kaggle
O projeto traz notebooks prontos para usar com modelos como Qwen, Gemma, DeepSeek e gpt-oss. Você clica em "Run all", adiciona um conjunto de dados e treina sem configurar drivers ou CUDA na mão. Esse é o jeito mais rápido de testar o ajuste fino antes de instalar qualquer coisa.
App de desktop e interface Studio local
O app de desktop nativo para Windows, macOS e Linux dá a você uma interface local para executar e treinar modelos. O Studio, o notebook complementar, deixa você navegar por modelos, conversar com eles e gerenciar treinamentos em uma visão de clicar e apontar em vez de código. Ele cobre modelos com menos de 22B parâmetros.
Inferência local, RAG e agentes
O Unsloth não serve só para treinar. Você pode servir modelos localmente com busca na web privada, geração baseada em recuperação (RAG) e contexto rolante. Ele se conecta a ferramentas como Claude Code, Codex e servidores MCP. A chamada de ferramentas e a execução de código também funcionam, então um modelo local pode atuar como assistente.
Amplo suporte a modelos e hardware
Ele roda modelos de texto, visão, áudio, embedding e difusão, e funciona em GPUs NVIDIA, AMD e Intel, além de CPU e o backend Vulkan. Configurações com várias GPUs também são suportadas, e a mesma instalação cobre Windows, Linux, WSL e macOS, seja você conectando uma placa ou várias. Essa variedade significa que você não fica preso ao hardware de um único fabricante quando monta seu setup.
Acesso remoto e por LAN
Você acessa seus modelos locais de qualquer dispositivo na sua rede local, ou com segurança pela internet através do Cloudflare HTTPS. Isso transforma uma única GPU de desktop em um pequeno servidor privado de modelos que você usa pelo celular ou por outra máquina.
Prós e contras
Prós
- Gratuito e de código aberto sob a licença Apache 2.0, sem assinatura para o software principal.
- Grandes ganhos de velocidade e memória no ajuste fino, o que baixa o custo de treinar na sua própria GPU.
- Notebooks gratuitos do Colab e do Kaggle deixam você testar o fluxo sem ter hardware.
- Amplo suporte a modelos e hardware, incluindo NVIDIA, AMD, Intel e setups só com CPU.
- Vai além do treinamento para inferência local, RAG e uso com agentes.
Contras
- O fluxo é código em primeiro lugar, então iniciantes encaram uma curva de aprendizado real com Python e conjuntos de dados.
- Modelos maiores ainda precisam de uma GPU capaz com bastante VRAM, então hardware fraco limita o que você pode treinar.
- Não há API hospedada, o que significa que você cuida do seu próprio serving e escalonamento.
- A documentação avança rápido, e um projeto que muda depressa pode deixar tutoriais antigos desatualizados.
Perguntas frequentes
Sim. O Unsloth é de código aberto sob a licença Apache 2.0, e o software principal não custa nada. Você paga apenas pelo seu próprio hardware. Tempo de GPU na nuvem é opcional.
Conteúdo relacionado
Explore ferramentas, skills e artigos relacionados a Unsloth.
Alternativas a Unsloth
Forefront
Forefront · ProgramaçãoO Forefront é uma plataforma web para construir com IA de código aberto. Você ajusta os principais modelos de linguagem de código aberto com seus próprios dados, avalia o desempenho deles e os roda por uma API ou os exporta para hospedar por conta própria. Desenvolvedores que querem a conveniência de uma plataforma fechada, mas fazem questão de ser donos dos modelos e dos dados, são o público-alvo aqui.
Startkit
StartKit.AI · ProgramaçãoStartkit é um boilerplate para criar produtos de SaaS com IA e wrappers de IA. Pense nele como um boilerplate para startups de IA com as partes chatas já conectadas: autenticação, pagamentos com Stripe e Lemon Squeezy, limites de uso, e-mail transacional e um kit inicial de API de IA que conversa com OpenAI, Anthropic, Groq ou Llama. Você clona o repositório, define seu preço e começa pela parte do produto que as pessoas realmente pagam. Ele é feito em Next.js sobre React e Tailwind, então boa parte do código boilerplate já parece familiar.
Testim
Tricentis · ProgramaçãoO Testim é uma plataforma de automação de testes com IA para criar e executar testes de ponta a ponta em aplicações web, mobile e Salesforce. Ele se apoia no aprendizado de máquina para manter os testes estáveis quando uma interface muda, então as equipes gastam menos tempo consertando seletores quebrados. Nada mal para uma ferramenta de testes automatizados que você pode começar a usar hoje. Você cria testes gravando ações no navegador e depois adiciona JavaScript quando precisa de mais controle. É uma escolha sólida para equipes de QA ocupadas.