Unsloth
Unsloth AI · Programación
Unsloth es una plataforma de código abierto para ejecutar y entrenar modelos de IA en tu propia máquina, ya sea con la app de escritorio, la interfaz web Studio o Python puro. Como herramienta de ajuste fino de LLM, se hizo popular por hacer que el entrenamiento con LoRA y QLoRA fuera mucho más rápido y usara mucha menos memoria de GPU. También funciona como entrenador local de modelos de IA, así que puedes ejecutar LLM localmente para inferencia, RAG y flujos de trabajo con agentes. No pagas por el software en sí. Tú pones el hardware, y el código sigue siendo gratis bajo la licencia Apache 2.0.
Acerca de Unsloth
Qué es Unsloth
Unsloth es una herramienta gratuita para entrenar y ejecutar modelos de lenguaje grandes (LLM) y modelos de difusión en tu propio hardware. Empezó como una biblioteca de entrenamiento de LLM de código abierto que reescribió las partes lentas del trabajo con LoRA, y ha crecido hasta convertirse en una plataforma local completa. Eso incluye una app de escritorio para Windows, macOS y Linux, además de una interfaz Studio para explorar modelos, chatear y gestionar los entrenamientos.
El problema principal que resuelve es el hambre de recursos. Antes, el ajuste fino exigía una GPU cara y mucha configuración. Ahora no. Con Unsloth, puedes ajustar modelos de unos pocos miles de millones de parámetros en una sola tarjeta de consumo. Los cuadernos oficiales te dejan probarlo gratis en Google Colab o Kaggle. La compañía afirma que sus kernels hacen que el entrenamiento sea hasta 2 veces más rápido y reducen el uso de memoria por un margen amplio, así que un modelo que necesitaba una tarjeta de centro de datos ahora puede caber en un PC de juegos.
El pero está en lo técnico. Unsloth vive en Python y la línea de comandos, y el flujo de trabajo con cuadernos espera que sepas qué es un conjunto de datos y una corrida de entrenamiento. No hay ayuda para principiantes totales, y ejecutar modelos grandes todavía requiere una GPU real con suficiente VRAM. ¿Y si estás en un teléfono? Entonces esta no es la herramienta que buscas.
Primeros pasos
- Revisa tu hardware. Unsloth funciona en Windows, Linux, WSL y macOS, y admite GPUs NVIDIA, AMD e Intel, además de CPU y el backend Vulkan. La documentación oficial lista la VRAM mínima para cada tamaño de modelo.
- Elige una ruta de instalación. Descarga la app de escritorio desde el sitio o GitHub Releases, ejecuta el script de instalación o usa la imagen Docker. Para trabajar con código, instala el paquete de Python con pip.
- Abre los cuadernos gratuitos si quieres saltarte la configuración. Los cuadernos de Colab y Kaggle vienen con cómputo de GPU, y tú añades tu propio conjunto de datos.
- Carga un modelo y un conjunto de datos. Elige algo como un modelo instruct pequeño para empezar, luego apunta el cuaderno a tus datos.
- Entrena, guarda y exporta. Ejecuta la celda de entrenamiento, luego fusiona o exporta tus pesos y sirve el modelo localmente.
Información del producto
Un vistazo rápido a los precios, las plataformas compatibles y el rendimiento de Unsloth.
Ideal para
Los usuarios, tareas y casos de uso en los que esta herramienta encaja mejor.
Usuarios
- Desarrolladores individuales y aficionados con una GPU de consumo
- Investigadores de aprendizaje automático que hacen experimentos
- Equipos pequeños que quieren IA privada y local
Tareas
- Ajustar un LLM con datos de dominio
- Corridas de aprendizaje por refuerzo
- Ejecutar modelos locales con RAG y agentes
Casos de uso
- Prototipar una función de IA sin facturas de nube
- Mantener datos sensibles fuera de servidores de terceros
- Construir un asistente especializado para un portátil o estación de trabajo
Funciones clave
Ajuste fino rápido con menos memoria
Unsloth reescribe las partes lentas del entrenamiento con LoRA y QLoRA usando kernels personalizados, así que las corridas terminan antes y caben en menos VRAM. La compañía reporta un entrenamiento hasta 2 veces más rápido y grandes ahorros de memoria sin perder precisión. En la práctica, un ajuste fino que antes necesitaba una GPU alquilada puede correr en una sola tarjeta de consumo.
Cuadernos gratuitos para Colab y Kaggle
El proyecto incluye cuadernos listos para usar con modelos como Qwen, Gemma, DeepSeek y gpt-oss. Haces clic en "Run all", añades un conjunto de datos y entrenas sin configurar drivers ni CUDA a mano. Esta es la forma más rápida de probar el ajuste fino antes de instalar nada.
App de escritorio e interfaz Studio local
La app nativa de escritorio para Windows, macOS y Linux te da una interfaz local para ejecutar y entrenar modelos. Studio, el cuaderno complementario, te deja explorar modelos, chatear con ellos y gestionar los entrenamientos en una vista de apuntar y hacer clic en lugar de código. Cubre modelos de menos de 22B parámetros.
Inferencia local, RAG y agentes
Unsloth no es solo para entrenar. Puedes servir modelos localmente con búsqueda web privada, generación basada en recuperación (RAG) y contexto deslizante. Se conecta a herramientas como Claude Code, Codex y servidores MCP. La llamada a herramientas y la ejecución de código también funcionan, así que un modelo local puede actuar como asistente.
Amplio soporte de modelos y hardware
Ejecuta modelos de texto, visión, audio, embedding y difusión, y funciona en GPUs NVIDIA, AMD e Intel, además de CPU y el backend Vulkan. También se admiten configuraciones multi-GPU, y la misma instalación cubre Windows, Linux, WSL y macOS tanto si conectas una tarjeta como varias. Esa variedad significa que no quedas atado al hardware de un solo fabricante cuando armas tu equipo.
Acceso remoto y por LAN
Puedes alcanzar tus modelos locales desde cualquier dispositivo de tu red local, o de forma segura por internet a través de Cloudflare HTTPS. Esto convierte una sola GPU de escritorio en un pequeño servidor privado de modelos que puedes usar desde un teléfono u otra máquina.
Ventajas y desventajas
Ventajas
- Gratis y de código abierto bajo la licencia Apache 2.0, sin suscripción para el software principal.
- Grandes ganancias de velocidad y memoria para el ajuste fino, lo que baja el costo de entrenar en tu propia GPU.
- Los cuadernos gratuitos de Colab y Kaggle te dejan probar el flujo de trabajo sin tener hardware.
- Amplio soporte de modelos y hardware, incluidos NVIDIA, AMD, Intel y configuraciones solo con CPU.
- Crece más allá del entrenamiento hacia inferencia local, RAG y uso con agentes.
Desventajas
- El flujo de trabajo es primero el código, así que los principiantes enfrentan una curva de aprendizaje real con Python y conjuntos de datos.
- Los modelos más grandes todavía necesitan una GPU capaz con bastante VRAM, así que un hardware débil limita lo que puedes entrenar.
- No se ofrece ninguna API alojada, lo que significa que tú te encargas de servir y escalar.
- La documentación avanza rápido, y un proyecto que cambia deprisa puede dejar tutoriales viejos desactualizados.
Preguntas frecuentes
Sí. Unsloth es de código abierto bajo la licencia Apache 2.0, y el software principal no cuesta nada. Solo pagas tu propio hardware. El tiempo de GPU en la nube es opcional.
Contenido relacionado
Explora herramientas, habilidades y artículos relacionados con Unsloth.
Alternativas a Unsloth
Forefront
Forefront · ProgramaciónForefront es una plataforma web para construir con IA de código abierto. Te deja ajustar los principales modelos de lenguaje de código abierto con tus propios datos, evaluar cómo rinden y ejecutarlos a través de una API o exportarlos para alojarlos tú mismo. Los desarrolladores que quieren la comodidad de una plataforma cerrada pero insisten en ser dueños de sus modelos y sus datos son el público objetivo.
Startkit
StartKit.AI · ProgramaciónStartkit es un boilerplate para crear productos de SaaS con IA y wrappers de IA. Piénsalo como un boilerplate para startups de IA con las partes aburridas ya conectadas: autenticación, pagos con Stripe y Lemon Squeezy, límites de uso, correo transaccional y un kit de inicio de API de IA que habla con OpenAI, Anthropic, Groq o Llama. Clonas el repositorio, pones tu precio y te dedicas a la parte del producto por la que la gente paga de verdad. Está hecho con Next.js sobre React y Tailwind, así que buena parte del código boilerplate ya te resulta familiar.
Testim
Tricentis · ProgramaciónTestim es una plataforma de automatización de pruebas impulsada por IA para crear y ejecutar pruebas de extremo a extremo en aplicaciones web, móviles y Salesforce. Se apoya en el aprendizaje automático para mantener las pruebas estables cuando cambia una interfaz, así que los equipos dedican menos tiempo a reparar selectores rotos. No está nada mal para una herramienta de pruebas automatizadas que puedes empezar a usar hoy mismo. Creas pruebas grabando acciones en un navegador y luego añades JavaScript cuando necesitas más control. Es una opción sólida para equipos de QA con mucho trabajo.