Unsloth
Unsloth AI · コーディング
Unslothは、自分のマシンでAIモデルを実行・トレーニングするためのオープンソースプラットフォームだ。デスクトップアプリでも、StudioのWeb UIでも、生のPythonでも使える。LLM微調整ツールとして人気を集めた理由は、LoRAとQLoRAのトレーニングをはるかに速くしながら、GPUメモリの使用量を大幅に減らせる点にある。ローカルAIモデルトレーナーとしても機能するため、推論、RAG、エージェントのワークフロー用にLLMをローカルで動かせる。ソフトウェア自体に料金はかからない。ハードウェアを用意すれば、コードはApache 2.0ライセンスの下で無料のままだ。
Unsloth について
Unslothとは
Unslothは、大規模言語モデル（LLM）と拡散モデルを自分のハードウェアでトレーニング・実行するための無料ツールだ。LoRA作業の遅い部分を書き直したオープンソースのLLMトレーニングライブラリとして始まり、完全なローカルプラットフォームへと成長した。Windows、macOS、Linux向けのデスクトップアプリに加え、モデルの閲覧、チャット、トレーニング実行の管理を行うStudioインターフェースも含まれる。
これが解決する主な問題は、リソースの消費の激しさだ。以前は微調整に高価なGPUと多くのセットアップが必要だった。今は違う。Unslothなら、数十億パラメータのモデルを1枚のコンシューマー向けカードで微調整できる。公式ノートブックを使えば、Google ColabやKaggleで無料で試せる。同社によれば、独自のカーネルがトレーニングを最大2倍速くし、メモリ使用量を大きく削減するという。そのため、データセンター向けカードが必要だったモデルが、今ではゲーミングPCに収まることもある。
難点は技術面にある。UnslothはPythonとコマンドラインの中で動き、ノートブックのワークフローはデータセットとトレーニング実行とは何かを理解していることを前提とする。まったくの初心者向けの手引きはなく、大きなモデルを動かすには十分なVRAMを備えた本物のGPUが依然として必要だ。スマートフォンで使いたいなら、これは探しているツールではない。
はじめかた
- ハードウェアを確認する。UnslothはWindows、Linux、WSL、macOSで動き、NVIDIA、AMD、IntelのGPUのほか、CPUとVulkanバックエンドもサポートする。公式ドキュメントにモデルサイズごとの最低VRAMが載っている。
- インストール方法を選ぶ。サイトかGitHub Releasesからデスクトップアプリをダウンロードし、インストールスクリプトを実行するか、Dockerイメージを使う。コードを書く場合はpipでPythonパッケージをインストールする。
- セットアップを省きたいなら無料ノートブックを開く。ColabとKaggleのノートブックにはGPU計算が付いており、自分のデータセットを追加するだけでよい。
- モデルとデータセットを読み込む。まずは小さなinstructモデルなどを選び、ノートブックを自分のデータに向ける。
- トレーニング、保存、エクスポート。トレーニングのセルを実行し、重みをマージまたはエクスポートして、モデルをローカルで提供する。
AIツール情報
Unslothの料金、対応プラットフォーム、性能を簡単に確認できます。
こんな人におすすめ
このツールが最も力を発揮するユーザー、タスク、シーン。
ユーザー
- コンシューマー向けGPUを持つ個人開発者やホビイスト：Pythonに慣れていれば、以前はレンタルハードウェアが必要だったモデルを微調整できる。
- 実験を行う機械学習の研究者：トレーニングが速くなれば1日あたりの試行回数が増え、無料のColabとKaggleノートブックが参入コストを下げる。
- プライベートでローカルなAIを求める小さなチーム：すべて自分のマシンで動くため、トレーニングデータとプロンプトがネットワークの外に出ない。
タスク
- ドメインデータでLLMを微調整する：教師あり微調整や選好手法を使い、基盤モデルに自社のトーンやニッチな分野を教え込む。
- 強化学習の実行：GRPOと関連技術を使い、同じワークフローで推論の振る舞いをトレーニングする。
- RAGとエージェントでローカルモデルを動かす：プライベート検索、ツール呼び出し、コード実行を備えたトレーニング済みモデルを提供する。
シーン
- クラウド費用なしでAI機能を試作する：ノートブックが無料のGPU時間を提供するため、ハードウェアに投資する前にアイデアを試せる。
- 機密データをサードパーティのサーバーから遠ざける：法律、医療、金融のテキストをトレーニングと推論の間、自分のマシンに置いておける。
- ノートPCやワークステーション用の特化アシスタントを作る：微調整したモデルをエクスポートし、日々の作業のためにローカルで動かす。
主な機能
少ないメモリで高速に微調整
UnslothはカスタムカーネルでLoRAとQLoRAトレーニングの遅い部分を書き直し、実行を速く終わらせ、より少ないVRAMに収める。同社は精度を落とさずに最大2倍のトレーニング速度と大きなメモリ節約を報告している。実際、かつてはレンタルGPUが必要だった微調整が、1枚のコンシューマー向けカードで動く。
ColabとKaggle向けの無料ノートブック
このプロジェクトには、Qwen、Gemma、DeepSeek、gpt-ossなどのモデル向けのすぐに動くノートブックが付属する。「Run all」をクリックし、データセットを追加すれば、ドライバやCUDAを手動で設定せずにトレーニングできる。何かをインストールする前に微調整を試す最速の方法だ。
デスクトップアプリとローカルStudio UI
Windows、macOS、Linux向けのネイティブデスクトップアプリは、モデルの実行とトレーニングのためのローカルインターフェースを提供する。付属のノートブックであるStudioでは、コードではなくクリック操作でモデルを閲覧し、チャットし、トレーニング実行を管理できる。22Bパラメータ未満のモデルに対応する。
ローカル推論、RAG、エージェント
Unslothはトレーニング専用ではない。プライベートなWeb検索、検索拡張生成（RAG）、ローリングコンテキストを備えたモデルをローカルで提供できる。Claude Code、Codex、MCPサーバーなどのツールに接続する。ツール呼び出しとコード実行も機能するため、ローカルモデルがアシスタントとして動ける。
幅広いモデルとハードウェア対応
テキスト、ビジョン、音声、埋め込み、拡散のモデルを動かし、NVIDIA、AMD、IntelのGPUのほか、CPUとVulkanバックエンドで動作する。マルチGPU構成にも対応し、同じインストールでWindows、Linux、WSL、macOSをカバーする。1枚でも複数枚でもカードを挿せばよい。この広さのおかげで、環境を組むときに1社のハードウェアに縛られない。
リモートとLANアクセス
ローカルネットワーク上のどのデバイスからでも、あるいはCloudflare HTTPS経由でインターネット越しに安全に、ローカルモデルにアクセスできる。これにより、1枚のデスクトップGPUが、スマートフォンや別のマシンから使える小さなプライベートモデルサーバーになる。
メリットとデメリット
メリット
- Apache 2.0ライセンスの下で無料かつオープンソースで、中核ソフトウェアにサブスクリプションは不要。
- 微調整の速度とメモリが大きく改善し、自分のGPUでトレーニングするコストが下がる。
- 無料のColabとKaggleノートブックにより、ハードウェアを持たなくてもワークフローを試せる。
- NVIDIA、AMD、Intel、CPUのみの構成を含む幅広いモデルとハードウェア対応。
- トレーニングを超えて、ローカル推論、RAG、エージェント用途へと広がる。
デメリット
- ワークフローはコード優先のため、初心者はPythonとデータセットで本格的な学習曲線に直面する。
- 大きなモデルには依然として十分なVRAMを備えた高性能GPUが必要で、貧弱なハードウェアはトレーニングできる範囲を制限する。
- ホスト型APIは提供されておらず、サービングとスケーリングは自分で担うことになる。
- ドキュメントの更新が速く、変化の速いプロジェクトでは古いチュートリアルが時代遅れになりうる。
よくある質問
はい。UnslothはApache 2.0ライセンスのオープンソースで、中核ソフトウェアに費用はかからない。支払うのは自分のハードウェアだけだ。クラウドGPU時間は任意である。
関連コンテンツ
Unslothに関連するツール、スキル、記事を探す。
Unslothの代替ツール
Forefront
Forefront · コーディングForefrontはオープンソースAIで構築するためのウェブプラットフォームだ。主要なオープンソース言語モデルを自分のデータで微調整し、性能を評価し、API経由で実行したり、エクスポートして自分でホストしたりできる。クローズドなプラットフォームの手軽さを求めつつ、モデルとデータの所有権にはこだわる開発者が対象だ。
Startkit
StartKit.AI · コーディングStartkitは、AI SaaSとAIラッパー製品を作るためのボイラープレートだ。面倒な部分をあらかじめ配線済みにしたAIスタートアップボイラープレートと考えればいい。認証、StripeとLemon Squeezyの決済、利用制限、トランザクションメール、そしてOpenAI、Anthropic、Groq、Llamaと通信するAI APIスターターキットが含まれる。リポジトリをクローンして価格を設定し、ユーザーが実際にお金を払う部分に取りかかれる。ReactとTailwind上のNext.jsで作られているため、ボイラープレートコードの多くはすでに見慣れたものだ。
Testim
Tricentis · コーディングTestimは、Web・モバイル・Salesforceアプリ向けにエンドツーエンドテストを構築して実行するAIテスト自動化プラットフォームだ。機械学習を頼りに、インターフェースが変わってもテストを安定させ、チームが壊れたセレクターの修正に費やす時間を減らす。今日から使い始められる自動テストツールとしては悪くない。ブラウザで操作を録画してテストを作り、より細かい制御が必要なときはJavaScriptを足す。忙しいQAチームにとって堅実な選択肢である。