unsloth

適合用來

• 在本機執行 Qwen、DeepSeek、Gemma 等 LLM、GGUF 與擴散模型
• 以較少 VRAM 微調 LLM、TTS、embedding 等模型，支援 LoRA、QLoRA、GRPO、DPO
• 用 unsloth start claude 等指令讓 Claude Code、Codex 使用本機模型
• 把模型匯出成 GGUF、FP8 等格式，或透過 OpenAI 相容 API 提供服務

怎麼開始

1. 執行 curl -fsSL https://unsloth.ai/install.sh | sh（Windows 用 PowerShell 指令，或下載 Unsloth Desktop）
2. 開啟 Unsloth，選擇要執行或訓練的模型
3. 要接 agent 時執行 unsloth start claude 或 unsloth start codex

使用前須知

支援 Windows、Linux、WSL 與 macOS，可用 NVIDIA、AMD、Intel GPU、多 GPU、CPU 或 Vulkan 後端。

以上由 AI 依據專案說明整理，實際用法請以官方文件為準。