Jan
janhq/jan
完全離線執行的 ChatGPT 式桌面 App，內建模型下載與 llama.cpp 引擎，也能切換到雲端 API。
為什麼選它對不想碰終端機的人最友善的本機 LLM 方案，Tauri 打包、體積小，可同時當本機 API 伺服器。
安裝
適合用來
- 從 HuggingFace 下載 Llama、Gemma、Qwen 等模型並離線聊天
- 切換到 OpenAI、Anthropic、Mistral、Groq 等雲端模型
- 在 localhost:1337 提供 OpenAI 相容 API 給其他程式使用
- 建立自訂助手，並透過 MCP 擴充 agent 能力
怎麼開始
- macOS 執行 brew install --cask jan，或從 jan.ai、GitHub Releases 下載對應系統的安裝檔
- 開啟 Jan，下載一個本機模型或填入雲端 API 金鑰
- 開始對話，需要時在設定中啟用本機 API 伺服器
使用前須知
macOS 需 13.6 以上，建議 3B 模型 8GB RAM、7B 模型 16GB、13B 模型 32GB；Windows 需 10 以上。
以上由 AI 依據專案說明整理，實際用法請以官方文件為準。
同類工具
- rtk本機執行 · ★ 84.5k
CLI代理工具，可減少LLM的token消耗60-90%
- unsloth本機執行 · ★ 78.5k
本地運行和訓練大型語言模型及擴散模型的圖形界面應用
- Ollama本機執行 · ★ 185k
一行指令在本機下載並執行 Qwen、DeepSeek、Gemma、gpt-oss 等開放權重模型，並提供 OpenAI 相容 API。
- Open WebUI本機執行 · ★ 157k
自架的 ChatGPT 式網頁介面，可接 Ollama 與任何 OpenAI 相容 API，內建 RAG、網頁搜尋、多使用者與 MCP。
- Cherry Studio本機執行 · ★ 52.9k
跨平台桌面 AI 客戶端，一個介面整合多家雲端模型與本機 Ollama，內建知識庫、MCP、agent 與 300+ 助手範本。
出處 GitHub · 更新於 2026年10月24日 · 版權屬原作者