LocalAI
mudler/LocalAI
在任何硬體上運行任何 AI 模型，無需 GPU
為什麼選它支持多種模型和硬體，靈活且隱私保護
安裝
- GitHub
- mudler/LocalAI
- 星數
- ★ 50.1k
- 授權
- MIT
- 語言
- Go
- 最近更新
- 2026年10月30日
- 分類
- 本機執行
適合用來
- 運行各種AI模型
- 無需GPU的隱私保護
- 支援多種硬體
- 靈活的API相容性
怎麼開始
- 安裝Docker
- 執行docker run命令
- 訪問8080端口
- 加載模型
使用前須知
需要Docker環境，支援多種硬體與模型。
以上由 AI 依據專案說明整理，實際用法請以官方文件為準。
同類工具
- rtk本機執行 · ★ 85k
CLI代理工具，可減少LLM的token消耗60-90%
- unsloth本機執行 · ★ 78.8k
本地運行和訓練大型語言模型及擴散模型的圖形界面應用
- private-gpt本機執行 · ★ 57.6k
在本地模型上運行私有AI應用的完整API層，支援RAG、工具、MCP等
- codebase-memory-mcp本機執行 · ★ 47.8k
本地程式碼智能工具，連接程式碼、文件與基礎設施於持久圖中。
- Ollama本機執行 · ★ 185k
一行指令在本機下載並執行 Qwen、DeepSeek、Gemma、gpt-oss 等開放權重模型，並提供 OpenAI 相容 API。
出處 GitHub · 更新於 2026年10月30日 · 版權屬原作者