LocalAI
mudler/LocalAI
在任何硬體上運行任何 AI 模型，無需 GPU
为什么选它支持多種模型和硬體，靈活且隱私保護
安装
- GitHub
- mudler/LocalAI
- 星数
- ★ 50.1k
- 许可
- MIT
- 语言
- Go
- 最近更新
- 2026年10月30日
- 分类
- 本地运行
适合用来
- 运行各种AI模型
- 无需GPU的隐私保护
- 支持多种硬件
- 灵活的API兼容性
怎么开始
- 安装Docker
- 执行docker run命令
- 访问8080端口
- 加载模型
使用前须知
需要Docker环境，支持多种硬件和模型。
以上由 AI 根据项目说明整理，实际用法请以官方文档为准。
同类工具
- rtk本地运行 · ★ 85k
CLI代理工具，可減少LLM的token消耗60-90%
- unsloth本地运行 · ★ 78.8k
本地运行和训练大型语言模型及扩散模型的图形界面应用
- private-gpt本地运行 · ★ 57.6k
在本地模型上运行私有AI应用的完整API层，支持RAG、工具、MCP等
- codebase-memory-mcp本地运行 · ★ 47.8k
本地程式碼智能工具，連接程式碼、文件與基礎設施於持久圖中。
- Ollama本地运行 · ★ 185k
一行指令在本地下载并运行 Qwen、DeepSeek、Gemma、gpt-oss 等开放权重模型，并提供 OpenAI 兼容 API。
出处 GitHub · 更新于 2026年10月30日 · 版权属原作者