开源工具smolmaxxing让旧设备跑160亿参数模型
开源项目smolmaxxing发布，允许旧款平板或低内存设备在本地端运行160亿参数的AI模型。官方确认该工具可在2013年发布的首代iPad Air及小型电视终端上运行。此开源发布降低了硬件门槛，让更多用户无需最新设备即可体验本地推理功能。
由 AI 根据 1 家媒体的报道整理
出处
- GIGAZINE阅读原文 ↗
最新
- 开源
datasette-llm 支援 OpenAI 兼容端点
Simon Willison 发布 datasette-llm 0.1a11 更新，新增对 OpenAI 兼容端点的支持。此更新让 Datasette 使用者能配置由 LM Studio 或 Ollama 等本地运行的 LLM，通过统一的 Web 协议接口访问模型服务，强化开发工具链的灵活性。
- 开源
Cmpnd 发布 dspy-wsp：权重空间进入 DSPy
Cmpnd 发布 dspy-wsp，这是一个原型 DSPy 优化器，让前沿 LLM 直接读取并编辑小型模型权重。该方法无需梯度，单次执行成本约 5 至 10 美元，为模型调校提供新途径。
- 开源
DeepSeek V3 纯Jax重写版本开源
开发者在Hacker News发布了一个开源项目，使用约200行纯Jax代码重构DeepSeek V3模型。该项目展示了该架构在Jax框架下的简洁实现，为研究人员提供了新的实验基础。
- 开源
斯坦福开源Memorilla：冻结LLM潜记忆模块
斯坦福研究团队开源了Memorilla，这是一个专为冻结大语言模型设计的记忆系统。该模块能将文档压缩为16个记忆token，在FactKG基准测试中达成84.33%准确率，比全上下文比较节省108倍资源。
- 开源
Cloudflare 开源 AI 浏览器 Kitesurf
Cloudflare 宣布开源专为 AI 智能体设计的浏览器 Kitesurf。该工具运行于 Workers 平台，支持 Chrome 开发者工具协议，且无需依赖 Chromium 进程。官方表示其在 CPU 与内存资源消耗上显著低于 Chromium，适合 AI 任务。
全部新闻 → · 版权属原作者