给本地小模型找 coding agent 的人，可以看看 smallcode。 GitHub： 专门优化给 7B-20B 小参数模型用，通过预算管理、多格式解析、TODO 拆解、patch 编辑来补偿小模型的能力限制。 适用场景： • 想用消费级硬件跑本地 AI 编程的开发者 • 对隐私敏感、不想代码上云的场景 • 需要完全离线的 coding agent 完全本地运行，不需要联网。

Learn More:

SmallCode — AI coding agent built for local models (8B-35B). • npm install -g smallcode, one command • Context budget engine — never blows the window • Patch-first editing + forgiving tool call…

You don't need a 70B model to write real code. A 4B parameter agent just hit 87% on coding benchmarks. That's not a typo.

用约 1000 美元从零预训练一个 1B 参数的基础文本生成模型，计算量和数据需求比传统方案低 130-900 倍 HRM-Text 用分层递归架构做文本生成，配合 PrefixLM 打包、FlashAttention 3 和 FSDP2 分布式训练。0.6B 模型 8 张 H100 跑两天，1B 模型 16 张跑两天，成本控制在 800-1500…

为 7B-20B 参数的小型本地 LLM 提供优化的 AI 编程代理，在消费级硬件上实现高效代码生成 mallCode 针对消费级硬件上的本地小模型做了专门优化。小模型通常上下文短、工具调用不稳定，这个项目通过上下文预算、宽容的工具调用解析器、搜索替换式编辑、TODO 驱动规划等方式来解决这些问题。安装简单，可以完全离线使用，也支持在本地模型失败时自动切换到云端模型。

Most coding agents need Claude. SmallCode targets 7B models on a Mac Mini. Budget-managed context, forgiving tool-call parser, search-and-replace patches. 87% benchmark with a 4B model. → 746 stars…

SmallCode AI coding agent optimized for small LLMs (≤20B parameters)