hyperionaidev/smolmaxxing

11 月 13 日，开源的 smolmaxxing 作者自测：小米电视盒子 S 第三代（约 1GB 可用内存）跑 Qwen3.5-2B 7.7 tok/s、16B Ling-mini-2.0 5.1 tok/s；2013 款越狱 iPad Air 跑 1-bit Bonsai-1.7B 24-26 tok/s、Ling-mini-2.0 2.6-4.5…

家里闲着的旧设备，比如一台越狱过的 iPad，也能跑 8B、16B 的 MoE 模型了。有人专门在做这件事，项目叫 smolmaxxing。 思路很直接：电视盒子、旧平板、单板机、路由器都有 CPU，有一点内存和闪存，一天里大部分时间闲着。作者先摸清每台设备实际跑得动的最大模型，再靠定制内核、省着用内存、从闪存流式读权重，把这个上限往上推。 最狠的一条：作者说，测过的两台设备都能在大约 1 GB…

AI Updates - 13 Nov 2026 🤖 Google released Gemini 4 Hydrogen, its fast, cheap model for agents and everyday work. It costs $1.50 per million input tokens and scores 51 on the Artificial Analysis…

3. alexeyw/lot-map A Claude Code plugin that draws a live map beside the chat. Every tool call, skill and model step pulses to its station (files, shell, web, agents), so you see the work instead of…

13年前的 iPad Air，还能跑本地 AI 聊天。 作者在1GB内存的老平板上，改程序跑了个小模型。每秒生成约25个文本片段（token），长聊18～22个。 项目叫 smolmaxxing，源码和失败实验都公开了。手里有旧平板的可以看看，复现要越狱，还得用作者修改的程序。