this was back in 2023 for their R1 model which is half the size of v4. like wdym 545% profit margin? and current v4 api prices are even lower than R1. god knows how much more they have optimized.

如果你在 CUDA 上被 torch.topk 的带宽和延迟卡住，DeepSelect 不是简单换个 API，而是为 DSA Lightning Indexer 与采样场景重写 TopK kernel。 它按 dtype、batch、vocab、topk 拆分路径，针对小 topk 和变长行优化；支持 bf16/fp32，可跳过 values、按需排序，减少写回。代价是 stride…

DeepSeek 为 V4.1 Flash 及后续模型开源了三个基础设施项目： - deepseek-recipe API 与模型之间的适配层。负责把 Messages、Chat Completions、Responses 等请求统一成内部对话格式，再编码为 DeepSeek V4／V4.1 使用的 prompt，并将模型输出还原成对应的 API 响应。 - DeepSelect 为…

DeepSeek 开源了一些新的代码仓库，方便更容易地部署 V4.1 Flash 以及后续的开源模型： deepseek-recipe 解决的是“应用怎样正确地和模型对话”。 应用发送的请求格式，与模型真正接收的输入格式之间，需要转换。它支持 Chat Completions、Responses、Messages 三类接口，将请求整理成统一对话，再编码为 DeepSeek V4/V4.1…

DeepSeek 开源了一些新的代码仓库，方便更容易地部署 V4.1 Flash 以及后续的开源模型：