Latest model Laya: a version 50 times faster than Jev, running on your device: laya-mlx! Occupies a maximum of 1G memory only on your device Laya is an open-source classification system similar to…

真正有工程价值的本地 AI，不是生成一大段文本，而是稳定、低耗地给出可校验的决策。 Laya-CoreML 把推理改到 Apple Neural Engine，直接输出 choice、score 和 boolean 概率，不走自回归生成。M3 Max 短决策 P50 4.98ms，系统能耗约降至 MLX 的 1/2.78；支持离线运行和可复现实验。代价是 ANE 模型限制 96…

这类把模型决策搬到本地、还认真做能耗验证的项目，才值得关注。 laya-coreml 将 Laya 转成 Apple Core ML 和 Neural Engine 推理，不生成 token，也不依赖 PyTorch、Transformers 或 MLX。M3 Max 上短决策 P50 约 5ms，ANE FP16 能耗约降 2.78%；但 ANE 版限制 96 token，长上下文和完整…

有人在 Apple 芯片上把 Laya 跑起来了。Core ML 加神经引擎，一次短决策 4.98 毫秒，能耗比 MLX FP16 低 2.78 倍，还能陪你玩贪吃蛇，一秒五十步。 我们量过 Laya：229 道题准确率 0.445，假命题平均给 0.951，是台 yes 机。作者自己写了，要求的十倍提升没做到。

介绍比Jev快50倍，在你设备上跑的laya-mlx! 只在你的设备上占用最高1G内存 Laya是一个开源的类似于Jev的,基于文本输出概率的分类系统 我将其移植到MLX,并且做了一些性能优化! 视频中就是这个模型在我的本地M3Max上玩贪吃蛇 这个模型能够以每秒决策60次的速度玩贪吃蛇！

microsoft/harrier-oss-v1-27b Adapted from google/gemma-3-27b-pt Thai text embedding quality across classification, clustering, pair classification, reranking, and retrieval. Tasks are native Thai or…