llmfit：本地模型第一问，我的机器跑得动吗

今天GitHub trending上涨239星、总量32.2k：llmfit，作者Alex Jones，Rust写的终端工具，MIT协议，回答每一场本地AI讨论的第一个问题：给定这台机器的内存、CPU和GPU，我到底能跑哪些模型，用什么量化，效果如何。它从质量、速度、适配度和上下文四个维度给候选模型打分，支持多GPU和MoE架构，动态选择量化方案，对接大家真正在用的运行时：Ollama、llama.cpp、MLX、Docker Model Runner。TUI和CLI两种模式，带Python绑定。github.com/AlexsJones/llmfit

最近新增的功能让它超越了一个计算器：TUI内置的社区基准测试。你可以在界面里直接下载模型、跑起来、实测自己硬件上的吞吐量，然后把结果以PR的形式提交回项目。这正是本地AI缺失的那个数据集——现在所有人都靠参数量和厂商宣传猜，而理论适配和实际tokens每秒之间的落差，就是所有失望的来源。众包的、硬件级的、经过验证的实测数据，打的正是这个落差。

时机解释了涨星速度。27B级开源模型突然真的能打了：Qwen3.8-27B的agentic分数逼近前沿，GLM-5.3领跑编程基准，"我的机器跑不跑得动"从爱好者问题变成了采购问题。而答案确实不简单，量化乘以上下文长度乘以MoE offload是个三维权衡，把它变成一条命令的工具早就该有了。