开源轻量决策模型 Jeff 很有实用价值。它基于 Qwen3.5 与 Gemma 4 微调,专做零样本快速分类。只需输入背景描述与选项,它通过单次前向推理直接返回校准概率,彻底省去了生成文本与正则解析的开销。 在 RTX 6000 或 M4 Max 上单次判定仅需二十多毫秒,0.8B 到 2B 的小体积可轻松嵌入本地代码,处理意图路由、工单分流乃至游戏动作控制。它不擅长多步推理,目前单题最多支持 26 个选项,但作为高吞吐、低延迟的轻量判定器表现扎实,全套训练与数据合成均在本地硬件完成。