微调极小模型当决策大脑：候选清单与训练数据从哪来

系列里「自部署决策模型」从第一篇当主角当到现在，但一直没回答一个根本问题：这个模型从哪来？ 这篇补上：拿极小的开源模型，用自己系统产生的数据，微调成决策大脑。先说清楚定位 —— 这是一个研究方向，不是一个教程；清单会过时，方法论不会。

为什么极小模型就够

因为决策是窄任务。输入是结构化的市场状态 —— 指标数组加几行 Market Context；输出是信号 JSON 加置信度。不是开放聊天，不需要背下人类知识，只需要在一个极窄的域里做稳定判断。窄任务上，喂饱了自有数据的小模型，胜过什么都懂一点的通用大模型 —— 这句话在金融场景里尤其成立。再加两笔实际账：0.5B–4B 的模型魔搭或 Colab 免费档就部署得起，7B 量化后消费级显卡能跑；推理延迟亚秒级，全数据自持。

候选清单（0.5B–7B，都会变，按今天的行情）

Qwen3-0.6B / 1.7B / 4B —— 中英双强、Apache 2.0、工具调用和多轮生态最全，性价比首选，量化场景的默认底座。DeepSeek-R1-Distill-Qwen-1.5B / 7B、R1-Distill-Llama-8B —— 蒸馏了推理链，适合需要思维链展开的决策路径，代价是推理 token 更多。Llama-3.2-1B / 3B —— 英文侧的稳妥底座。Phi-4-mini —— 微软出品，单位参数的推理能力常年领先。Gemma-3-1B / 4B —— 谷歌系，多语言干净。SmolLM3-1.7B —— HuggingFace 的真·极小模型，适合验证想法。另有几个金融前作值得拆开学习任务定义（不建议直接拿来用）：FinGPT、InvestLM、DISC-FinLLM、轩辕 —— 看它们怎么定义输入输出，比看它们的效果更有价值。

训练数据从哪来 —— 这套设计里最漂亮的一环

答案是[第一篇](/zh/blog/quant-not-a-gambling-machine)里的决策记忆本身。每天记录的 [市场状态 | AI 判断 | 实际走势 | 对错] 就是天然的标注数据集：把验证正确的判断整理成 SFT 的输入-输出对；把同一场景下「对的判断」和「错的判断」配成 DPO 的 chosen/rejected 对。系统跑得越久，训练集越厚 —— 系统自己生产自己的升级材料。 这是整个研究方向里我最想验证的假设：一家一人公司能不能用运行数据养出自己的决策模型。

方法草图

任务形式化：输入 = 指标数组 + Market Context 文本；输出 = JSON `{signal, confidence, sizing, rationale}`。训练用 QLoRA：1.7B 一夜，免费 Colab T4 够用；0.6B 一个下午。推理侧用 vLLM 的约束解码（JSON Schema guided decoding）锁死输出格式 —— 小模型在窄域里幻觉不多，但格式必须焊死。评估不看的不是困惑度，是样本外决策准确率和回测夏普 —— 和[路线图](/zh/blog/quant-roadmap-and-console)里 Phase 4 的铁律是同一条。

三个坑，先记下来

一，Regime 过拟合：训练集全是牛市数据，模型会学出「永远做多」—— 决策记忆必须跨市场状态积累，宁可慢。二，别急着训：决策记忆没积累够之前，微调是空中楼阁 —— 先把 Phase 2 跑起来，攒够几百条带对错标签的判断再动手。三，小模型不背锅：微调解决的是「窄域稳定」，不解决「市场变了」—— 那是 Strategy Health 和版本控制的活，不是模型的活。

系列到这里暂告段落。五篇的脉络连起来是一句话：先跑起来，攒下自己的数据，再养出自己的大脑。 距离这句话被验证，还差一个 Phase 1 的看板。