金融行业遇到大模型：落地案例与技术选型

金融行业对 AI 的态度是矛盾的：数据价值最高，约束也最严。这两年我观察到不少金融场景真正落地了 LLM，也看到大量项目死在选型阶段。这篇文章聊聊真实的取舍。

哪些场景真正落地了

落地最顺的是三类：智能客服与合规问答（话术有标准答案、错误代价可控）；文档智能抽取（财报、合同、尽调材料的结构化提取，纯文本任务、边界清晰）；代码辅助与内部知识检索（不直接面向客户、失败成本低）。反观“AI 荐股”“AI 风控决策”这类高影响场景，落地极少——不是技术不行，是问责和责任机制还没跟上。

合规是第一约束

金融数据不出域是硬要求，公有云大模型 API 基本出局。私有化部署、本地算力成为默认选项，这直接决定了模型选型的天花板：不是“哪个模型最强”，而是“哪个模型能在合规边界内跑起来”。

技术选型的三条主线

第一，模型：中小参数量开源模型 + 领域微调，在多数文档类场景性价比最高；闭源 API 只用于无敏感数据的辅助场景。第二，RAG 而非微调优先：金融知识更新频繁、错误代价高，检索增强比把知识训进权重更可控、更可审计。第三，权限与审计：每个 LLM 调用都要可追溯——谁、什么时候、问了什么、模型答了什么，这是金融合规的底线要求。

幻觉控制的特殊要求

金融场景对幻觉的容忍度极低。通用做法是三层防线：RAG 结果必须带出处、高影响输出加规则校验、拿不准就拒绝回答（宁可不答，不可错答）。“不知道就说不”在金融场景不是缺陷，是合规美德。

小结

金融的 LLM 落地，本质是在合规约束下做技术妥协的艺术。模型能力是上限，工程化决定下限，而合规决定你能不能上场。想清楚这一点，选型就不难了。