一个可靠的 LLM 应用通常不应把用户输入直接交给模型，然后把输出原样返回。
更稳健的流程
- 输入校验与权限检查
- 上下文准备与数据最小化
- 模型调用与结构化输出
- 业务规则验证
- 缓存、审计与成本记录
- 失败回退与人工确认
- 离线和在线评估
今日结论
先明确失败模式和可接受风险，再决定模型、提示词和 Agent 复杂度。
LEARNING
LLM 应用架构：先设计可靠流程，再选择模型
模型只是系统的一部分，真正的生产架构还需要数据边界、验证、缓存、审计、评估和回退。
LEARNING
模型只是系统的一部分，真正的生产架构还需要数据边界、验证、缓存、审计、评估和回退。
一个可靠的 LLM 应用通常不应把用户输入直接交给模型，然后把输出原样返回。
先明确失败模式和可接受风险，再决定模型、提示词和 Agent 复杂度。
讨论与反馈
评论和表情反应由 GitHub Discussions 保存。