AI 基础与能力边界
理解模型、Prompt、RAG、Agent 与部署选择。
发现与立项 / AI 与自动化定位整体框架 ↗
本页目录
核心概念
- Token：模型处理文本的基本计量单位，影响上下文容量、延迟和成本。
- 上下文窗口：一次请求能够容纳的输入与输出总量。
- Prompt：向模型说明任务、约束、输入和输出格式。
- Embedding：把内容转换为向量，用于语义相似度检索。
- RAG：先从外部知识中检索证据，再基于证据生成回答。
- Agent：让模型在约束下规划并调用工具完成多步任务。
方案选择
| 需求 | 优先方案 |
|---|---|
| 改变回答方式和格式 | Prompt |
| 引用不断更新的企业知识 | RAG |
| 固化领域行为或风格 | 微调评估后再决定 |
| 调用系统完成多步操作 | Agent / Workflow |
典型能力边界
模型可能产生幻觉、遗漏约束、输出格式波动，并受到上下文、数据质量和工具可靠性的影响。高风险业务必须保留确定性校验和人工确认。
部署形态
云端 API 适合快速启动；私有化部署适合强数据控制场景，但需要承担算力、模型服务、监控和升级成本；混合部署需要明确数据流向和降级策略。
用任务分解选择方案
工单助手的设备型号识别可以先用结构化字段，手册选择可以用版本规则，排障资料查询可以用搜索，回复组织再考虑模型。让模型承担必要的语言任务，把身份、金额、状态与动作边界交给确定性系统。
| 选择 | 适合条件 | 需要验证的代价 |
|---|---|---|
| 普通搜索 / 规则 | 可明确检索与判断条件 | 术语覆盖与维护负担 |
| 提示词 | 输入已包含完整证据 | 上下文长度与格式稳定 |
| RAG | 外部资料变化且需出处 | 解析、检索、版本与权限 |
| 微调 | 有稳定行为目标与适当数据 | 数据治理、回归与维护 |
| Agent | 需要动态选择多步工具 | 权限、状态、预算与失败恢复 |
成本与上下文
输入、输出、检索、基础设施和人工审核共同构成任务成本。上下文窗口大不意味着可以无限塞入资料；冗余内容仍会增加费用、等待和证据混淆。模型标识和服务条款可能变化，项目应按选用服务的当前官方文档验证。
提示词的最小结构
写清任务、适用证据、禁止猜测的字段、输出结构、无答案与人工接管规则。将用户或文档内容标为不可信输入；提示词能引导行为，但不能替代授权控制。
练习
用同一批合成任务比较搜索、仅提示词和 RAG 设计，记录正确、拒答、时间与成本。未实际调用模型时标为设计比较，不填写虚构结果。
模型的任务比较、部署约束和升级替换，见模型选型、部署与替换策略。
参考阅读与使用边界
本页为基础指南；生产操作需结合实际版本、授权环境与审核证据验证。