AI 威胁建模与防护验证
识别提示注入、数据泄露和工具滥用的攻击面。
本页是待完善大纲，提供学习目标、计划章节与预期交付物，正文和示例将逐步补充。
本页目录
学习目标
识别提示注入、数据泄露和工具滥用的攻击面。
计划章节
- 资产、信任边界与攻击面。
- 提示注入和检索污染。
- 工具越权与输出使用风险。
- 对抗测试和防护验证。
预期交付物
威胁模型与对抗测试记录。后续正文将补充具体做法、示例和评审标准。
内容建设清单
- 补充适用场景、基础要求与概念说明。
- 围绕计划章节编写示例、决策依据和常见失败情况。
- 提供交付物示例及验证方法，并注明适用条件。
- 涉及实际操作时，补齐环境版本、权限、风险与回退步骤。