安全、隐私与 AI 治理

基础安全

使用最小权限、独立账号、短期凭据和多因素认证。密钥进入专用密钥管理系统，不能出现在代码、日志、截图或知识文档中。

数据分级

在接入客户资料前确认数据级别、用途、存储位置、保留期限和删除方式。生产数据进入测试或 AI 系统前必须获得授权并完成必要脱敏。

AI 特有风险

• Prompt 注入诱导模型忽略规则或泄露上下文。
• 检索链路未执行文档级权限控制。
• 模型输出触发未经确认的高风险操作。
• 外部模型或工具获得不必要的敏感数据。
• 日志完整记录用户输入而造成二次泄露。

防护原则

权限判断必须由确定性系统执行，不能交给模型自行决定。工具调用限制参数、资源和动作范围；高风险操作需要二次确认。

审计

保留用户、时间、输入摘要、检索文档、模型与 Prompt 版本、工具动作和最终结果。审计日志本身也需要访问控制和保留策略。