先这样答
设计符合个保法和等保要求的 Agent 系统,关键是把合规要求落实到数据处理和动作执行的每一步。个保法侧,先按最小必要原则确定采集范围。涉及敏感信息时,单独取得同意。用户要求删除数据时,不能只删原始数据。还要把向量库、缓存和备份中的相关数据纳入删除。涉及数据出境时,也要满足出境合规要求。
等保侧,先对数据分级分类,再据此控制访问。权限要细到字段级,不能因为 Agent 能调用某个工具,就允许它读取工具可见的所有字段。数据在传输和存储时都要加密。访问行为要进入审计日志,日志还要按要求留存。Agent 的工具调用同样属于审计范围,不能只记录用户提问和模型回复。
模型入口和动作出口也要设控制点。隐私字段进入模型前先脱敏。Agent 准备执行动作时,先让安全检查器判断该动作是否符合权限和数据处理要求,通过后再执行。模型提出调用建议,不等于这个调用已经获准。这样既能控制模型接触的数据,也能约束它实际执行的操作。
面试官会怎么追问
- 「用户要求删数据,删掉原始记录就够了吗?」 不够。还要检查相关数据是否留在向量库、缓存和备份中,并将这些位置纳入删除范围。删除权不能只落实在原始数据上。
- 「Agent 调用工具时,等保要求怎么落地?」 先按数据分级分类控制访问,权限细到字段级。工具调用要进入审计链路,访问审计日志按要求留存。传输和存储的数据都要加密。
- 「模型想调用一个会读取敏感字段的工具,你怎么挡?」 先用动作前的安全检查器核对字段级权限和数据处理要求。未通过检查就不执行。即使允许读取,隐私字段进入模型前也要脱敏。
回答的坑
- 只说“支持删除”,却漏掉向量库、缓存和备份,无法完整回答删除权怎么落地。
- 只强调模型输出安全,却不检查工具调用前的权限和动作,也不记录工具调用审计。
同系列的题
—— 本题完 ——