内容助手类系统怎么满足数据最小化、权限控制和全链路审计?
先这样答
结论是,内容助手要从数据采集、数据访问和操作留痕三处控制风险。只采集业务必需字段。身份证、密钥等敏感内容在预处理阶段脱敏,不进入模型上下文。
权限控制不能只依赖模型自己判断。系统要按角色和具体场景限制可访问的数据范围。检索时由系统注入过滤条件,让模型只能看到被允许的数据。这样可以把访问边界落到实际的数据检索过程里。
审计要覆盖每次数据访问、模型调用和外部动作。日志至少记录谁在什么时间访问了什么数据,以及做了什么操作。系统还要支持导出合规报告,方便检查每次访问和动作的记录。
面试官会怎么追问
-
「为什么不能把完整数据交给模型,再让模型自己决定哪些内容可以使用?」
模型不应承担权限判断。系统应先按角色和场景限制数据范围,再把过滤后的内容交给模型。这样能把权限规则放在可控制的检索过程里。 -
「身份证和密钥应该在哪一步处理?」
应在预处理阶段脱敏。脱敏后的敏感内容不进入模型上下文。后续模型调用只能接触业务需要的内容。 -
「审计日志具体要记录哪些信息?」
每次数据访问、模型调用和外部动作都要记录。日志要说明谁、何时、看了什么、做了什么。系统还要支持导出合规报告。
回答的坑
- 只说“给模型加权限”不够,权限范围必须由系统注入检索过滤条件。
- 只记录模型调用不够,数据访问和外部动作同样要留日志。
同系列的题
—— 本题完 ——