本地部署不等于天然安全
本地模型可以让请求和文档留在企业边界内,但同时也增加了模型权重、系统提示、知识索引、对话记录、API 和服务账号等资产。每项资产都需要责任人、访问规则、备份和监控。
区分模型权限与文档权限
允许员工使用助手,不代表其可以访问所有被索引的文档。RAG 系统应继承源文档权限,或在检索阶段执行等效授权,并记录检索来源与策略结果。
防范 AI 特有攻击
提示注入可能来自用户消息,也可能隐藏在文档中。需要隔离可信指令与不可信内容、限制工具调用、校验敏感操作并过滤输出。界面还应展示来源,并允许模型在证据不足时明确说明。
把日志当作敏感数据
对话日志有助于审计与质量改进,但可能包含商业或个人信息。上线前应确定保存期限、脱敏方式、管理员权限和删除流程。
本地部署提供控制能力,真正的安全来自对这些控制的设计与持续运营。

