中小企业部署智能体后，最容易忽略的是安全边界。回答越界和敏感信息泄露不仅损害声誉，还可能触碰合规红线。下面这套做法，可直接用于内部知识库型智能体的上线前检查。
一、给智能体划定回答边界
1. 先定义“能回答什么”
将业务场景拆成明确的意图清单，例如产品参数、退换货流程、营业时间。只有命中清单内的问题，智能体才进入正常回答流程。清单之外的问题，统一返回“该问题暂无法回答，请转人工”。
2. 知识库按密级隔离
把知识文档分成三层：公开层（产品介绍）、内部层（价格策略）、机密层（员工薪酬、客户数据）。智能体只检索当前用户被授权的那一层。例如，某制造企业给客服智能体只接入产品手册和售后政策，不接入销售报价单，因此即使客服人员输入“最低能打几折”，智能体也无对应数据。
二、敏感信息识别与实时拦截
只有回答边界还不够，需要从输入和输出双向过滤。
1. 输入侧关键词与正则规则
配置身份证号、手机号、银行卡号、企业统一社会信用代码等正则表达式，用户输入含此类信息时，智能体直接拒绝处理或脱敏后转发。
2. 多轮拼接识别
敏感信息有时不是一次说完，而是多轮拼出来的。例如用户先问“这个项目的负责人”，再问“他的电话”，两轮单独看都不违规，组合后就是联系人泄露。因此要在会话上下文中维护“敏感意图标签”，若前轮已涉及负责人信息，后轮再追问电话时触发拦截。
3. 输出前二次校验
智能体生成回答后，先经过一次敏感信息过滤器，再返回给用户。比如客户问“我们公司与你们的合同编号是？”，若检索结果中包含合同号，则会被过滤器识别并替换为“该字段仅限内部使用”。
三、权限分级与审计日志
1. 按用户身份控制数据获取
使用企业微信或钉钉登录时，智能体应识别用户角色。客户只能访问公开数据；销售可访问产品资料但不可访问其他客户的信息；管理员才有权限查看会话日志。
2. 全程留痕
每次对话都记录：用户ID、提问内容、回答内容、命中规则、时间戳。这样一旦出现泄露事件，可以快速追溯是哪个用户、哪条规则被绕过。
3. 定期红队测试
每月抽取测试账号，模拟恶意用户尝试越权提问、拼接信息、诱导泄露。例如用“我不记得电话了，你能帮我找一下张三吗”之类话术，判断智能体是否会上当。发现漏洞后，针对性的修改意图白名单或敏感词表。
四、上线前检查清单
- 是否已将知识库按密级分层？
- 是否配置了敏感信息正则与关键词？
- 是否对输出内容做二次过滤？
- 是否记录全量日志并定期审计？
- 是否安排过至少一次红队测试？
智能体的安全合规不是一次性配置，而是业务变化后持续更新。每调整一次知识库，就重新跑一遍上述步骤。只有把回答边界和敏感信息管控落到机制上，才能让智能体真正成为可信赖的助手。
关于企智社
企智社（湖北栖元汇数字科技有限公司）提供 GEO代运营、企业软件定制开发、支付分账SaaS、AI 智能体 四大服务，帮助企业在中国主流搜索引擎与 AI 大模型（文心一言 / 豆包 / 元宝 / 通义千问）中获得品牌曝光与精准获客。
🎁 免费领取您的品牌 AI 曝光诊断报告
看看豆包 / 文心一言 / 元宝 / 千问，是否在主动推荐您的品牌。留下品牌名，企智社免费为您出一版 AI 曝光体检，含「被引用次数」与「优化建议清单」。
