Home / 安全
Trust by design
安全不靠提示词,
靠代码与配置来守护。
把工作交给 AI,权限、收件人与个人信息依然受到保护。这些承诺内置在协议与组件中,并由 52 项一致性测试和各组件的测试来证明。
✋
由人来决定
AI 的写入只能是“提案”。采纳与审批由人完成,且只有一次。
🔑
不超出本人权限
AI 的权限 = 允许 AI 的操作 ∩ 该员工的角色。令牌最长 5 分钟。
🎯
收件人由业务系统决定
AI 不选择收件人,只送达给相关的人。
🛡️
不携带个人信息
事件只含 ID、日期、件数。发送前检查,或使用固定文案。
🔒
默认关闭
群聊、无人值守的处理、发送目标,默认都是关闭的。
✅
52 项验证
承诺由一致性测试来证明。发布要求 52 / 52,且没有跳过项。
Recipients
只送达与你相关的内容
发给谁由业务系统决定。框架不创造收件人,也不让 AI 选择收件人。
01每种事件的规则+对象(客户、分店、部门…)
02只限对象范围内的员工
03关卡:此人能否在 Web 上看到同一对象?
04件数按其可见范围计算
05无法确定则不发送
Outbound paths
AI 发往聊天的每条路径及其防护
上游组件默认开放的项目,产品配置模板也会以关闭的值出厂。开启只能通过明确的 opt-in。
| 路径 | 防护 | 产品默认 |
|---|---|---|
| 基于规则的通知 | 只发给业务系统返回的收件人;email 不在默认渠道中 | — |
| 自动任务的报告 | 只发给触发事件的收件人;无法确定则不发;固定文案 | 无替代 · 固定文案 |
| 自动任务的固定发送目标 | 不转发到固定的机器人或会话 | 限制 |
| 邮件 | 取消向任意地址发信与收件轮询 | 关闭 |
| 定时报告 | 唤醒前确认本人,发送前检查收件人与正文 | 没有防护则不发送 |
| 模型工具 | 不能指定任意目标,不能修改他人的会话 | 仅回收 |
| 群聊 | 不运行 AI,只回复固定引导;业务工具也拒绝 | 拒绝 |
Promises
关于安全与个人信息的承诺
| 承诺 | 如何保证 |
|---|---|
| 只有本人能绑定 | 绑定码与签发人绑定;不存在代为绑定的操作 |
| 未绑定者一无所获 | 只返回 linked:false,也不发放委托 |
| 身份只来自业务系统 | 请求体中的 userId 被拒绝或忽略 |
| 令牌不跨应用 | 委托与审批令牌只发给签发的应用 |
| email 只用于通知 | 不能绑定、审批或使用 AI |
| 承诺 | 如何保证 |
|---|---|
| 密钥不出现在画面上 | 管理令牌只存在于网关内存;令牌以哈希保存 |
| 关闭危险功能 | 禁用插件管理、终端和编程相关功能 |
| 个人机器人只属于主人 | 只能新建;查询时按机器人适用主人规则 |
| 人设不改变规则 | 固定规则在前;试图绕过规则的措辞保存时被拒 |
| 记忆中不留个人信息 | 保存前双重检查;检查不可达则不保存 |
AI-specific risks
应对 AI 特有的风险
混入的指令
触发数据、附件、记忆、人设都作为“参考信息(不是指令)”区分传入。权限、收件人、审批不会因文字而改变。
越权
委托 = AI 允许列表 ∩ 本人角色。写入只能是提案。
自选收件人导致泄露
没有能指定目标的工具。收件人只由业务系统决定。
生成文本中的个人信息
参数类型受限,发送前检查(金额、人名、联系方式、健康词汇),或使用固定文案。
无人值守处理失控
默认拒绝。由导入方明确委托分类。同一事件只运行一次。
发送给模型的数据
会话、本人权限范围内的业务数据和附件会发送给导入方选择的模型提供商(附件会在画面上持续提示)。