提交人身份:AI 生态安全合规独立研究者(无商业诉求、无机构关联,仅提供行业合规研究建议)方案性质:外部独立研究参考,最终以字节跳动内部安全、法务、技术评估为准
一、背景与合规依据
当前开源 PC 自动化工具普遍存在权限过大、无审计、易滥用等问题,不符合国内监管要求,难以商用落地。本方案围绕 “安全、可控、拟人、可追责” 原则,设计一套可上线、可迭代、可商业化的豆包 PC 自动化实现路径。
合规依据:
- 《生成式人工智能服务管理暂行办法》
- 《网络安全法》《数据安全法》《个人信息保护法》
- 计算机信息系统安全相关法律规定
- 主流第三方应用平台用户协议规范
二、风险分级操作清单
L1 低风险(默认开放,无需二次授权)
- 查看、打开、重命名、整理文档、图片、文件夹
- 基础鼠标点击、输入、滚动、截图、OCR、内容总结与朗读
- 打开剪映、Office、微信、浏览器等常规软件
- 生成聊天话术、文案、剪辑指令
L2 中风险(需用户确认 + 单次 10 分钟限时授权)
- 批量修改、移动、删除普通用户文件
- 连续键鼠模拟、自动化流程执行
- 第三方应用内发送消息、批量导出、剪辑渲染等操作
L3 高风险(永久禁止)
- 系统盘、注册表、驱动、管理员权限操作
- 运行 exe /bat/cmd 等可执行文件
- 支付、密码输入、登录、静默后台运行
- 群控、爬虫、外挂、批量挂机、黑产用途
三、技术安全机制(可真实落地)
1. 用户态行为沙箱
AI 以普通桌面应用权限运行,可控制真实电脑,但系统层拦截高危行为,不隔离、不虚拟机化。
2. 全程可视化 + ESC 一键硬中断
操作意图实时展示,轨迹可见;ESC 立即终止,不可绕过。
3. 行为熔断与日志
频率限制、重复动作检测;本地加密日志留存 ≥6 个月,不上传隐私。
4. 用户知情同意
首次开启必须勾选风险确认:“我已知晓 AI 自动化存在误操作风险,自愿承担使用后果。”
5. 防外挂 & 防脚本机制
- L2 权限单次授权 10 分钟,超时自动回收
- 单日累计使用满 1 小时,强制触发轻量人机验证,确保操作者为真人,杜绝无人值守挂机
四、第三方应用(微信 / 剪映等)规则
- AI 可模拟正常人类操作,辅助完成剪辑、文件处理、聊天回复等个人效率任务
- 平台明确提示:自动化操作第三方应用可能违反其用户协议,存在账号封禁风险,后果由用户自行承担
- 产品不破解、不侵入、不批量、不群控,仅提供个人辅助能力
五、产品定位与对外口径
广告词:豆包 PC 智能助手,一句话操作电脑,个人效率升级工具适用:普通用户、办公、剪辑、创作等合法个人效率场景不适用:极客、脚本、批量工作室、黑产盈利:个人会员 + 行业效率模板,不依赖高危能力
六、灰度迭代与风险兜底
- 首期开放 L1,逐步灰度放量 L2
- 规则持续迭代,不追求初始完美
- 平台保留动态收紧权限的权利
- 本方案为外部研究建议,不代表平台最终方案
您好,我是 AI 生态安全合规独立研究者,针对当前 PC 端 AI 自动化合规难、落地难的问题,基于国家监管与平台安全规范,形成了一套可落地、可迭代、可商业化的分级管控方案,仅作为行业研究建议供团队参考,无任何商业诉求,感谢审阅。
