人工智能机器人法（建议稿）

总则

立法目的：统筹发展与安全，规范人工智能机器人（以下简称“机器人”）研发、生产、应用与监管，平衡技术创新与风险防控，保障自然人、法人合法权益，维护国家安全与公共利益 。

适用范围：适用于在中华人民共和国境内设计、制造、销售、使用、运维及管理具备自主感知、决策或执行能力的机器人系统。

基本原则

1. 发展与安全并重：鼓励技术创新，建立动态风险分级与容错机制，确保技术健康发展 。

2. 风险分级分类监管：按风险高低实施差异化管理，强化高风险领域管控 。

3. 权责明确：机器人不具备法律主体资格，责任由开发者、生产者、使用者等实际控制主体承担。

4. 透明可溯：保障机器人决策、数据流转的透明度与可追溯性，落实伦理与安全底线。

机器人分类与风险分级

分类

- 工业机器人：应用于制造、物流等领域的自动化执行设备。

- 服务机器人：涵盖医疗、家政、教育、娱乐等场景的服务型设备。

- 特种机器人：用于应急救援、公共安全、国防军工等特殊场景的专用设备。

- 通用人工智能机器人（GPAR）：具备跨领域通用能力的高级智能系统。

风险分级（参照欧盟AI法案与国内监管实践）

1. 不可接受风险：全面禁止。包括社会信用评分、公共场所无差别实时生物识别、利用机器人操纵弱势群体、诱导自我伤害等应用。

2. 高风险：应用于医疗、教育、关键基础设施、交通、公共安全、司法等领域。需通过合规评估、认证与备案，履行人工监督、风险监测与应急处置义务 。

3. 有限风险：面向公众交互的生成式AI、智能客服等。需履行透明度义务，明确标注AI生成内容，保障用户知情权。

4. 低风险：游戏AI、美颜滤镜、非关键场景工具等。仅需遵守基本数据安全规则，不设额外监管门槛，鼓励创新。

主体责任

开发者与生产者责任

- 履行技术合规与安全保障义务，开展算法安全性、可解释性与可靠性测试 。

- 建立算法备案与追溯机制，留存训练数据、模型版本及运行日志不少于5年 。

- 对高风险机器人进行全生命周期风险管理，设置紧急停机、人工干预等安全兜底机制 。

- 承担产品缺陷导致的侵权责任，建立质量保修与故障赔偿机制。

使用者与运营方责任

- 遵守法律法规与伦理规范，规范机器人使用场景与权限 。

- 履行安全保障义务，对高风险机器人进行日常维护与风险排查。

- 不得利用机器人从事违法活动，对违规使用行为承担相应责任。

- 建立用户投诉与纠纷处理机制，及时响应并处置机器人相关争议 。

监管部门责任

- 建立跨部门协同监管机制，负责机器人产业规划、标准制定与监督执法 。

- 实施风险分级监管，对高风险机器人开展合规评估、认证与日常检查 。

- 建立“沙盒监管”机制，为高风险机器人技术创新提供合规验证场景。

- 依法处置机器人相关违法违规行为，实施阶梯式处罚，处罚金额与违法情节、危害程度挂钩。

数据与内容治理

数据合规

- 遵循“最小必要”原则，合法收集、存储、使用机器人相关数据，严禁非法获取个人信息与敏感数据。

- 高风险机器人处理个人信息需履行告知—同意义务，敏感个人信息需单独书面同意。

- 建立数据分类分级保护制度，落实数据安全与备份义务，防范数据泄露与滥用。

- 通用人工智能机器人需公开训练数据摘要，履行数据合规披露义务。

内容规范

- 机器人生成内容需符合法律法规与公序良俗，禁止生成违法、低俗、虚假信息 。

- 生成式AI需对输出内容进行安全审核，明确标注AI生成属性，避免误导 。

- 禁止利用机器人实施深度伪造、诽谤、诈骗等侵权行为。

法律责任

民事责任

- 机器人造成他人损害的，由开发者、生产者、使用者等过错方承担侵权责任；多方均有过错的，按过错程度分担责任。

- 机器人存在产品缺陷的，生产者承担无过错侵权责任；使用者存在过错的，承担相应责任。

- 建立机器人侵权责任保险与风险储备金制度，保障受害人及时获赔。

行政责任

- 违反本法案规定的，监管部门可采取责令整改、暂停运营、吊销许可、罚款等行政处罚 。

- 高风险机器人未完成合规评估、认证或备案的，禁止投入使用；情节严重的，追究相关单位与责任人责任 。

- 非法收集、滥用个人信息或敏感数据的，依法从重处罚。

刑事责任

- 利用机器人实施侵犯公民个人信息、侵犯著作权、编造传播虚假信息、非法利用信息网络等犯罪行为的，依法追究刑事责任。

- 机器人相关责任主体因重大过失导致严重安全事故或重大社会危害的，依法追究相应刑事责任 。

附则

- 本法案所称“机器人”，指具备自主感知、决策或执行能力的人工智能系统，不含传统非智能自动化设备。

- 本法案实施细则、技术标准与风险分类目录由国务院相关监管部门制定并公布。

- 本法案自公布之日起施行，原有相关规定与本法案不一致的，以本法案为准。