北京消协联合京东、小红书、抖音、快手等8平台签署《承诺书》,规范平台AI标识使用
威理扬
2025年12月11日 17:52
收录于文集
共106篇
AI 生成合成内容必须添加标识?

作者 丨 威理扬法律团队

编辑 丨 小  威

主编 丨 林  娜

01

事件概述

2025年12月4日,北京消费者协会(以下简称北京消协)根据《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》《人工智能生成合成内容标识办法》等法律法规中对消费者权益保护及AI生成物标识办法的相关规定,联合京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播8家头部电商平台,共同签署全国首份《促进AI规范应用承诺书》(下称“《承诺书》”)。

此次行业自律行动,紧密衔接了近期国家与地方的监管态势。自9 月 1 日《人工智能生成合成内容标识办法》正式实施以来,相关专项整治已全面展开。11 月国家网信部门集中查处了一批在生成合成内容标识方面存在违法违规问题的移动互联网应用程序。上海市网信办则依照该办法,对多款未按要求对AI 生成内容进行合规标识的 App 采取下架、整改等措施,并对个别拒不整改的生成式 AI 服务网站立案处罚。

02

承诺书细节

《承诺书》主要围绕着平台AI标识标注义务展开,拟通过头部企业的自律承诺,对电商场景下AI生成内容使用进行更加规范的治理,将AI标注义务落实到平台责任,切实保护消费者权益。

《承诺书》提出以下六大措施,以确定电商领域AI技术合规应用“红线”:

1.依法合规,保障消费者权益。要求平台及商家在应用AI生成合成技术时,必须以保障消费者合法权益为前提。严格遵守《中华人民共和国消费者权益保护法》《中华人民共和国电子商务法》《人工智能生成合成内容标识办法》等法律法规。

2.使用显著AI标识,严禁换脸带货。要求商家和内容创作者在利用AI技术生成合成数字人主播、虚拟场景时,在显著位置清晰标注“AI生成”或“拟真场景”等提示内容;鼓励使用平台提供的统一AI内容标识功能主动声明,严禁利用AI合成换脸技术仿冒名人明星带货。

3.加强内容审核,及时采取措施。在内容审核与传播环节,采取措施对商家或内容创作者的直播内容、直播场景进行监测,一旦发现没有标识的疑似AI数字人或AI虚拟场景问题,将及时采取适当方式在发布内容周边添加显著的提示标识,经平台研判,确系存在违规行为的,将进一步采取屏蔽链接等措施。

4.提供明确AI标识工具与操作指引。为商家及内容创作者提供便捷的AI标识工具和清晰的操作指引,引导其主动规范使用AI标识。

5.严打AI标识违规行为。坚决抵制恶意删除、篡改、伪造或隐匿AI内容标识的行为,对违规账号及内容依法依规严肃处理,维护AI制度的严肃性。

6.将AI内容标识规范纳入治理体系。将AI内容标识要求纳入平台治理体系,对商家或内容创作者加强合规培训,提升平台内AI技术合规水平。

03

法律分析

《承诺书》通过上述六大措施,明确平台在AI场景下的责任和电商平台商家在使用AI生成合成内容时的标识要求,目的是通过规范电商平台和商家对AI生成物进行合理标识,以保护消费者知情权并提升行业规范度。

其主要关注的是消费者知情权保护和AI生成物标识两个法律问题。

1. 消费者知情权保护

根据《消费者权益保护法》第八条关于知情权的规定,消费者有权知悉其购买、使用或者接受服务的真实情况。

第八条

消费者享有知悉其购买、使用的商品或者接受的服务的真实情况的权利。

消费者有权根据商品或者服务的不同情况,要求经营者提供商品的价格、产地、生产者、用途、性能、规格、等级、主要成份、生产日期、有效期限、检验合格证明、使用方法说明书、售后服务,或者服务的内容、规格、费用等有关情况。

在电商平台场景下,一般消费者在看到商品图片、带货主播、场景视频等营销内容时,通常会形成一个“理所当然”的预期,即这些内容真实反映了商品状态、使用效果和交易环境。若经营者在未作任何提示的情况下,采用与真实拍摄几乎难以区分的AI 生成图片、视频或虚拟场景进行宣传,即可能在事实上改变或强化消费者对商品质量、功能、使用效果的主观判断,导致其在信息不完整或被误导的基础上作出交易决定,从而侵害其知情权。

此外,《电子商务法》第十七条进一步对电商场景下的信息披露义务作出细化,要求电商经营者对商品和服务信息进行全面、真实、准确的披露。

《电子商务法》第十七条

电子商务经营者应当全面、真实、准确、及时地披露商品或者服务信息,不得以虚构交易、编造用户评价等方式进行虚假或者引人误解的商业宣传,欺骗、误导消费者。

鉴于“是否由 AI 生成”这一属性本身足以影响消费者对商品真实状态、使用效果及交易环境的判断,在使用 AI 生成内容开展宣传、营销活动时,该属性理应被纳入信息披露义务的范畴。

2. AI生成物标识规范

《人工智能生成合成内容标识办法》第十条明确规定,利用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能予以标识。

《人工智能生成合成内容标识办法》第十条

用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。

任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

据此,AI 生成内容的用户(包括电商商家)应主动承担标识义务,明确其使用内容为AI合成生成,在内容发布环节主动完成标注,而非被动等待平台干预。

04

威理扬简评

《承诺书》一方面通过与行业龙头达成自律承诺,倒逼平台在内容展示、AI 标识和风险防控等环节开展制度优化和流程调整;另一方面,也在行政监管之外,引导社会组织与平台通过自律机制,将标识义务进一步细化并落实到具体业务场景之中。

对于大量使用AI 生成内容的平台而言,无论产品形态属于游戏、社交,还是电商、内容社区,均可参考上述监管与行业自律趋势,主动开展场景梳理和合规自查,尽快建立并完善内部的AI 标识管理制度和操作规范,将 AI 标识要求前置嵌入内容生产、审核与展示全流程。在提高用户体验与信息透明度的同时,也可提前完成合规化改造,降低因标识缺失或不规范而被约谈、整改乃至处罚的风险。

在此基础上,平台还可以将AI 标识与更广义的内部治理结合起来,例如:将标识要求纳入商家协议与平台规则,对多次违规标识的账号设立阶梯式处置机制;通过运营位、产品文案向用户解释 AI 标识的含义,提升用户对标识体系的理解度与信任度。在发生纠纷或监管检查时,通过日志与记录证明自身尽到了合理注意义务。