四部委联合发布《人工智能生成合成内容标识办法》

近年来，人工智能技术发展迅猛，在为经济社会发展注入强大动力的同时，也衍生出一系列问题，如生成合成技术被滥用，虚假信息传播扩散现象加剧等。在此背景下，《标识办法》聚焦于人工智能“生成合成内容标识”这一关键要点，旨在通过明确标识，助力用户有效辨别虚假信息，清晰界定相关服务主体在标识方面的责任与义务，规范内容制作、传播各环节的标识行为，以合理的成本提升安全性，从而推动人工智能健康、有序发展。nqSesmc

一、适用范围

依据规定，凡是符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者，在开展人工智能生成合成内容标识活动时，均适用于本办法。nqSesmc

二、标识内容和形式

人工智能生成合成内容涵盖利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等各类信息。其标识形式主要包括显式标识和隐式标识。显式标识以文字、声音、图形等方式呈现，直接添加在生成合成内容或者交互场景界面中，能够被用户明显感知；隐式标识则是通过技术手段添加在生成合成内容文件数据中，不易被用户察觉。nqSesmc

三、服务提供者的责任

• 显式标识添加：服务提供者需按照要求对生成合成内容添加显式标识。例如，在文本、音频、图片、视频、虚拟场景等的恰当位置添加相应提示标识；在提供下载等功能时，务必确保文件包含符合要求的显式标识。
• 隐式标识设置：要在生成合成内容的文件元数据中添加隐式标识，其中包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。
• 用户告知义务：应在用户服务协议中清晰说明生成合成内容标识的方法、样式等规范内容，并提醒用户仔细阅读、理解相关标识管理要求。

四、传播服务提供者的措施

• 隐式标识核验与处理：传播服务提供者需要核验文件元数据中是否包含隐式标识，并依据不同情况，通过合适方式在发布内容周边添加显著提示标识，以此提醒公众内容属性。
• 标识功能提供与提醒：一方面要提供必要的标识功能，另一方面要提醒用户主动声明发布内容中是否包含生成合成内容。对于符合特定条件的情形，还需在文件元数据中添加传播要素信息。

五、互联网应用程序分发平台的要求

互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。若提供此类服务，则需核验其生成合成内容标识相关材料。nqSesmc

六、用户相关规定

• 用户申请与责任：用户若申请服务提供者提供没有添加显式标识的生成合成内容，服务提供者可在通过用户协议明确用户的标识义务和使用责任后予以提供，并依法留存相关日志不少于六个月。
• 用户发布要求：用户使用网络信息内容传播服务发布生成合成内容时，应当主动声明，并使用服务提供者提供的标识功能进行标识。
• 禁止行为：任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

值得注意的是，为更好地配合《标识办法》的实施，强制性国家标准《网络安全技术人工智能生成合成内容标识方法》已由国家市场监督管理总局、国家标准化管理委员会正式批准发布，将于2025年9月1日与《标识办法》同步实施，为相关主体规范开展标识活动提供有力指导。此外，全国网络安全标准化技术委员会针对生成合成服务提供者和内容传播服务提供者的平台编码，组织起草了配套实践指南《网络安全标准实践指南 —— 人工智能生成合成内容标识 服务提供者编码规则》，已于3月14日正式获批发布，为相关主体开展文件元数据隐式标识提供了清晰的编码指引。nqSesmc