四部门:9月1日起,AI生成合成内容应当添加标识
来源:澎湃新闻 0 570 次 2025-03-15 10:10:35

近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行。

国家互联网信息办公室有关负责人在答记者问中表示,近年来,人工智能技术快速发展,为生成合成文字、图片、音频、视频等信息提供了便利工具,海量信息得以快速生成合成并在网络平台传播,在促进经济社会发展的同时,也产生了生成合成技术滥用、虚假信息传播扩散加剧等问题,引发社会各界的关注关切。

《标识办法》聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,以合理成本提高安全性,促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地,同时减轻人工智能生成合成技术滥用危害,防范利用人工智能技术制作传播虚假信息等风险行为,推动人工智能健康有序发展。

根据《标识办法》,人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

《标识办法》要求,服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照要求对生成合成内容添加显式标识。服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识;提供网络信息内容传播服务的服务提供者应当采取技术措施,规范生成合成内容传播活动。

据《互联网信息服务深度合成管理规定》第十七条,深度合成服务提供者提供深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况,包括“智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务”。

《标识办法》明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识,在提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识;应当在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息;应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。

对于分发平台,《标识办法》要求,互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的,互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

国家互联网信息办公室有关负责人表示,制定《标识办法》总体思路,一是细化已有规定。《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》中提出了标识有关要求,《标识办法》作为规范性文件,进一步细化标识的具体实施规范。二是解决关键问题。《标识办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题,推动由生成到传播各环节的全流程安全管理,力争打造可信赖的人工智能技术。三是统筹发展和安全。考虑人工智能技术发展需要,针对在文本内容中添加隐式标识,在多媒体文件中添加数字水印,仍是技术难点或可能增加企业成本,不作强制要求。为降低平台企业标识成本,提升落地实施的可操作、可执行性,创新提出文本符号标识、音频节奏标识、文件元数据标识等低成本实施的可行方法。四是管理要求与技术标准一体化考虑。为推动《标识办法》落地实施,强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》同步发布,更好地指导相关主体规范开展标识活动。

据介绍,《标识办法》主要从立法层面提出管理要求,明确生成合成内容制作传播各主体的责任义务,为促进人工智能技术创新发展,对具体实施操作不做要求。《网络安全技术 人工智能生成合成内容标识方法》以强制性国家标准形式制定实施,主要提出强制执行部分的标识具体实施方式和操作方法,两者同步推出,于2025年9月1日同步实施,以更好地指导相关主体规范开展标识活动。

相关评论
0 / 500
发表
暂无相关评论...
最新资讯
1
2025年5月29日DTcms、DTmall、DTnds各授权版本更新已发布,注意下载更新一、升级背景近期,微信支付平台进行了技术调整,对于新开通微信支付的用户,原有的 “平台证书” 已不再适用,取而代之的是采用微信支付公钥进行验签。这一变化旨在进一步强化支付安全防护机制,保障用户资金交易的安全性与准确性。二、适用用户范围本次补丁升级仅针对新开通微信支付的用户。若您是已经在使用 “平台证书” 的老用户,系统可正常运行,无需进行本次升级操作,您仍可继续使用原有的 “平台证书” 完成微信支付相关业务。同时,若您此前使用 “平台证书”,也可根据自身需求,自主选择切换为微信支付公钥验签...
2 DTcms正式接入DeepSeek和阿里通义人工智能大模型,新版已更新
1245
3 2025年3月17日DTcms、DTmall、DTnds各授权版本更新已发布,注意下载更新
964
4 四部门:9月1日起,AI生成合成内容应当添加标识
569
5 【重磅上线】动力启航官网焕新登场,诚邀开发者有偿打造丰富应用资源
1086
6 DTnds社区团购系统新品正式发布
1564
7 DTmall多用户商城系统2.0新版正式发布
1484
8 DTcms8.0新版本促销活动,有史以来最低,购买新版本价格低至6.8折
1458
9 DTcms8.0新版本源码已全面上线,已开放小程序在线演示
1094
10 一款优秀的.Net8+Vue3+Nuxt3开源建站系统 DTcms8免费开源版正式发布
1451