网信办等三部门联合发布新规，不得随意发布AI造假视频

语音播放文章内容

由深声科技提供技术支持

据统计，当前我国网络音乐用户规模已达6.08亿，网络视频用户规模已达7.59亿。网络音视频行业在持续高速发展的过程中，也带来传播违法和不良信息、侵犯人民群众合法权益等风险隐患；随着“深度伪造”等新技术新应用在网络音视频领域的运用，风险进一步集聚、放大。

近日，国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》，自2020年1月1日起施行。

《规定》首次明确了管理对象，界定了“网络音视频信息服务”的含义。此次规范的“网络音视频信息服务”，包括了网络音频、网络直播、短视频、网络影视剧等所有形式的网络音视频制作、发布、传播等服务。

《规定》明确，网络音视频信息服务提供者应当依法取得法律、行政法规规定的相关资质；应当建立健全用户注册、信息发布审核、信息安全管理等制度。任何组织和个人不得利用网络音视频信息服务以及相关信息技术从事法律法规禁止的活动，侵害他人合法权益。

《规定》强调，网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识，不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。

网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。

《规定》明确，网络音视频信息服务提供者和网络音视频信息服务使用者违反《规定》的，由网信、文化和旅游、广播电视等部门依照相关法律法规规定处理；构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

当前，整个行业依然充斥着盗版、低俗、谣言、不良信息、侵犯肖像权、危未成年人等各种情况，而且随着各种AI换头、变声等新技术的推进，这种风险隐患在网络音视频领域被进一步集聚、放大。

在这样的情况下，从内容质量提升到行业良性发展，再到个人用户的信息安全，行业规范都势在必行。

需要说明的是，此次《规定》虽然只是规范性文件，但这样的行业法律法规，有赖于细化标准的确立，具体到落实将会有更加详实的执行方案出台。

一旦明确了管理机制，各级网信、文化和旅游、广播电视等部门都将依据各自职责开展行业监管工作，网络音视频行业走向规范只是一个时间问题。