“AI换脸”视频不能随便玩了！国内首个监管规定明年元旦起施行

强化监管处罚，首提“辟谣机制”

淘宝截图

新规出台

规定首次提出“辟谣机制”

近日，国家互联 信息办公室、文化和旅游部、国家广播电视总局联合印发了《 络音视频信息服务管理规定》(简称《规定》)。

《规定》首次提出“辟谣机制”—— 络音视频信息服务提供者应当建立健全辟谣机制，发现 络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息 信、文化和旅游、广播电视等部门备案。

《规定》还明确了监管和处罚机制——违反《规定》的，由 信、文化和旅游、广播电视等部门依照相关法律法规规定处理；构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

探访现状

上还可购买AI“换脸”制作

2017年底，deepfake换脸技术出现后，使用AI技术“造假”的视频也日渐增多。而且，随着技术的进步，此类视频变得越来越真假难辨，引发人们的担忧。

总体而言，通过大数据和机器学习，AI解构信息后，就能完美地生成他人的声音和形象信息。

但就在“ZAO”流行的同时，其也因暗藏隐私泄露“大坑”，且无法注销的用户协议条款引发争议。

实际上，在“ZAO”之前，“AI换脸术”也曾风靡过。最火的莫过于“如何让杨幂拥有朱茵的演技？”——今年年初，一段借助“AI换脸”制作的94版《射雕英雄传》流行，黄蓉扮演者朱茵的脸被换成杨幂的，虽然五官不同，但换脸后的表情、动作自然流畅。

未来影响

将有助于行业健康有序发展

对于 络音视频信息服务使用者而言，则应依法使用 络音视频信息服务，自己的权利受到侵犯时一定要举 投诉，依法保护自己应有的权利。