识别Deepfake(深度伪造)有了新突破。
近几年来,鉴别人脸和视频图像的真假成为AI领域的重点课题。最近,微软亚洲研究院计算机视觉组研究出一项新的识别技术Face X-Ray——给人脸图像、视频做“X光检测”。
关于此项技术的相关论文已被CVPR 2020收录,其技术原理是:当人脸图像被替换之后,图像中就会留下痕迹,而被X-Ray“照”过之后,这个痕迹就会显示出来。
此前业内的主流换脸鉴别算法,包括微软亚洲研究院提出的上一代算法,都是训练AI分类器,让AI模型去“学习”大量的换脸图像,从而具有初步的鉴别能力。
但这类算法的局限在于,只有在图像是采用已知换脸算法(如DeepFake、FaceSwap、Face2Face等)生成的情况下,鉴别技术才有可能达到较高的识别率(99%以上),因为AI模型就是通过大量学习那些算法生成的人脸图像来提升识别能力的。
如果换脸图像采用的是未知算法,鉴别识别率就会降低至70%。问题在于,在实际的生活中,当我们看到换脸图像或视频时,并不知道它是否由已知算法合成。
因此,微软亚洲研究院视觉计算组的研究员在Face X-Ray中通过一种全新的方式判断一张人脸图像是否被更换过。如果这个人脸图像被更换过,一定会存在一个换脸的边界,Face X-Ray要做的就是检测并画出这个边界,让它清晰可见,就像照X光一样。
微软亚洲研究院常务副院长郭百宁表示,“X-Ray最大的突破在于,无论换脸图像采用的是已知还是未知的换脸算法,它都可以有较高的识别率,平均达到95%以上。”他认为,这个方法在某种程度上解决了AI模型的传统“黑盒”问题,可解释且可信赖。
由于Face X-Ray不是通过“学习”大量换脸图像从而提高识别率,该方法不必考虑换脸图像采用的是何种算法,因此更加具有普适性和通用性。
研究员们还发现,每一张图像都有一个来自于硬件或软件的特殊噪声标记,这些噪声就像指纹一样独一无二。因此,Face X-Ray通过确定图像是否包含两种不同的噪声,判定一张人脸图像为合成图像的机率。
可解释性则在于它能标出换脸的边界,不同于以往的算法那样,只能显示识别结果,无法解释为什么。
用Deepfake进行造假,对于个人隐私、企业安全以及 会安全都会造成不小的负面影响。去年开始,包括谷歌、推特在内的各大科技公司一直致力于如何打击Deepfake,用技术“对抗”技术。
声明:本站部分文章及图片源自用户投稿,如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢!