Deepfake搅动政局?微软推出最新检测工具,助力美国大选免遭虚假信息威胁

  • 时间:
  • 浏览:13
  • 来源:云库数动

因美国大选,Deepfake再一次引发关注。

Deepfake的深度造假能力自不必多说,支持换脸、换头、对口型,逼真程度已经达到肉眼无法察觉的地步。由于该技术被广泛用于制造虚假色情视频,学术界、企业界开始联合发力研发Deepfake检测工具。

近日,微软推出了两项最新Deepfake检测技术,不过,其目的是保护美国大选免受虚假信息威胁。

Deepfake伪造政治言论

近几年,有关政界的虚假信息已经充斥于社交网络。

据普林斯顿大学教授Jacob Shapiro最新研究结果显示,2013年至2019年期间,社交媒体已累计发起96次政治运动,其行为多为诋毁政客、误导公众、激化辩论等。

在涉及的30多个国家中,美国占据了26%,其他国家包括亚美尼亚、澳大利亚、巴西、加拿大、法国、德国、荷兰、波兰、沙特阿拉伯、南非、台湾、乌克兰、英国和也门等。

重要的是,在这些运动中,93%为原创内容,86%放大了已有内容,74%歪曲了客观事实。报告还显示,关于COVID-19大流行的虚假信息已经导致大量人们死亡和感染。

而Deepfake的出现和发展,再次为制造虚假信息提供了更便捷的途径。在Youtube上,有关Donald Trump、Barack Hussein Obama,  Elon Musk等名人政客的虚假换脸视频已屡见不鲜。

如图中,特朗普的面部被无缝转换到一名演员(Alec Baldwin)身上,发表着与本人不相关的言论。

这些视频虽为网友恶搞,但美国大选在即,难免有人利用这项技术扰动政局。而Deepfake的深度造假能力,以及对政界可能产生的影响力,也早有先例:

2018年,加蓬(非洲中西部国家)总统Ali Bongo因病消失数月,为了打消外界图谋不轨的猜测,政府发布了一段 Ali Bongo 录制的新年致辞的视频,而这则由Deepfakes技术合成的视频,差点引发军方兵变。

2019 年,一段关于马来西亚经济部长Azmin Ali 与男性发生性关系的视频在网络上疯传。(同性性关系在马来西亚属违法行为)。虽然 Azmin Ali 声称这段视频是通过Deepfakes技术伪造的,是政治阴谋,但是,国际专家声称找不到伪造迹象。

CNAS 技术与国家安全项目主任 Paul Scharre 曾发出警告称,

Deepfakes 具有极大的破坏性,利用它来操控选举只是时间问题。

另外,今年美因冠疫情肆虐,美国大选期间所有活动几乎都在线上进行,而这无疑为伪造政客虚假言论提供了机会。

不过,微软近日宣称其最新研发的Deepfake检测工具,可以有效帮助用户识别虚假信息,目前已经与多家媒体达成合作,用以保护美国大选期间免受信息虚假带来的威胁。

捍卫民主,微软推出Deepfake检测工具

Deepfake检测,是微软“保护民主”计划中的一项。这项计划于2018年开始启动,截止目前已陆续推出了Election Guard、Account Guard,Microsoft 365 for Campaigns 和Election等多项技术,并广泛用于政治活动中。

除了以上技术外,他们针对Deepfake可能带来的政治威胁,研发了两项最新检测技术。

其中的一项技术为:视频认证器(Video Authenticator)。Deepfake被广泛用于图像、音频和视频造假,其中视频是一种常用且可信度更高的方式。视频认证器可以在视频播放的每个帧与原图进行实时对比,并给出数据分析,它的工作原理是检测人眼可能无法察觉到的深伪、细微褪色或灰度元素的混合边界。

视频认证器已通过了DeepFake Detection Challenge数据集测试,该数据集是训练和测试DeepFake检测技术的领先模型。

值得一提的是,在今年的Deepfake挑战赛上,参赛团队基于该数据集在识别虚假的准确性方面最高达到了80%以上,黑盒测试准确率最高达到了65%。

但是由于该数据集的使用存在一定的限制,视频认证器的训练是通过创建Face Forensic ++数据集完成的。

目前这项技术已与AI基金会达成合作,AI基金会是一家位于旧金山的商业和非营利性企业,其使命是将AI的力量和保护带给全世界的每个人。通过这种合作关系,视频认证器可供参与民主进程的组织(包括新闻媒体和政治运动)广泛使用。

不过,视频认证器仅通过RD2020(Reality Defender 2020)可用,因为它将指导组织通过任何Deepfake检测技术固有的局限性和道德考量。

除了对已有信息的检测,微软推出的另一项技术,支持从信息源头杜绝伪造。微软在博客中写道,

从长远来看,我们必须寻求更有力的方法来维护和证明社交媒体信息的真实性。 目前几乎没有任何工具可以帮助读者确信其在网上看到的信息来源可靠,且没有被篡改。而今天我们宣布的这项技术,它既可以检测被操纵的内容,又可以向人们保证所观看的媒体是真实的。 


具体来说,这项技术有两个组成部分。 第一个是内置于Microsoft Azure中的一个工具,它使内容制作者能够向内容片段添加数字哈希(Digital hashes,又称数字散列)和证书(Certificates)。哈希和证书将内容作为元数据存在于任何在线传播的地方。

第二个是阅读器,它可以作为浏览器扩展或其他形式存在,用于检查证书并匹配哈希值,让人们高度准确地知道内容是真实的,没有被更改,并提供关于谁制作的详细信息。               

这项技术是由微软研究院、微软Azure与捍卫民主计划(Defending Democracy Program)合作开发,并且已经与包括英国广播公司(BBC),加拿大广播电台和《纽约时报》等多家媒体公司组成合作伙伴关系。

引用链接:雷锋网(公众号:雷锋网)雷锋网雷锋网

https://fossbytes.com/microsofts-deepfake-detection-tool-confidence-score/

https://interestingengineering.com/microsoft-debuts-deepfake-detection-tool-to-combat-disinformation

https://techcrunch.com/2020/09/02/microsoft-launches-a-deepfake-detector-tool-ahead-of-us-election/

https://blogs.microsoft.com/on-the-issues/2020/09/01/disinformation-deepfakes-newsguard-video-authenticator/   

猜你喜欢

微软工具分享:为AR/VR优化3D模型

来源:映维网作者刘源为了获得最佳的渲染效果和最佳的实时性能,在使用Dynamics365ImportTool(Preview)之前,微软建议你首先转换3D模型的格式并根据需要进

2020-10-14

微软要为Win10用户带来Windows 10X的设置体验

来源:新浪VR在微软之前透露的目标看,Windows10X才是未来发展的基石,其是用来取代Windows10的,但现状比较尴尬,因为开发进度太落后,这个新系统可能最快也要明年年

2020-10-14

Surface Pro X全新升级:Qualcomm携手微软持续变革移动计算体验

通过为轻薄、无风扇的PC设备提供突破性的性能和能效,并将智能手机上的最佳特性引入至移动PC中,QualcommTechnologies正在赋能全球领先的移动计算体验。我们携手微

2020-10-13

支持3Glasses S2等,《微软模拟飞行2020》VR版开始内测

来源:映维网作者刘源《微软模拟飞行2020》已经于8月18日正式在Steam发行,而微软此前表示游戏将通过惠普ReverbG2头显提供VR支持,而所述VR模式将于今年秋季晚些时

2020-10-10

微软开源工具MRTK 2.5.0发布,正式支持Oculus Quest

来源:映维网作者梦秋开源项目MicrosoftMixedRealityToolkit(MRTK)旨在帮助开发者轻松利用Unity开发跨平台MR应用。它同时允许开发者通过编辑器模

2020-10-10