Microsoft发布Deepfake检测工具

Microsoft发布Deepfake检测工具

今天,微软宣布了两种新技术来对抗虚假信息,新工作以帮助公众了解这一问题,以及合作伙伴关系来帮助快速推进这些技术和教育工作。

毫无疑问,虚假信息很普遍。微软在普林斯顿大学的雅各布·夏皮罗(Jacob Shapiro)教授支持的研究于本月更新,对2013年至2019年之间针对30个国家的96个单独的外国影响运动进行了分类。这些运动在社交媒体上进行,以毁知名人士,说服公众或分裂辩论。这些广告系列中有26%以美国为目标,而其他目标国家包括亚美尼亚,澳大利亚,巴西,加拿大,法国,德国,荷兰,波兰,沙特阿拉伯,南非,台湾,乌克兰,英国和也门。这些运动中约有93%包括原创内容的创建,86%放大先前存在的内容和74%客观可证实的失真事实。最近的报告还显示,有关COVID-19大流行导致死亡和住院治疗,人们寻求的治疗方法实际上是危险的。

微软今天宣布的内容是Microsoft捍卫民主计划的重要组成部分,该计划除了与虚假信息作斗争外,还有助于通过ElectionGuard保护投票,并通过AccountGuardMicrosoft竞选活动选举365帮助确保竞选活动和参与民主进程的其他人安全顾问。正如布拉德·史密斯(Brad Smith)和卡罗尔·安·布朗(Carol Ann Browne)在2020年代十大技术政策问题中所讨论的那样,这也是对保护和促进新闻业更广泛关注的一部分

新技术

虚假信息有多种形式,没有任何一种技术能够解决帮助人们破译真实而准确的挑战。在Microsoft一直在研究两种独立的技术来解决问题的不同方面。

一个主要问题是Deepfake或合成媒体,它们是由人工智能(AI)以难以检测的方式处理的照片,视频或音频文件。它们似乎使人们说出了自己不喜欢的东西,或者说出了自己不喜欢的地方,而且它们由AI产生并可以继续学习,这一事实使得它们不可避免地会击败传统的检测技术。但是,在短期内,例如即将到来的美国大选,先进的检测技术可能会成为有用的工具,可以帮助识别用户识别深度伪造

今天,微软宣布了Microsoft Video Authenticator。视频身份验证器可以分析静态照片或视频,以提供媒体被人为操纵的几率或置信度分数。对于视频而言,它可以在视频播放时的每个帧上实时提供此百分比。它通过检测可能无法被人眼察觉的深层伪影和微弱的褪色或灰度元素的混合边界来工作。

该技术最初是由Microsoft Research与Microsoft负责任的AI团队以及Microsoft AI,工程与研究中的道德与影响(AETHER)委员会协作开发的,AETHER是Microsoft的顾问委员会,致力于确保开发和部署新技术。以负责任的方式。Video Authenticator是使用Face Forensic ++的公共数据集创建的,并在DeepFake Detection Challenge数据集上进行了测试,这两个都是用于训练和测试Deepfake检测技术的领先模型。

今天微软还发布了一种新技术,该技术既可以检测受操纵的内容,又可以确保人们正在查看的媒体是真实的。该技术有两个组成部分。第一个是Microsoft Azure内置的工具,该工具使内容生产者可以向内容中添加数字哈希和证书。哈希和证书然后随内容一起作为元数据随处在线传播。第二个是阅读器(可以作为浏览器扩展或其他形式存在),用于检查证书并匹配哈希值,使人们可以高度准确地知道内容是真实的,并且尚未更改,以及提供有关制作者的详细信息。

该技术是由Microsoft Research和Microsoft Azure与“捍卫民主计划”合作构建的。这将推动BBC最近宣布的一项名为Project Origin的计划。

上一篇:

下一篇:


标签