芝加哥大学开发新工具保护用户免遭人脸识别系统滥用

据外媒报道,人脸识别正迅速成为人们隐私的最大威胁之一,许多初创公司希望围绕这项技术创建商业服务,并与此同时利用用户们上传的大量照片。虽然针对这个问题有着一个解决方案,但它的有效性最终将取决于大型平台的采用。

人脸识别技术发展极为迅速,这使得它的使用已经成为许多消费者真正关心的问题,他们认为这是对他们生活的又一次侵犯。上周,有消息透露,连锁药店Rite Aid一直在使用面部识别技术以便更容易地识别入店行窃者并对低收入人群或有色人种集中的地区进行了歧视。

佩戴口罩虽然可以摆脱目前使用的一些最先进的面部识别技术,但这种情况很快也会改变,因为新的解决方案将使用公开的口罩自拍数据集来对人工智能进行再训练。尽管由于监管机构和隐私团体的密切关注,一些像IBM这样的公司退出了人脸识别领域,但人们仍有理由认为需要新的立法和某种形式的保护以防止那些滥用这项新技术的公司。

以Clearview AI为例,它从Twitter、Facebook、谷歌和YouTube上抓取人们的照片以此来创建一个面部识别数据库。然而在使用这些服务的时候,该公司没有征求任何用户的许可,据说它的安全措施很糟糕,这就是它最近被起诉的原因。

为此,芝加哥大学的研究人员提出了一种解决方案,即开发一种软件工具,让人们有机会保护自己上传到网上的图片以免遭到未经允许的使用。

芝加哥大学开发新工具保护用户免遭面部识别系统滥用

这个被称为Fawkes的工具利用了机器学习模型必须输入大量图像才能以任何程度的精确度识别个体特定特征这个特点。Fawkes会对用户的图像进行像素级的微小改变,而这人眼是无法察觉的,但却能有效地“掩盖”人们的脸,这样机器学习模型就无法发挥它们的魔力。据了解,这套工具甚至骗过了Facebook、微软、亚马逊和Megvii的人脸识别系统。

然而,Fawkes还算不上完美–该工具无法对使用未经修改的图像构建的模型做任何事情,例如Clearview AI等公司已经使用的图像以及来自执法机构的图像。尽管隐形图像在经过压缩后仍毫无用处,但福克斯的成功将取决于它能否在上传照片到网上的人们中得到广泛使用。

有趣的是,Clearview AI的CEO Hoan Ton-That告诉《纽约时报》,Fawkes似乎并不能对抗其公司开发的面部识别系统。另外他还指出,考虑到互联网上可获得的未经修改的图片数量之多,“几乎可以肯定,要完善像Fawkes这样的技术并大规模部署它已经太迟了。”

截止到目前,Fawkes已经在该项目的网站上发布并被下载超10万次。

负责协调Fawkes开发的Ben Zhao教授表示,像Clearview AI这样的服务距离为互联网上的每个人提供一套全面的图像还有很长的路要走。Zhao还指出,Fawkes是基于中毒攻击的,这是为了逐渐破坏面部识别模型,随着时间的推移隐形图像的百分比会不断增加。

赵的团队希望看到Clearview AI这样的公司被逐出市场,但其成员承认这将会是一场猫捉老鼠的游戏,第三方总能找到短期的方法来应用Fawkes这样的工具。[新浪]

详情了解 http://sandlab.cs.uchicago.edu/fawkes/

上一篇:

下一篇:


标签