给照片穿上“隐身衣”,这款AI工具成功让人脸识别系统失灵【微发信息网】
推广 热搜: 广州  SEO  贷款  深圳    医院  用户体验  网站建设  贵金属  机器人 

给照片穿上“隐身衣”,这款AI工具成功让人脸识别系统失灵

   日期:2020-08-10 16:43:56     浏览:45    评论:0    
核心提示:在当下的网络环境,我们几乎没有隐私可言。你的一张自拍照可能会成为泄露个人敏感信息的导火索。为了保护个人隐私,来自芝加哥大
 在当下的网络环境,我们几乎没有隐私可言。你的一张自拍照可能会成为泄露个人敏感信息的导火索。为了保护个人隐私,来自芝加哥大学计算机科学系的研究团队开发了一款人工智能工具——Fawkes。

新开发的工具可以给你的自拍照穿上“隐身衣”,从而让人脸识别系统无法有效识别。从团队公布的数据看,这套工具已经成功骗过了旷视、微软、亚马逊等公司的面部识别算法。

团队将工具命名为Fawkes也很有深意。Fawkes的命名取自Guy Fawkes Mask(盖伊·福斯克面具)。该面具形象是英国插图画家大卫·劳埃德(David Lloyd)以16世纪英国阴谋家盖伊·福克斯的脸为原型而创造。最早出现在漫画《V字仇杀队》中。

团队论文全文为“Fawkes: Protecting Privacy against Unauthorized Deep Learning Models”,首次发表在第29届USENIX安全研讨会(USENIX Security symposium)发表,电脑软件Fawkes于2020年7月发布,截至目前的下载量已超十万次。

“伪装”照片,“欺骗”人脸识别

Fawkes的功能基于人与计算机的感知差异。从研究团队的论文看,Fawkes主要有两个特点:首先是可以对照片进行肉眼无法察觉的修改。对机器学习模型而言,图像是代表像素的数字。个体的特征由被神经网络系统以数学形式组织而成,人脸识别模型基于此识别个体。Fawkes仅对照片的部分像素进行修改,计算机会察觉,而人眼难以分辨。研究团队将这一过程称为“伪装”。

如果互联网中同一个人经过“伪装”的照片足够多,人脸识别系统将无法从未经更改的照片中识别对应的人,从而保护个人隐私免受侵害。论文指出,该工具仅针对使用未经授权的照片开发的人脸识别系统,不会影响基于合法途径获得的照片(例如执法部门使用的照片)开发的系统。

Fawkes第二个特点是无论应对何种人脸识别系统,图像伪装都能为用户提供95%以上的成功率。 即使将未处理过的原图提前 “泄漏”给人脸识别系统,该工具仍然保持80%以上的成功率。值得一提的是,在应对微软(Azure Face API)、亚马逊(Rekognition)和旷视(Face++)最先进的人脸识别系统时,Fawkes的隐身能力100%有效。

目前,用户可在该项目官网免费使用Fawkes。同时,研究团队已开发Windows和Mac版本的软件,并希望社交媒体公司在其平台直接部署该软件。

Facebook发言人Jay Nancarrow在接受《纽约时报》采访时表示不排除接受该建议,“隐私保护是我们工作的一部分,我们有一支研究团队,专门研究这类技术以及其他防止用户照片被滥用的方法”。

Fawkes能保护我们的隐私吗?

无处不在的人脸识别系统和未经授权获取的数据,对于网络个人隐私保护来说是巨大的威胁。此前,美国面部识别公司Clearview便创建了一个约有30亿张图像的超大容量人脸数据库,而这些数据均从 Facebook,Venmo,YouTube 等社交媒体平台抓取而来。

“我们的目标是使Clearview消失。”论文作者之一,芝加哥大学计算机科学教授Ben Zhao在接受媒体采访时表示。他还表示互联网上照片的总数并不影响Fawkes的效果。只要个人经过“伪装”的照片数量超过旧图,就能够实现混淆人脸识别系统的效果。

不过,业界专家对于Fawkes能否奏效表示怀疑。人脸识别先驱Joseph Atick在接受《纽约时报》采访时表示,“虽然我鼓励这类研究,但我对其是否是能解决我们所面临的问题保持高度怀疑。”他认为只有立法才能从根本上解决人脸识别所导致的隐私泄露问题。

“我个人认为,无论使用哪种方法,都可能会失败,”论文共同第一作者Emily Wenger表示,“我们可以制定法律,但总会有非法行为者。”她也表示自己并不认为Fawkes可以解决所有问题,但研究团队的初衷是“提供一些反击的力量”,正如Fawkes名字背后的含义。

 
免责声明:以上所展示的信息由网友自行发布,内容的真实性、准确性和合法性由发布者负责。微发信息网对此不承担任何保证责任。任何单位或个人如对以上内容有权利主张(包括但不限于侵犯著作权、商业信誉等),请与我们联系并出示相关证据,我们将按国家相关法规即时移除。

本文地址:http://www.wlchinahc.com/news/hangyezixun/202008/126990.html

打赏
 
更多>同类资讯
0相关评论

推荐图文
推荐资讯
点击排行

网站首页  |  付款方式  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  RSS订阅  |  违规举报  |  粤ICP备11090451号
免责声明:本站所有信息均来自互联网搜集,产品相关信息的真实性准确性均由发布单位及个人负责,请大家仔细辨认!并不代表本站观点,微发信息网对此不承担任何相关法律责任!如有信息侵犯了您的权益,请告知,本站将立刻删除。
友情提示:买产品需谨慎
网站资讯与建议:3123798995@qq.com 客服QQ:3123798995点击这里给我发消息3123798995点击这里给我发消息