Warning: Cannot modify header information - headers already sent by (output started at /www/wwwroot/woniupai.net/wp-load.php:19) in /www/wwwroot/woniupai.net/wp-includes/feed-rss2.php on line 8
RealAI – 蜗牛派 http://www.woniupai.net 关注大学生创业和职场励志的媒体博客! Tue, 07 Apr 2020 09:53:17 +0000 zh-CN hourly 1 https://wordpress.org/?v=5.4.18 http://www.woniupai.net/wp-content/uploads/2016/03/cropped-skidmark-32x32.png RealAI – 蜗牛派 http://www.woniupai.net 32 32 清华创业团队推出人工智能安全平台“RealSafe” http://www.woniupai.net/116802.html Tue, 07 Apr 2020 09:53:17 +0000 http://www.woniupai.net/?p=116802 蜗牛派消息4 月 7 日,来自清华的 RealAI(瑞莱智慧)发布了 RealSafe 人工智能安全平台,随之推出的测试结果令人惊讶:通过平台对微软、亚马逊云服务的人脸比对演示平台进行测试显示,基于 RealSafe 平台生成的对抗样本「噪音」能够极大干扰两大主流人脸比对平台的识别结果。

当前较为领先,且广泛被采用的多家人脸识别技术,现在可以被轻易破解了。

RealAI 研究团队选取了一组不同的人脸图片,通过 RealSafe 平台对其中一张图片生成对抗样本,但不影响肉眼判断,添加「对抗样本」前后分别输入微软、亚马逊人脸比对平台中。

最终结果显示,添加「噪音」扰动前,两张图片相似度低,微软、亚马逊平台判定为「不相同」,但添加扰动后,几套系统均错误识别为「相同」,甚至在微软平台前后相似度的变化幅度高达 70% 以上。

检测出人脸识别系统「漏洞」的 RealSafe 人工智能安全平台,是全球首个针对算法模型本身进行安全的检测平台,内置领先的攻防算法模型,旨在为企业用户提供从算法测评到防御升级的整体解决方案。

而针对人脸比对系统的攻击测试,是 RealSafe 人工智能安全平台为用户提供的对抗样本攻防在线体验。

免责声明:本文版权归原作者所有,文章系作者个人观点不代表蜗牛派立场,如若转载请联系原作者;本站仅提供信息存储空间服务,内容仅为传递更多信息之目的,如涉及作品内容、版权等其它问题都请联系kefu@woniupai.net反馈!

]]>