提示:本文共有 792 个字,阅读大概需要 2 分钟。
我们早已适应了人脸识别设备,大多数火车站检票员已经被人脸识别通道取代,这也暗示着人脸识别系统的识别能力早已媲美人类。
然而研究人员证明,他们可以戏耍人脸识别系统,偷梁换柱。
网络安全公司 McAfee 的一个团队对面部识别系统进行了攻击,类似于火车站采用的用于验证车票和身份证的系统。通过使用机器学习,他们生成了一张假照片,尽管人眼一眼就认出与本人不同,但骗过了人脸识别系统,这相当于让一个没有买票的人顺利登上了高铁。
工作原理
为了误导算法,研究人员使用了一种称为 CycleGAN 的图像转换算法,该算法擅长将照片从一种样式转换为另一种样式。例如,它可以使一个风景照转换成油画,或者把一张冬天的照片变成夏天的样子。
McAfee 团队使用了项目两个人的 1500 张照片,输入CycleGAN中,将两个人的照片互相转换。同时,他们使用人脸识别算法检验 CycleGAN 生成的图像,看看它是否能认出来。在生成了数百张图片后,CycleGAN 最终生产了一张假照片,肉眼上看起来像张三,但却骗过了人脸识别,让它以为是李四。
虽然该研究对人脸识别系统的安全性提出了明确的警告,但条件也非常苛刻,最关键的一点,研究人员没办法接入火车站的人脸识别服务器。
其次,这样的攻击需要大量的时间和资源。CycleGAN 需要强大的计算机和专业知识来培训和执行。
McAfee 的研究人员说,他们的目标最终是展示这些 AI 系统中固有的漏洞,并明确人类必须保持警惕。
研究人员说:“AI 和面部识别是极其强大的工具,有助于识别和管理人员。但是,当你只是用它盲目地取代一个现有的系统,取代人工,并且不设置一个后备措施,那么问题一旦出现,就是大的危机。”
人脸识别系统越来越多地用于世界各地的机场与铁路,这项技术也已经被政府和企业广泛应用在执法、雇佣和活动安全等领域,随着各类担忧的出现,一些城市已经开始禁止使用这项技术。
看到此处说明本文对你还是有帮助的,关于“人脸识别又被戏耍 错把张三认成李四”留言是大家的经验之谈相信也会对你有益,推荐继续阅读下面的相关内容,与本文相关度极高!