一张贴纸骗过AI识别？对抗性机器学习是什么东西？

https://www.toutiao.com/a6686999598004699655/

 

一张贴纸骗过AI识别？对抗性机器学习是什么东西？

来自比利时鲁汶大学 (KU Leuven) 几位研究人员最近的研究发现，借助一张简单打印出来的图案，就可以完美避开 AI 视频监控系统。也就是说在具备AI物体识别的监控系统中，只需要一张简单的打印图案，即可让人工智能忽略掉这个正在移动的物体，包括人体在内。像电影《十二猴子》中那样通过固定视频场景来欺骗视频监控，有了更好更简单的办法。

 

这种针对欺骗AI的方式利用了一种称为对抗性机器学习的方法。大多数计算机视觉系统依赖训练 (卷积) 神经网络来识别不同的东西，方法是给它提供大量样本，调整它的参数，直到它能正确地分类对象。通过将样本输入一个训练好的深度神经网络并监控输出，可以推断出哪些类型的图像让系统感到困惑。

 

这种方法也可以用来隐藏某些对象。例如，如果监视系统被设计为检测物体而不是人，那么 “补丁” 也可以将汽车之类的物体隐藏起来。可以想象，这种伎俩可以让骗子躲避安全摄像头。“我们的工作证明，使用对抗性补丁绕过摄像机监控系统是可能的，” 作者之一 Wiebe Van Ranst。

 

Van Ranst 说，将这种方法应用于现成的视频监控系统应该不会太难。“目前我们还需要知道使用的是哪种检测器。我们未来想做的是生成一个补丁，可以同时在多个检测器上工作，” 他说。“如果这种方法有效，那么这个补丁也很有可能对监控系统中使用的检测器有效。”当然，这个 “补丁” 目前并非万无一失，如果它在画面中不是清晰可见的，或者角度发生了变化，AI 系统都能迅速 “发现” 画面中的人类。

 

不过，这项研究是学术界首次尝试使用 2D 打印技术将人类从检测系统中隐藏起来。之前的工作主要是使用带有特殊框架的眼镜来欺骗人脸识别软件，或使用对抗样本欺骗图像分类系统，例如用一张贴纸就能令 AI 将香蕉误认为是烤面包机，用几张贴纸就能将自动驾驶系统 “骗” 进反车道。

 

在人工智能被广泛应用于安保监控、自动驾驶、图片识别等一系列广泛领域的今天，这种对抗性机器学习技术的出现无异于是一种反潮流的存在。不过正因为人工智能技术的广泛应用，这种对它弱点的研究正好也促进了技术进一步发展，通过不断修正方向、弥补缺点，人工智能技术才能往更智能更全面更优秀的方向发展。