阿里研究发现:“打码图片”可攻击 AI 视觉系统
人有很强的抽象能力和联想力,例如一个由几块积木拼成的乐高玩具,小朋友也能轻易认出其中描述的场景。甚至几个像素,玩家也可以轻易认出这是哪个人物。但 AI 可不一定会轻易识别出来。不久前,某知名品牌汽车被曝其自动驾驶系统无法识别白色货车箱体这样类似于“一堵墙”的障碍物。在自动驾驶中,行人、车辆被漏检或者未能及时被检测到,都可能导致交通事故的产生。此外,安防漏检危险人物与物品也可能导致安全隐患。这些风险都提示,AI 视觉的安全性值得重视。在研究 AI 视觉稳定性的过程中,阿里安全图灵实验室的研究人员札...