来源:机器人大讲堂
武大官方新闻上是这样介绍“InvisDefense隐身衣”的:
“视觉神经网络指的是人工智能识别,而不是人类的肉眼识别。比如现在很多视频监控设备都有行人检测功能,智能汽车也可以识别行人、道路、障碍。”InvisDefense研发团队指导教师、武汉大学计算机学院教授王正解释。
对于夜间模式,目前计算机视觉常用的是红外热成像来判断。与之对抗的办法是在“隐身衣”内装一些温控装置,有的是提高温度,有的是降低温度,使计算机难以通过热成像图案判断出人。
卫慧介绍,他从2021年开始跟着导师做“隐身衣”研究,今年8月开始组队备战这次比赛。
另一个难点是实现昼夜兼容。团队的目标就是找到成本最经济的方案,因此一开始试验的是暖宝宝和降温贴。改变局部温度后,还要计算出怎样的排列方式,能成功干扰计算机视觉识别。通过团队的测试视频可以看到,最终只需要在上衣内装上4处不规则形状的温控装置,就可以让红外成像识别“失明”。
“白天夜晚两种模式,我们都在校园里进行了测试,效果很好。目前可以做到行人检测精度下降57.0%,未来可以更高。”王正说。
▍让人工智能更可靠
该项目实际应用前景如何?
王正认为,首先,它的价值在于可能为我国国防事业作出贡献。
王正说:“当前,无人机作战已经十分普及,还有很多国家在研究机器作战,未来人和机器的对抗会十分常见。因此,‘隐身军服’的研究十分必要。”卫慧补充道,“InvisDefense隐身衣”目前一套的成本仅约500元,是一种高性价比的解决方案。
对于民用方面来说,该项目的价值在于反向促进人工智能模型安全性的提升。“研究网络安全,就是要通过不断地对抗攻防,来发现破绽,进而堵住漏洞。我们的成果证明,现在的人工智能技术、计算机识别技术,还可以进一步提升。”王正说。
“我是学‘可信AI’的,这次项目的研究和很多人工智能领域的道理是相通的,比如智能驾驶怎样更可靠地识别道路情况,也可以通过类似的攻防测试来提升可靠性。”卫慧说,此次参赛很好地锻炼了科学创新能力和工程实践能力,将来他会继续完善“InvisDefense隐身衣”项目,希望在人工智能安全这一领域多做一些更有价值的研究。
▍网友们的担心
扫描回复“卡片”,即可一键下载