乌龟还是步枪?3D打印模型在人工智能领域的应用

麻省理工学院和加州伯克利大学利用3D打印模型测试了人工智能检测图像识别技术。

虽然肉眼识别乌龟是十分容易的事情,人工智能算法却经常将其错认为步枪,这些误差对于进阶机器学习软件来说是严重的安全问题。出于安全性的考量,麻省理工学院的计算机科学教授Aleksander Madry认为,需要增强机械学习的精准度。

上个星期在位于斯德哥尔摩的国际机器学习会议上,麻省理工学院和加州伯克利大学的团队发布了他们的研究结果。该团队利用类似黑客行为,通过对图像、物体和声音进行轻微的改变来操控的人工智能识别技术。这项技术被用作机器学习纠错,来完善其工作过程和精准度。

在工业化4.0推动下,西门子(英国)公司大力鼓励公司利用人工技能、机器人和自动系统。这些高新科技将会为英国经济贡献4550亿英镑。因此科学家正在积极实验和评估系统的安全性。

在最初的实验中,科学家在交通停牌上面贴上了贴纸来“欺骗”人工智能算法,使其辨认为每小时45英里的限速牌。在实际生活中,如果人工智能辨认错误,后果将十分严重。在接下来的实验之中,科学家利用3D打印的乌龟模型来进行了测试。人工智能算法抓取了模型的图像,之后科学家逐步改变模型的倾斜度和摆放位置来误导人工智能系统,从而致使人工智能系统错误地将乌龟模型识别为步枪。利用相同的程序,研究团队使得人工智能系统错误的将棒球识别成一杯浓缩咖啡。

随着人工智能时代的来临,我们还没有从安全的角度来考量该科技的可靠性。因此,在人工智能被广泛应用之前需要进行大量的测试、安全评估功能。3D打印技术在安全测试方面的作用不可小视。

发表评论
留言与评论(共有 0 条评论)
   
验证码:

相关文章

'); })();