无人值守的汽车、无人值守的高铁、无人机……这些无人值守系统真的足够智能与安全吗？人工智能会不会真的导致简单工作大规模失业？在5月16日召开的第二届世界智能大会上，大佬们就人工智能频爆金句。

周鸿祎：人工智能本身就存在安全问题

360集团董事长兼CEO周鸿祎认为，人工智能本身就存在安全问题，我们必须要审慎以待。

比如无人值守系统，可能有安全漏洞的风险，一旦被网络劫持，将带来严重的安全问题。打个比方说，过去的武器像机枪是控制在战士手里的，由人来判断和扣动扳机。一旦在军事上越来越多地引入人工智能技术，假如未来用人工智能做成智能机枪以后，它就可以自己发现目标和自动射击。如果这样的系统哪天不小心被黑客控制了，他就可以远程来控制武器射击。

此外，人工智能所依赖的传感器、训练数据和使用的开源软件等都可能存在安全隐患，比如传感器可以被干扰，系统自身也可以被欺骗或入侵。周鸿祎举例称，360安全团队就曾在测试中利用超声波干扰技术成功实现对特斯拉的欺骗，，让它相信前方的障碍物并不存在。360安全团队也因为上报了这个漏洞，进入了特斯拉名人堂。

再比如，近年来出现的针对智能设备的海豚音攻击行为，黑客通过产生一些无意义的超声波信号，虽然人无法听见，却可以被手机、智能家居以及智能汽车等智能设备的语音控制系统接收到。黑客再利用麦克风的硬件漏洞进行自动解调恢复出原始的语音命令，就可以悄悄开启智能手机、智能家居、智能汽车的语音助手，然后随意拨打电话、发短信、视频通话，或者将设备切换到飞行模式等操作。

周鸿祎认为人工智能还有一个问题，就是现在的人工智能还只是一种拼命用大量数据训练出来的概率判断系统，远远称不上完善。也许可以有99.99%的概率保证识别是正确的，但是对于安全来讲，它只要出现一次识别错误，就会造成严重后果。

另外现在的人工智能系统大多使用开源软件和架构，这里面的安全漏洞很多。因为人工智能都是靠软件代码实现的，是经过数据训练的运行逻辑，而且现在规模越来越庞大。大家都在用的智能手机，代码已经超过一亿行，更不用说智慧城市、核电站等复杂系统了。这些代码都是人写出来的，只要是人写出来的就可能存在漏洞。

周鸿祎在演讲中强调，智能技术的应用将打通虚拟世界和现实世界的界限，对网络空间的攻击可以直接穿透虚拟空间，映射到物理空间安全，产生物理损失和物理伤害。因此，随着智能经济发展，网络安全已经进入了“大安全”时代。

刘强东：人工智能不会导致大规模失业

京东集团董事局主席兼首席执行官刘强东在开幕式上发表主题演讲，他表示人工智能技术的发展并不会导致工人大规模的失业，相反技术的发展能够把人们从繁重的劳动中解放出来，国家也可以通过立法等手段缩短人们工作的时长，让更多人能够有时间陪伴家人，享受更加美好的生活。“在智能时代来临的时候，你的态度、你的变化在决定着你的未来。”

刘强东表示，今天京东成熟的无人机已经能够大规模使用的有4款机型，已经在常态化运营，在国内已经拿到6个省还有十几个城市的飞行执照。而且已经花了一年多的时间，研发真正意义上的重型无人机，也就是载重1吨以上的无人机，预计今年6月底会第一次进行上线测试。配送机器人也已经在包括人大、北大、清华等北京的多所高校进行送货，而且机器人已经可以跟电梯沟通，“现在唯一要解决的就是怎么让机器人爬楼梯、走斜坡，这比较复杂，一旦这个技术突破之后，配送机器人完全可以替代配送员。”

人工智能在生活中也无处不在，比如现在很多客服电话通话其实是人工智能在背后服务。

虽然努力为人工智能背书，但是刘向东在演讲中也表示，“前几天有几个自媒体在炒作，说我要准备开除员工，开除8万人等等，其实这些完全都是耸人听闻，是不准确的。我的原话是说，如果按照今天京东的规模，如果用软件和硬件的人工智能，用智能的技术来做的话，今天做的工作其实大概只需要8万名员工就足够了，而我们今天是超过16万名员工，但是京东还在发展，而且在不断的高速发展，未来还有10倍、20倍的增长空间，所以我们还需要人，我们永远不会因为技术的迭代更新开除任何一个兄弟。”

人工智能技术带来的好处是什么？刘强东列举了很多，比如让今天在大街上风吹日晒给大家送货的快递员最后能坐在办公室，用机器人代替他们送货；比如把蓝领工人转换成白领工人，让他坐在办公室，一个人可以监控几百台机器人的工作。而当机器人出了故障，或者被偷、被抢等各种突发状况的时候，人来进行判断和干涉。“今天光拣货员工平均每个员工每天要行走32公里，这么一个艰苦的劳动，我们以后完全可以用人工智能，用机器人来进行替代。”

当人工智能代替了劳作，刘强东描述说，“我们可以花更多的时间思考一下哲学问题，搞一些艺术，搞一些创造，可以做自己喜欢做的事情，无数人有很多的才华，被繁重的体力劳动淹没了。我们还可以花更多时间去旅游，我们还可以花更多的时间跟家人待在一起，让家庭更加的稳固，让人更有爱。”

对于大量的机器人还会导致失业这种言论，刘强东表示，中国的老龄化将导致人力资源短缺，还可以更改我们的工作时间，比如“以前每周工作40个小时，为什么不能每周工作8个小时，我们一周干两天活就好了，工资待遇比今天还要高，大家有更多的时间做点自己喜欢做的事情。”

扬子晚报记者 徐晓风