无人值守系统真的足够智能与安全吗？

引言

随着人工智能技术的发展，越来越多的无人值守系统会出现在社会生活的方方面面 。

但是，这些无人值守系统真的足够智能与安全吗？人工智能本身就存在安全问题，我们必须要审慎以待。

安全漏洞

无人值守系统，它们都有安全漏洞的风险，一旦被网络劫持，将带来严重的安全问题。

举例：过去的武器像机枪是控制在战士手里的，由人来判断和扣动扳机。一旦在军事上越来越多地引入人工智能技术，假如未来用人工智能做成智能机枪以后，它就可以自己发现目标和自动射击。如果这样的系统哪天不小心被黑客控制了，他就可以远程来控制武器射击，滥杀无辜，造成的后果非常可怕。

开源隐忧

人工智能所依赖的传感器、训练数据和使用的开源软件等都可能存在安全隐患，比如传感器可以被干扰，系统自身也可以被欺骗或入侵。

举例：近年来出现的针对智能设备的海豚音攻击行为，黑客通过产生一些无意义的超声波信号，虽然人无法听见，却可以被手机、智能家居以及智能汽车等智能设备的语音控制系统接收到。黑客再利用麦克风的硬件漏洞进行自动解调恢复出原始的语音命令，就可以悄悄开启智能手机、智能家居、智能汽车的语音助手，然后随意拨打电话、发短信、视频通话，或者将设备切换到飞行模式等操作。

概率判断

现在的人工智能还只是一种拼命用大量数据训练出来的概率判断系统，远远称不上完善。

前段时间，Uber公司改装后的自动驾驶测试车在美国撞死了一位女士，充分表明今天的人工智能技术并不是一个完备体系。Uber的那辆汽车当时处于光线很暗的环境中，那位女士穿了件黑色衣服，在这种很复杂的情况下，汽车的人工智能没有做出任何判断，甚至没有减速，最终酿成了悲剧。

总结

智能技术的应用将打通虚拟世界和现实世界的界限，对网络空间的攻击可以直接穿透虚拟空间，映射到物理空间安全，产生物理损失和物理伤害。

网络安全威胁已经从网络空间，扩展到国家安全、国防安全、关键基础设施安全、社会安全、城市安全，乃至人身安全。可以说，随着智能经济发展，网络安全已经进入了“大安全”时代。当人工智能、智能经济这些热门词汇开始受到关注时，我们更要居安思危，共同守护网络空间与物理世界的安全。