“杀人机器人”到底有多可怕？

据路透社消息，欧洲议会近日通过一项决议，呼吁全球禁止研发、生产和使用“杀人机器人”。

“杀人机器人”是一种由人工智能来挑选并攻击目标的自动武器，它无须人类控制。

欧洲议会安全政策发言人Bodil Valero称，“自动武器必须在全球范围内予以禁止，决定生死的权力绝不能被机器从人类手中夺走。”

据欧盟议会一份声明，欧盟26国都同意禁止人工智能武器，近期通过的决议则是希望在11月的联合国会议前先达成共识。

“永不睡觉的士兵”

现代意义上的“杀人机器人”其实是一种人工智能。

“杀人机器人”全称为“致命性自主武器系统”，BBC曾以“永不睡觉的士兵”形容杀人机器人。它是一种无人武器，一种用以代替士兵的全自动智能机器人。

这类机器人可以在无人操控的情况下自动选择攻击目标并实施攻击，从最初的由人远程控制，发展至由计算机程序和传感器装置控制，进而进化为全自动识别、判断并实施行动。据维基百科，这类武器系统可以在陆地、空中、水面、深海甚至太空中使用。

而最早的自动性武器可以追溯到17世纪的地雷和18世纪的水雷。此后则发展为1970年代为保护战舰或陆基的近距离武器系统（CWIS）——一旦启动，这些武器能自动击落来犯的火箭和导弹。这类武器最著名的当属美国的Phalanx。

自主性更强的武器则是无人机或无人作战飞行器，它们能够自动搜索、识别和定位敌人，有的还装有监视和打击系统。而无人水下航行器则可以排雷、建立反潜传感器网络、使用主动声纳巡逻、补给有人操纵的潜艇以及成为低成本导弹平台等。

随着科技的进步、人工智能的发展，全自动武器发展迅速。美国、韩国、俄罗斯、以色列、英国等国家在“杀人机器人”的研发上更是颇下功夫。

将生死权交给机器？

但事实上，“杀人机器人”一直以来备受争议。

一方面，许多人认为将决定自然人生与死的权力交给机器，意味着“道义责任的缺失”。另一方面，杀人机器人难以分辨伤员及战俘，可能会导致“误杀”，许多人称这违反人权、不人道。

人权观察组织称，完全自主的武器是否符合国际人道主义标准，以及它们是否会威胁到生命的基本权利和人的尊严，这是值得怀疑的。因此，人权观察组织呼吁禁止杀人机器人。

2016年全球挑战基金会发布的《全球灾难风险报告》中更是称，“终结者”式的杀人机器人可能在5年内灭绝人类。

而据英国《镜报》，许多专家和高级军事官员称，全球用于杀人机器人研发的经费2020年将达到1880亿美元，这将导致不远的未来杀人机器人可能会出现在战场上。

因此，多年来，许多国际组织呼吁要全面禁止杀人机器人的研发生产和使用。

2013年，国际“杀手机器人禁令运动”组织成立。2015年，超1000名人工智能专家呼吁禁止杀人机器人的使用，称其会导致各国开展人工智能武器装备竞赛，掀起无人战争。

2017年11月，“杀手机器人禁令运动”组织了一场联合国特定常规武器公约会议，超过七十个国家代表出席，共同商讨禁止杀人机器人等相关议题。

今年8月底在日内瓦召开了一次关于禁止杀人机器人的国际性会议，但最终各国并未达成统一，唯一的结果只是“明年继续谈”。

杀人机器人也有积极作用？

虽然许多组织呼吁禁止杀人机器人，但同时也有许多国家表示，禁止杀人机器人的问题可以继续谈，但反对形成一个国际性条约或是发表政治宣言等。

《镜报》称，美国、澳大利亚、俄罗斯、韩国、以色列等国家多次表达了他们继续探索发展杀人机器人的优势和益处的意愿。

的确，许多人认为使用杀人机器人是有一定好处的，因为使用杀人机器人代替士兵作战，可以降低士兵的伤亡率。此外，自主武器系统也省去了军人的薪水、住房、养老等开销，在速度、准确性上也远高于人类。

澳大利亚新闻网更是直接称“禁止杀人机器人不是一个好主意”。文章称，武器并非罪恶之源，人才是，而自动武器可以快速高效地对类似澳大利亚的国家实施防护，因此杀人机器人是有积极作用的。

另据路透社，许多人表示，杀人机器人禁令可能会阻碍人工智能的发展。另一些人则担心，若是一些国家允许一些国家禁止，会产生严重的安全隐患。

德国国家电视台称，截至目前，有26个国家积极呼吁禁止杀人机器人，另有230余个组织、3000余个个人签署公开声明，但要在全球范围内达成一致却并非易事。