警告谨防“机器人杀手”？抵制韩人工智能武器实验室设立

全球超过50名人工智能研究人员4日联名抵制韩国科学技术院设立人工智能武器实验室，警告谨防“机器人杀手”。

由澳大利亚新南威尔士大学人工智能教授托比·沃尔什发起，美国和日本等30个国家和地区的研究人员4日签署一封公开信，敦促韩国科学技术院停止人工智能武器研发。

这些研究人员说，将拒绝访问韩国科学技术院、接待对方访客或与对方合作研究项目，直至这所韩国顶尖大学承诺放弃研发缺少“有效人工控制”的武器。

联名信写道：“自动武器一旦成熟，战争发展速度和规模将前所未有。它们可能会被***利用。”

韩国科学技术院与韩国十大财团之一韩华集团旗下韩华系统公司合作，于今年2月开设人工智能研发中心，目的是研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术。

参与抵制的研究人员说，这处研发中心实际打算加入全球竞争，研发自动军事武器。“韩国科学技术院这样的著名院校着眼于加速军备竞赛、研发武器，令人遗憾。”

联合国关注

围绕人工智能武器的争议已促使联合国采取行动。

包括美国特斯拉公司首席执行官埃隆·马斯克在内的上百名科技界领袖和人工智能研究人员去年8月签署联名信，敦促联合国遏制“机器人杀手”，以免为时过晚。

信中写道，“机器人杀手”、即能致人毙命的自动武器会改变战争方式，使武力冲突“扩大至前所未有的范围”，甚至有可能“远超人们所能理解的程度”。

联合国一个人工智能专家组去年11月启动讨论，以应对人工智能武器对全球安全造成的挑战。

联合国123个成员国代表定于本月9日在瑞士日内瓦就这一议题召开会议。

趋利避害

技术院4日迅速回应遭遇抵制一事，强调“无意参与研发致命自动武器系统和‘机器人杀手’”。

韩国科学技术院校长申成澈（音译）说，这所大学“显然意识到”关于人工智能有违人类道德的担忧。“我重申韩国科学技术院不会开展任何有违人类尊严的研究活动，包括研发缺少人工控制的自动武器。”

按这一学府的说法，新设研发中心将集中研究如何运用人工智能命令和控制系统、导航大型无人潜水器、指导智能飞行训练以及追踪识别目标。

发起联名抵制的人工智能教授沃尔什说，抵制行动已经发挥作用，“韩国科学技术院作出两大让步：不会开发自动武器，以及保证有意义的人工控制”。至于是否取消抵制，需与其他签署联名信的科研人员共同决定。

沃尔什告诉路透社记者，机器人和人工智能技术实际可以在军事领域发挥有利作用，比如完成扫雷等威胁人类安全的任务。“但我们不能将决定生死的权力交给机器，这越过道德底线。