科学美国人60秒:机器人应该有杀人执照吗?

这里是科学美国人——60秒科学。我是克里斯托弗·因塔利亚塔。
想象一下机器人杀手。你想到了什么？也许……是这个？“我会回来的。”
“我们说的可不是终结者。我们谈论的是简单得多的技术，这些技术最多几年以后就会出现，事实上，大家可以看到现在许多技术都在各个战场上开发着。”
托比·沃尔什是悉尼新南威尔士大学的人工智能教授。2月14日，在美国科学促进会会议上，他在讨论“机器人杀手：技术、法律和伦理挑战”时发表了上述讲话。
“机器人杀手自行利用传感器和软件系统来确定目标，之后在无人监管或人类重要控制下对目标施加致命力。”
另一位发言人、机器人武器控制国际委员会联合创始人彼得·阿萨德在参加联合国有关自主武器的讨论是说到。“因此，我们一直在游说的并不是完全禁止某些特殊技术能力，而是更为普遍的要求，即所有武器系统的目标和参与都应由人类来进行严格控制。”
“我们还非常担心，这些机器人可能构成一种新型大规模杀伤性武器，甚至一小群人或个人就能启动大量自主武器系统，这可能对人口造成致命影响。”
人权观察组织“禁止机器人杀手”运动的协调员玛丽·威尔汉姆引用一项针对机器人杀手的最新国际民调结果说：“公众越来越反对研发去除人类控制的武器系统。”
在接受调查的26个国家中，反对研究杀人机器人的成年人比例由两年前的56%上升至61%。“男性和女性都强烈反对，尽管与女性相比，男性更可能偏爱这些武器系统。”
“这个故事还未结束。我们不知道如何结束。我们希望最终能建立一项国际条约，提供关于规范的指南，即鄙视将人排除在武器系统的选择和攻击过程之外的行为。否则大门将会打开，我们会看到核扩散和破坏稳定的事件，在我们专家看来，如果现在不制定这项新的国际法，那到处都会出现糟糕的局面。”
谢谢大家收听科学美国人——60秒科学。我是克里斯托弗·因塔利亚塔。