科技 停机问题证明致命机器人无法正确决定是否杀死人类

停机问题是一个判断任意一个程序一旦启动是否会在有限的时间之内结束运行的问题。艾伦·图灵在1936年证明不存在解决停机问题的通用算法。现在，一组计算机科学家和伦理学家使用停机问题去处理一个武装机器人如何决定杀死一个人类的问题。论文发表在arxiv上。

研究人员使用了电车难题的 一个变种，证明自主机器人不能正确判断是否杀死一个人，就像人类难以在电车难题中正确判断是改变轨道杀死一个人还是不采取行动让失控电车杀死多个人。他们 提出了一组规则用于设计和操作未来的自主机器人，其中第一条规则是：机器人不应该仅仅或主要设计杀死或伤害人类。