现在哪有那么聪明的人工智能需要写三定律进去…
不过，谷歌Deepmind就正在研究如何实现第二定律（机器人必须服从人类的命令）。以下摘自今年Deepmind发表的相关会议文章[1]：
大致翻译：
可被安全打断的人工智能
强化学习中的代理人（agent, 即机器人）处在一个复杂的世界中，不能总是完美的行动。blablabla...
如果正在学习的机器人认为逃避人类的打断可以增加预期的收益，例如取消“红色停止按钮”的作用，它有可能会这样做。本文探索一种确保机器人不会试图防止（或寻求！）来自环境或人类的打断的方法。我们提供【安全可控】的严格定义...
我们展示，即使是理想的不可计算的强化学习代理人，在一般可计算的决定论环境中仍可被设计为安全可控的。
[1]:
