谷歌起草“机器人宪法” 确保AI机器人不会伤害人类

新浪科技报道，谷歌旗下DeepMind公司近日公布了三项新进展，其中之一针对收集训练数据的系统，起草了“机器人宪法”，确保AI机器人不会伤害人类。

本次起草的“机器人宪法”受艾萨克・阿西莫夫的“机器人三大定律”启发，围绕着安全出发，指示LLM避免选择涉及人类、动物、尖锐物体甚至电器的任务。

DeepMind表示为了提高安全性，编程限制了机器人的关节，力超过一定阈值时自动停止，此外还配有专门的物理紧急停止开关。谷歌表示在过去7个月的时间里，部署了一支由53台AutoRT机器人组成的机群，分别部署在四个不同的办公楼，并进行了超过77000次试验。