谷歌制定新“机器人守则” 确保科幻片不会成真
谷歌旗下的 DeepMind 机器人团队公布了三项新进展,称这将帮助机器人在实验室外做出更快、更好、更安全的决策。其中一个包括一个通过“机器人守则”收集训练数据的系统,以确保你的机器人办公室助理可以为你取更多的打印纸,但不会攻击碰巧挡道的人类同事。谷歌的数据收集系统AutoRT 可以使用视觉语言模型(VLM) 和大型语言模型(LLM) 协同工作来了解其环境,适应不熟悉的长井,并决定适当的任务。 《机器人守则》的灵感源自阿西莫夫的《机器人三定律》,它被描述为一套“以安全为中心的提示”,指导操控机器人的 AI 避免选择涉及人类、动物、尖锐物体甚至电器的任务。为了提高安全性,DeepMind对机器人进行了编程,如果其关节上的力超过一定阈值,就会自动停止。机器人包含一个实体的终止开关,人类操作员可以使用它来立即关闭机器