近日,人工智能公司DeepMind开发了一项简单的测试,可以了解人工智能算法是否安全。
研究人员将人工智能软件植入到一系列简单的2D视频游戏中。这款名叫gridworld的游戏由一系列像素块组成,它能够评估9项安全功能,包括人工智能系统是否会自我修改,以及能否学会作弊。
当人类开始在设计时考虑人工智能安全问题,这就是一个进步。
DeepMind开发专项测试确保AI安全性
2017-12-12
近日,人工智能公司DeepMind开发了一项简单的测试,可以了解人工智能算法是否安全。
研究人员将人工智能软件植入到一系列简单的2D视频游戏中。这款名叫gridworld的游戏由一系列像素块组成,它能够评估9项安全功能,包括人工智能系统是否会自我修改,以及能否学会作弊。
当人类开始在设计时考虑人工智能安全问题,这就是一个进步。
相关频道: eNews
您对本文或本站有任何意见,请在下方提交,谢谢!