机器学习的安全性(Top笔记)

机器学习的安全性(Top笔记)

机器学习,相对于传统的控制律,能够实现更为复杂的任务,也可以使无人机更智能。同样,对于像飞行器等执行高度危险任务的设备而言,安全性仍是第一考虑的问题。同样,我们也不希望它们学出些具有破坏性的行为来,当前对于安全的强化学习(Safe Reinforcement Learning)的研究主要集中在保证状态迁移的安全性上[1]、[2]、[3]。并理论上进行了部分证明[4]、[5]。

Copyright © ExBot易科机器人实验室 保留所有权利.   Theme   Robin modified by poyoten

用户登录

分享到: