彩林

2017-08-24 | 前沿

DARPA启动确保学习型自主系统安全性的“置信自主性”项目

【据美国DARPA网站2017年8月16日报道】在自主赛博系统和形式化方法的近期突破基础上,美国DARPA 8月16日宣布启动“置信自主性”(Assured Autonomy)研究项目,目标是推进能使计算系统通过学习和发展来更好地管理环境变化的方法以及提升无人机驾驶汽车和无人机等自主系统可预测性的方法。

2016年出版的《Defense Science Board Report on Autonomy》报告中,美国国防科学委员会(DSB)着重强调了对高度可信的自主系统的需求,但在国防部的安全性-关键应用采用自主系统仍然存在挑战和争议。传统上,系统的可信赖性是在设计阶段建立的,并使系统集成足够的能力,以确保在可依赖性方面不可避免的变化能被测量和解决。现有的安全性设计和测试标准是针对人在回路系统开发的,不能扩展到具有高自主级别的学习型系统。

近期基于“当量安全等级”(自主系统的安全性至少要其取代的人在回路系统相当)理念的方法正在广受关注,该方法对比有人系统已知的安全事故率,通过物理试验来确定自主系统的事故率。研究分析表明,由于需要数百万次的物理试验、可能跨度数十年,虽然可通过仿真技术减少所需的物理试验次数,但也降低了可信性,因此单独使用这种模式是不可行的。

与这种规定的、面向过程的安全性和置信方法不同,面向目标的方法(如该项目的项目经理所倡导的方法)无疑更适用于那些能学习、演化和遭遇使用变化的系统。在Assured Autonomy项目的技术路线中,研究人员将开发相关工具,这些工具能提供证明系统能够满足显性表达的功能和安全性目标的基础证据,并能发展成可随系统演化的置信手段。

收藏
阅读数:
原文链接:美国DARPA网站
`

作者关注

同源信息

`