前沿
美国陆军研究实验室提升人工智能代理透明度
理群

2018-01-12 | 前沿

【据physorg网站2018年1月11日报道】美国陆军研究实验室(ARL)在近期完成的由美国国防部长办公室“自主研究试点计划(ARPI)”支持的两个项目中,开发了一些可改善人与人工智能(AI)代理间协作的方法。他们通过提高代理透明度(SAT)来实现这一点,代理透明是指机器人、无人平台或软件代理向人类传达其意图、表现、未来计划以及推理过程的能力。

随着机器代理复杂性和独立性的增加,对于人类来说,理解他们的意图、行为、背后的推理过程以及预期的结果是至关重要的,这样人类才可以正确地校准他们对系统的信任,并作出恰当的决策。

美国国防科学委员会在2016年的一份报告中指出,人类对自主系统的信任存在六个障碍,包括低可观察性、可预测性、可指导性和可审计性以及“对共同目标的相互理解不够”等。

为了解决这些问题,ARL开发了基于态势感知的代理透明度模型,并在ARPI支持的一系列人素研究中测试了其对人-代理团队性能的有效性。SAT模型处理代理对其人类合作者的信息需求,以使人在其任务环境中获得代理的有效态势感知。在SAT的第一个层级,代理向操作员提供有关其当前状态和目标、意图和计划的基本信息;在第二个层级,代理揭示其推理过程以及在规划行动时约束/可供性;在SAT的第三个层级,代理向操作员提供有关其对于未来状态的预测、后果、成功/失败可能性以及与上述预测相关的任何不确定性的信息。

在一个缩写为IMPACT的ARPI项目中,该项研究用于多个异构无人载具管理的人-代理团队问题,重点检查了基于SAT模型的代理透明度水平对操作人员在军事情景中决策的影响。一系列实验的结果共同表明,代理透明度有利于人类的决策,也有利于人-代理团队的整体性能。更具体地说,当代理具有加高透明度等级时,人对代理的信任得到了明显的更好的校准,当代理正确时,接受代理的规划;而当代理不正确时拒绝。

另一个涉及到代理透明度的ARPI项目是ARL与美国海军研究实验室(NRL)合作的“自治小组成员”(ASM)项目,ASM是一种小型地面机器人,可以与一个步兵小队进行交互和通信。作为整个ASM项目的一部分,ARL开发了透明度可视化方案,用于调查代理透明度等级对操作员性能的影响。通过SAT模型的信息,ASM的透明度模块用户界面一目了然,其中代理规划、动机和预测结果的图像化表征有助于提升与代理交互的透明度。对ASM用户界面的一系列人素研究,调查了代理透明度对人类队友的态势感知、对ASM信任度和工作量的影响。该项目的研究结果与IMPACT项目一致,验证了代理透明度在不增加工作负荷的前提下对人类任务绩效的正面影响。研究参与者也报告说,他们认为ASM在透明度更高时更加值得信赖,更智能和更人性化。

ARL的研究人员目前正在把SAT模型扩展为人与代理之间的双向透明度模型,面临的挑战是用户界面设计,包括视觉、听觉和其他形式的界面,这些界面可以实时动态地支持双向透明度,而不会带给用户太多的信息和负担。

收藏
阅读数:
原文链接:PhysOrg网站
`

相关推荐

产品技术 2017-11-17

DIUx加速军用飞机预测性维护的人工智能开发

远航 摘自:美国防务系统网站

作者关注

前沿 2018-09-21

美国加州大学利用强化学习以使滑翔机像鸟一样翱翔

理群 摘自:美国加州大学圣迭戈分校网站

前沿 2018-09-21

耶鲁大学利用声波在硅芯片上实现光的非互易操作

理群 摘自:美国耶鲁大学网站

同源信息

`