聚焦
美国国防部致力于研究可读懂用户大脑的武器
映雪

2017-07-28 | 聚焦

据breakingdefense网站2017年7月14日刊文,明天的部队有可能能利用他们的大脑来扣动扳机。正如人工智能(AI)无人机、黑客、干扰和导弹正加速作战的速度那样,美国国防部一些前沿科学家正在研究如何使人类跟上网络战、导弹和其他威胁的惊人速度。一种选择是绕过条件恶劣的物理控制——扳机、游标、键盘,而将计算机直接插入人脑中。在DARPA所做的一个实验中,一名四肢瘫痪者首次控制了一个假肢,其后飞行了飞行模拟器。未来的这些系统可能监测用户的神经系统,并补偿其压力、疲劳或伤害——一种五角大楼所谓的“人机联队”方式。

对于那些不信任AI的人而言,“让我们教它们读懂我们的大脑”是一个令人不安的场景。如果你的梦境是机器人失控,则这可能不是首选解决方案。但五角大楼官员昨天在国防年度技术会议上强调,这一目标是提高人类对AI的控制。教会AI监测用户的工作压力、疲劳、分心等等有助于机器适应更好地为人类服务的需要,而不是以其他的方式。教会AI瞬间检测用户的打算下达的指令,替代一种相对费力地推按钮,帮助人类保持控制,而不是让AI空转。

前国防部长Ash Carter说,美国国防部的政策是“绝不”允许人工智能自行决定射击人,但一些人如负责采办和技术副部长样Frank Kendall那样公开担心,让我们的机器人等待人类的许可能会减慢它们的速度,而敌方没有这种限制,这样将会打败我们。参谋长联席会议副主席Paul Selva将军称这是“终结者难题”。神经科学正提出摆脱这种两难境地的方法:在无需减慢AI速度的情况下,使人类决策更快。

·加速人类的决策速度

美国空军研究实验室第711军人素大队的投资组合经理James Christensen博士说:“我们将继续让人在决策环内,但我们的方式将必须转变,仅仅解决为自主式系统提供速度和能力。包含这些系统的决策环将非常地快,以致于它们必须感受飞行员个人的意图的状态并做出反应。”换言之,该武器系统不是对人类飞行员的物理触碰按键、而是对大脑细胞作出反应,形成使用控制的意图。

在限制条件下读懂头脑将需要深入地了解和密切地监测大脑:以从神经元到神经元之间电脉冲运动的可衡量形式读取那里的想法,。“我们已开发出精确的神经生物技术,可以实时进入大脑或周围神经系统的回路中吗?我们是否拥有让我们理解这些信号的变化的计算系统?我们能否给人或机器提供有意义的反馈,以帮助他们更好地工作?”DARPA生物技术办公室主任Justin Sanchez说。“DARPA“革命性的假肢”计划已构造了一个四肢瘫痪者的大脑,让病人直接用他们的思想控制假臂和假腿。这是一个对所有参者的真正唤醒式呼吁,我们起初并不认为他们能做到这一点。”

·适应人类

直接将神经控制应用到真正的飞机或网络安全系统,将需要在设计理念上进行根本的改变。今天我们向飞行员提供了有关飞机的大量信息,然后期望他们能适应它;未来,我们可以向飞机提供有关飞行员的大量信息,然后让它利用人工智能来适应他们。AI可以自定义显示器、控制器甚至是它所承担任务(相对于它留给人类的任务)的组合——这些都是精心定制的,有针对驾驶员个人的偏好以及他/她当时的心理和生理状态。

Christensen说:“今天我们制造飞机时,它们已是令人难以置信的传感器平台:收集其周围世界和飞机系统本身的数据,但收集了很少有关驾驶员的数据。我们正在尝试利用技术创建的机会是提供一种持续监测和评估的能力,以使飞机知道个人的状态:他们是清醒的、警觉的、有意识的、完全能够发挥他们作为人机系统组成部分的作用吗?飞机还能做些什么吗?它能减少g载荷吗?它能减少飞行员的工作压力吗?”

“这种对国家和人类能力的感知和理解能力对于高度自动化系统的成功使用绝对是至关重要的。当前我们所有的系统都是被架构的、固定不变的、可预知的、确定性的。可预见性有其优点,即我们可以训练达到他们的行动非常地一致;更容易测试和评估。但尽管它们是真正高度自动化、自主的系统,我们所失去其自适应能力。虽然这种适应创造了不可预见性,但人类必须与该系统相适应,并且为了做到这一点,必须要有一定的相互感知性,这样人类必须明白该系统正在做什么,它试图做什么,为什么会发生那种情况;反之亦然,该系统必须对人的意图以及他们的状态和能力有一定的了解。”

这种人与AI之间的协同效应是一些理论学家所谓的“半人马”(centaur)——当把人与马结合生成一种神话物种之后,其中人类的部分牢牢地进行控制,还受益于野兽的力量和速度。另一方面,半人马概念是五角大楼人机工作组和“第三次抵消战略”思想的核心,即通过革命性地利用AI,寻求抗衡/抵消敌方先进技术的方法。

神经科学现正处于起步阶段。但在我们的机器人被过于密切控制所束缚或让它们过于无拘无束之间时,它给出了一幅描绘着光明前景的承诺。

收藏
阅读数:
原文链接:breakingdefense网站
`

相关推荐

没有相关内容

作者关注

聚焦 2018-07-06

分布式管理任务组(DMTF)与PICMG 协作嵌入式系统的管理

映雪 摘自:electronicdesign网站

聚焦 2018-07-05

NextGen空中交通管制对商业航空的好处

映雪 摘自:NBAA网站

同源信息

聚焦 2017-12-13

在国防采办领域实行问责制是个坏主意

微尘 摘自:breakingdefense网站

聚焦 2017-11-08

现在是美国人工智能的“人造卫星时刻”

映雪 摘自:breakingdefense网站

`