• 相关专题
郭道平

2018-05-25 | 观点

人工智能:对人权的影响

2018年5月23日,新美国安全中心网站发布题为《Artificial Intelligence: The Consequences for Human Rights》的国会证词,撰写者是该中心技术与国家安全项目负责人和高级研究员保罗·沙尔。证词主要内容如下:

近年来,人工智能(AI)和机器学习取得了飞速发展。AI工具现在正从研究实验室走入现实世界,并正在重塑各种行业——医药、交通、金融、网络空间安全等等。人工智能同样会对人权有重要影响。

人工智能是一种通用的支撑技术,就像电力、计算机或网络一样。人工智能将被国家和非国家行为体用于各种目的,其中一些无疑将包括压制人权。其他用途可能有助于增进人权或反对专制政权。今天我不打算估计人工智能技术对人权的净效应。相反,我想通过一些技术特点和一些潜在用例来说明人工智能技术被广泛使用的一些可能性。

人工智能的应用

人工智能工具可以有多种多样的应用。 一些例子包括:

•数据分类,例如识别图像,歌曲分类或用于医疗诊断。在训练数据规模足够大的情况下,算法可以训练得非常准确地对数据进行分类,通常比人类做得更好。

•异常检测,如发现欺诈性金融交易或新形式的恶意软件。传统的异常检测方法需要查找已知的签名。然而,新的人工智能工具可以通过分析数据的日常模式,发现未知签名的异常情况,然后识别出超出标准范围的新数据。这些系统可用于大规模实时监控诸如金融交易等大型数据流,这种方式对于人工来说是不可行的。

•预测,如基于大型数据集对未来行为进行统计预测。这类系统已经广泛应用于商业领域,例如Netflix和亚马逊的推荐算法以及搜索引擎自动填充。其他用途则会引发严重的伦理问题,例如警务前瞻或在临终关怀时预测患者的寿命。

•优化,如提高工业系统的性能和效率。就节能或降低成本等众所周知的目标而言,人工智能系统通常可以找到解决问题的新方法。

人工智能及其对人权的威胁

与计算机和智能手机收集的其他现成数字数据相结合,人工智能工具可用于全面监控一个人的行为、交流、喜好和欲望。

生活在数字时代的人们创造出了一大堆数据:智能手机地理位置、浏览器历史记录,网络搜索历史、在线购买、联系人、社交媒体订阅、电子邮件和短信内容、电话呼叫等等。获取这些数据的人不仅可以深刻地洞察一个人的过去,而且能够预测其未来行为。但是,如果没有人工智能工具,大规模管理这些数据是绝对不切实际的。

人工智能通过可识别人脸和人类情绪、将语音翻译为文本、翻译语言和处理语言的数据分类工具,使其中的大部分数据更容易被发现。人工智能工具还可以大规模分析和处理这些数据。这意味着,现在可以快速大规模地完成过去那种非常耗时和资源密集型的侵入式监测,从而可以对人群进行更广泛和更具侵入性的监测。

此外,大型数据集可以进行汇总以生成有效的统计预测。通过从整个人群的数据中学习,然后用它来轻而易举地获取个人信息,人工智能工具可用于对个人的偏好或行为(政治、经济、性或其他)进行预测。人工智能工具不仅可以用来监测整个人口,还可以预测性地打击未来可能持异议的人士。

收藏
阅读数:
`

相关推荐

没有相关内容

作者关注

同源信息

`