报告 2019-12-09 02:12

查塔姆研究所:数字媒体中人工智能驱动的个性化——政治和社会影响

郭道平 摘自 英国查塔姆研究所网站

2019年12月2日,英国查榙姆研究所网站发布题为《AI-driven Personalization in Digital Media: Political and Societal Implications》的报告,作者是斯塔弗洛斯·尼阿科斯基金会国际安全部研究员索菲亚·伊格纳蒂杜。报告要点如下:

虚假信息和在线操纵策略的后果,已经使西方民主国家警觉到我们信息社会新的微妙弱点。本报告概述了传统媒体以及新媒体采用人工智能(AI)的影响,重点关注个性化方面的问题。

• 机器学习(ML)驱动的个性化正在从社交媒体迅速扩展到更广泛的信息空间,涵盖了传统媒体、跨国企业集团和数字原生出版商:但这是在监管和监督真空中发生的,而它所带来的问题迫切需要加以解决。

• 在通信中大规模采用个性化设置,对人权、社会适应力和政治安全具有严重影响。数据保护、隐私和不当歧视以及观点和言论自由,都是这项技术变革所影响的领域。

• 人工智能及其机器学习子集是新颖的技术,要求采用新颖的方法进行监督、监视和分析。政策制定者、监管者、媒体专业人员和工程师需要能够以适合社会技术系统的跨学科方式将问题概念化。

• 需要分配资金来研究信息环境中的人机交互、数据基础结构和技术市场趋势,以及机器学习系统在通信领域的广泛影响。

• 尽管欢迎使用人工智能的全球高层次伦理框架,但它们不能替代特定领域和特定情境的操守。传统媒体和数字原生出版商需要检查其编辑代码,以使其适合由机器学习转型的数字生态系统。需要在当前的信息环境中重新制定和完善新闻准则,以便为个性化沟通而建立的机器学习模型有效地提供信息。

• 伦理准则本身是远远不够的,因此需要重新评估与媒体相关的现行监管和立法框架。媒体监管机构需要发展其内部能力,以对机器学习系统进行彻底的研究和监控,并在适当情况下对被发现采用此类系统进行恶意攻击的行为者采取适当的制裁措施。与数据保护机构、竞争管理机构和国家选举委员会的合作,对于维护选举的完整性和基于民主原则的政治言论至关重要。

• 如果媒体专业人士能够与数据科学家和人工智能工程师进行有意义和有效的互动,那么提高高级经理和编辑团队的技能至关重要。

阅读 收藏

相关专题: