人工智能 是福是祸?
中国新闻周刊 2024-07-17 14:19

减少治理赤字,让AI造福人类

日前,无人驾驶出租车引发了人们对于人工智能的热议。如今,各国政府和各大科技公司都致力于利用人工智能改变我们的生产和生活。强大的人工智能工具现在触手可及。

但是,即便是在利用人工智能的所有善意举措中,比如开展数据驱动决策、提高经济生产力和实现医疗自动化等,滋生负面后果的风险也在不断增加。随着技术边界的缩小,我们面临着越来越大的紧迫性,必须缩小治理差距,引导这项先进技术实现公平和可持续发展——换句话说,让人工智能造福人类。

一个人工智能良好治理的框架离不开三点诉求。首先,我们必须将人工智能治理植根于合理、共同的价值观,如透明度、真实性和隐私。透明度可促进利益相关者间的信任和问责,并使技术得到公平评估,以确保符合伦理和法律规定。这在交通出行和医疗保健等领域尤为重要,因为这些领域的公共安全取决于可预测和可靠的人工智能行为。

要创建准确、公正的人工智能系统,防止科学、教育和媒体中的错误信息,加强社会信任,确保人工智能的良好应用,真实性至关重要。这种新型系统将日益依赖于所收集到的大量个人数据,隐私也变得至关重要。价值观诉求指向人工智能的集体利益。

其次,应根据这些价值观展开分层次行动,并不一定都依靠自上而下的方法,而是多主体齐头并进推动。这些行动影响着人工智能积极、向上的良性发展,并影响着管理人工智能的法律。例如,如果我们的目标是为训练人工智能算法的数据制定全球隐私标准,那么我们就需要一个国际体系结构来制定和审查这些标准。如果我们想促进准确的公共健康教育,那么我们还需要建立行动机制,以遏制错误信息的传播。

现在有了像GPT-4一样强大的开源模型,但基本上没有任何保障措施可以阻止恶意行动者利用它传播错误信息。偏见构成另外一个令人担忧的问题,因为训练集可能存在偏差。医疗保健系统中固有的偏差被编入数据中,而人工智能又将其自动化并实现可操作化。由此,为了确保人工智能在医疗保健领域得到安全、负责任的应用,必须对人工智能模型严格评估,甚至由监管部门将模型视同医疗设备一样进行监管。

最后,确定人工智能治理的最关键领域,优先考虑技术开发和使用链条中的主要环节——数据、算法、计算和应用。数据治理可对数据收集、存储、分析和跨境流动进行监督,同时保护和防止滥用敏感数据。算法治理可确保人工智能的判断不带歧视和偏见,从而准确、安全地为银行、执法和医疗保健等部门的应用提供信息。

从云计算和重要基础设施的安全性和互联互通,到数据中心的高耗水量和对劳动力市场的影响,人工智能若实施不当,完全可能扰乱经济和生态系统。这要求我们对半导体芯片、边缘计算、云计算、环境计算、量子计算、计算能源和计算用水进行管理。与此同时,有效的应用管理可防止滥用,减少不可预见的影响,并确保公平的利益分配。

薄弱的人工智能治理机制留下了治理赤字,原因是现有倡议不足、治理格局存在差距以及难以就更合适的机制达成一致。挑战很大程度源于地缘政治,国际合作的程度因政策领域而异,并受到国家意图的不确定性、信任程度和利益一致等因素影响。目前,开发和监管人工智能的能力高度集中,这表明中国、欧盟和美国之间的多边协议可能足以降低关键风险。不过,理论上虽有很大协议空间,但在必要的政策应对方面却几乎没有共识。欧盟强调新法规,美国采取更加自由放任的方法,而中国则依靠行业自律和有针对性立法来治理人工智能。

为人工智能建立一个全球治理机制听起来似乎有些天方夜谭,但困难并非完全不可克服。一方面,需要积极协调众多利益相关者,推动建立普遍参与的国际机制;另一方面,也不妨利用多中心秩序,鼓励地方政府和私营公司采取多层次行动,制定适合其具体情况的创新政策。

(作者系北京大学新闻与传播学院教授)

编辑/范辉

相关阅读
百余家公司签署欧盟《人工智能公约》 却不见Meta、苹果的身影?
财联社 2024-09-26
欧盟将建立人工智能工厂提升全球竞争力
央视新闻客户端 2024-09-11
防范人工智能风险要有安全阀
经济日报 2024-08-15
经济日报刊文:防范人工智能风险要有安全阀
经济日报 2024-08-15
加快推动人工智能发展
光明日报 2024-07-04
加快推动人工智能发展
光明日报 2024-06-18
人工智能现在有多“像人”?
新华社 2024-05-30
“人工智能+”潜力巨大
经济日报 2024-03-28
最新评论