A display shows a vehicle and person recognition system for law enforcement  SAUL LOEB/AFP/Getty Images

人工智能的预防方针

佛罗伦萨—对世界各地的决策者来说,决策的最佳方法是基于证据,不管可以获得的数据多不完美。但如果事实很少或根本不存在,领导人应该怎么办?对于必须为“先进预测算法”的副作用收拾残局的人来说,这是个问题。先进预测算法是机器学习和人工智能的二进制搭建要素。

在学术界,人工智能思维的学者不是“奇点论者”就是“现代主义者”。奇点论者一般认为,人工智能技术固然给人类造成了生存威胁,但仍然利大于弊。但尽管这一群体中包括了很多技术“大拿”,能吸引大量资金,但他们的学术产出尚不能令人信服地证明他们的结论。

另一方面,现代主义者总是关注新技术的公平性、可问责性和透明性。比如,他们关注自动化如何影响劳动力市场。但在这方面,研究也不具有说服力。比如,《麻省理工学院技术评论》(MIT Technology Review)最近比较了考察预期就业损失的19项主要研究的发现,结果表明,对全球“被消灭”岗位数字的预测为180万—20亿不等。

简言之,这场争论的双方都拿不出“有用的真理”。对于人工智能的影响,有人预言只会造成微不足道的就业市场破坏,有人则认为会给人类带来灭绝危险。显然,世界需要新的框架来分析和管理即将到来的技术破坏(technological disruption)。

平心而论,数据不完整是技术研究者司空见惯的问题。即使在“正常”条件下,对新兴技术的研究也与就着昏暗的油灯在黑暗中破解谜题差不多。既有理论的假设不容置疑,确保有益结果成为定量分析负面事件概率和据此管理相关风险的问题。

但往往会出现一个“后正常”(post-normal)科学谜题出现,这个概念由哲学家西尔维奥·冯托维茨(Silvio Funtowicz)和杰罗姆·拉维茨(Jerome Ravetz)1993年首次提出,他们讲它定义为一个“事实不确定、价值有争议、影响力巨大、迫切需要作出决定”的问题。对于这些挑战——人工智能是其中之一——政策不能等待科学进展跟上。

What do you think?

Help us improve On Point by taking this short survey.

Take survey

目前,大部分人工智能决策由全球北方做出,较不发达国家的关注点没有得到强调,也让技术的两用(dual-use)变得更加困难。更糟糕的是,决策者常常没有充分考虑到潜在的环境影响,几乎完全专注于自动化、机器人和机器的人类影响。

即使没有可靠数据,决策者也必须朝人工智能治理的方向迈进。在全世界都在等待科学确定性(有可能永远不会到来)的时候,能够指引我们走入未知的方案已经存在:“预防原则”。预防原则1992年作为联合国可持续发展的里约共约在全球实施,随后被写入了欧盟创始条约之一。它指出,缺少确定性不能成为不去保护人类健康和环境的借口。对于技术推动的未来的不确定性,这一原则也是合适的。

预防原则不乏批评者。但尽管它的优点多年来争论不断,我们仍必须接受一点:缺少伤害证据(lack of evidence of harm)和未产生伤害的证据(evidence of lack of harm)不是一码事。这一简单的概念被应用于众多人类发展问题——如公共卫生和婴儿死亡。三个理由表明人工智能也不例外。

首先,将预防原则应用于人工智能环境有助于实现全球政策讨论的再平衡,让弱势声音在当前被公司利益垄断的争论中拥有更大的影响力。决策也会更加包容和慎重,产生更能体现社会需要的方案。电气和电子工程师研究所(Institute of Electrical and Electronics Engineers)以及哈佛肯尼迪政府学院的未来学会(The Future Society)本着这一参与精神起着领导作用。其他专业组织和研究中心也应该效仿。

此外,治理机构运用预防原则可以将责任负担转移给算法的创造者。要求算法决策可解释能够改变激励,防止黑箱操作,有助于让商业决策变得更加透明,并让公共部门在技术开发上赶超私人部门。而通过强迫科技公司和政府识别和考虑多个选项,预防原则能够突出被忽视的问题,如环境影响。

科学在一项创新产生可供研究的结果之前很久就帮助管理这项创新,这样的情况是很罕见的。但在算法、机器学习和人工智能环境下,人类不能等待。预防原则的美好之处不但在于它基于国际法,还在于它作为在不同的科学环境中管理创新的框架的历史记录。我们应该尽早采取这一原则,不要坐等进步的收益无法平等地分布,或者跟糟糕的,坐等不可扭转的伤害造成。

http://prosyn.org/xEAUtFB/zh;

Handpicked to read next

Cookies and Privacy

We use cookies to improve your experience on our website. To find out more, read our updated cookie policy and privacy policy.