Rendering of human on geometric element technology background represent artificial intelligence Getty Images

防止人工智能的世界末日

发自纽约——近期人工智能领域的各项进展堪称一日千里。人工智能正在改变着从运输到医药再到国防的几乎所有社会领域。因此也需要考虑一下当它变得比当前更为先进时会出现什么样的状况。

对此有种世界末日论,说人工智能驱动的机器将智胜人类,接管整个世界并杀死所有人。这种描写经常在科幻小说中出现,但也经常被否定,因为人类仍然牢牢掌控着局面。但许多人工智能专家则非常严肃地看待这一末日前景,这种态度是完全有必要的,而社会的其他成员也应如此。

为了解风险究竟在哪里,就要去理解“弱人工智能”(narrow AI)和“通用人工智能”( Artificial General Intelligence)之间的区别。弱人工智能一次只能在一个或几个领域进行运作,因此虽然它可能在某些特定任务中胜过人类,但仍然处于人类控制之下。

相比之下,通用人工智能可以跨越多个领域进行思考,因此可以在既复制许多人类智力技能的情况下同时保留计算机的所有优点,比如完美的记忆力。借助精密复杂的计算机硬件,通用人工智能可能会超出人类的认知。事实上通用人工智能的发展似乎是无上限的。

就目前而言,大多数人工智能都是弱人工智能。事实上,即使是目前最先进的系统也只具备有限的通用性。比如虽然谷歌DeepMind的AlphaZero系统能够掌握围棋,国际象棋和将棋——使其比其他大多数只能应用于单个特定活动的人工智能系统拥有更高的通用性——但它仍然只能在某些高度结构化的棋类游戏的有限范围内展现自身能力。

许多知识渊博的人对高级通用人工智能的前景不屑一顾。美国伦斯勒理工学院的塞尔莫·布林斯琼(Selmer Bringsjord)和耶鲁大学的德鲁·麦克德莫特(Drew McDermott)等人认为人工智能不可能超越人类。其他人,诸如萨塞克斯大学的玛格丽特·A·博登(Margaret A. Boden)和艾伦人工智能研究所的奥伦·伊佐奥尼(Oren Etzioni)则认为比肩人类的人工智能在遥远的未来可能实现,但现在开始为之担忧还为时过早。

What do you think?

Help us improve On Point by taking this short survey.

Take survey

跟那些试图质疑气候变化科学的怪人不一样,这些怀疑论者可不是些边缘人物。他们是计算机科学及相关领域的杰出学者,其观点也必须得到重视。

但也有一批杰出学者——包括纽约大学的戴维·J·查莫斯(David J. Chalmers),分别来自耶鲁大学和加州大学伯克利分校的艾伦·达福(Allan Dafoe)和斯图尔特·拉塞尔(Stuart Russell),牛津大学的尼克·博斯特罗姆(Nick Bostrom)和路易斯维尔大学的罗曼·扬波洛斯基(Roman Yampolskiy)都担心通用人工智能会对人类构成严重甚至事关种族存续的威胁。由于辩论双方都有庞大的专家团支持,因此我们其他人应该对此保持开放的态度,不必提前站队。

此外,通用人工智能已经成为大型研发项目的重点。我最近完成了对通用人工智能研发项目的调研,涵盖六大洲30个国家中的45个项目。许多积极研究项目都由百度、脸书、谷歌、微软,腾讯等大型企业以及卡内基梅隆大学、哈佛大学,斯坦福大学以及中国科学院等一流大学来执行。如果简单地假设这些项目都会失败显然是不智的。

考量通用人工智能潜在威胁的另一种方法则是将其与其他灾难性风险进行比较。在1990年代,美国国会认为应当指示美国宇航局去追踪那些可能碰撞地球的大型小行星,即便在一个世纪内发生这种情况的几率仅为1/5000。在通用人工智能方面,根据研发速度以及专家关注度的强弱,在下个世纪中发生灾难的几率可能高达1/100,甚至1/10。

那么问题就是如何应对这个问题。首先,我们需要确保这类研发都是以负责任,安全和道德的方式来进行。这需要那些在人工智能领域工作的人与政策制定者、社会科学家和关注这个问题的民众进行更深入的对话。那些在这一领域的人了解这项技术,其中一些人还会按照商定的标准来设计这项技术;但不能让他们独自去制定这些标准。那些人工智能应用程序的开发者们大多不习惯于考虑自身工作的社会影响。为了改变这一点,就必须将他们暴露于外部视角之下。

政策制定者们还将不得不面对通用人工智能的国际属性。目前大部分相关研发都在美国,欧洲和中国进行,但大部分代码都是开源的,这意味着这项工作可能在任何地方完成。因此尽管某些区域研发中心应该在建立标准和道德基础规则起到主导作用,但这最终会是整个国际社会的工作。

展望未来,解决通用人工智能所引发风险的一些努力可以搭载在一些业已实施的针对弱人工智能的政策举措之上,例如由马里兰州民主党众议员约翰·德莱尼(John Delaney)发起的新两党人工智能小组会议。而在研究短期和长期人工智能风险的人们之间也存在着更多协同合作的机会

但无论弱人工智能和通用人工智能是被放在一起或是分开考虑,最重要的是我们现在得采取建设性行动以尽量减少发生灾难性事件的风险。不然等到风险真正来临时,一切就已经太迟了。

http://prosyn.org/2KfM2Gw/zh;

Cookies and Privacy

We use cookies to improve your experience on our website. To find out more, read our updated cookie policy and privacy policy.