pandora's box Hulton Archive/Getty Images

来自古希腊的人工智能警钟

斯坦福—在关于人工智能(AI)的影响的讨论中,有人动辄拿出潘多拉魔盒的希腊神话。在这个故事的现代童话版里,潘多拉的形象是一位悲剧的好奇青年女子,打开了一个被封印的罐子,不小心放出了人类永恒的苦难。就像逃脱瓶中的妖怪,冲出谷仓的马匹,驶出站台的列车,这则神话也已经成为陈词滥调。

但是,真正的潘多拉的故事非常契合AI和机器学习的争论。它教导我们,最好听取关心人类未来的“普罗米修斯”的建议,而不是轻易被短期利益蒙蔽双眼的“厄庇墨透斯”的意见。

作为最古老的希腊神话之一,潘多拉的故事最早记录出现在距今2,500多年的荷马时代。在最原始的叙事中,潘多拉并不是受到诱惑打开封禁之罐的纯真少女。相反,诗人赫西奥德告诉我们,潘多拉是“后天养成,而非先天生成。”潘多拉是全能神宙斯的命令,指定发明之神赫淮斯托斯设计了残酷的范式,她是一个人形机器人,有一副迷人少女的外表。她的使命是诱骗凡人以显示劣根性:“红颜祸水”。

潘多拉的名字意为“所有礼物”,表明她是众神共同的产物。她产生于赫淮斯托斯的炼炉,赫尔墨斯护送这位令人神魂颠倒的“女人”来到地球,把她包装成厄庇墨透斯的新娘。她的嫁妆就是那个包含了更多“礼物”的封禁的命运之罐。

厄庇墨透斯是普罗米修斯的兄弟。反抗巨人普罗米修斯领导了——也有故事说是他创造了——人类。普罗米修斯担心人类显而易见的缺陷,因此教会男人和女人如何负责地使用火和其他工具。但这触怒了暴君宙斯,了不起的技术是他眼中的禁脔。作为惩罚,宙斯将普罗米修斯绑在一块岩石上,派出他的无人机一样的老鹰——也产生自赫淮斯托斯的熔炉——啄食他的肝脏。

至于潘多拉,她被刻意设计出来惩罚人类接受普罗米修斯的礼物。本质上,她是一个迷人的雌性人工智能,没有父母,没有童年记忆,也没有任何情感,不会老也不会死。她的设定要完成一个狠毒的任务:潜伏在人间,解除罐子的封印。

Subscribe now

For a limited time only, get unlimited access to On Point, The Big Picture, and the PS Archive, plus our annual magazine and a tote bag, for just $75.

SUBSCRIBE

但这尚不是故事的全部。帕累托告诉我们,普罗米修斯的名字意为“远见”,因为和他无忧无虑的兄弟厄庇墨透斯(名字意为“向后看”)不同,他永远向前看。兄弟两人中,普罗米修斯更加理性,也显得更加偏执,他试图警告厄庇墨透斯不要接受宙斯的危险礼物。但厄庇墨透斯被潘多拉迷得神魂颠倒,毫无防备地让她走进了他的生活。随后他才认识到自己犯了一个可怕的错误。

因此,潘多拉的流行形象——惊恐地后退,看着各种妖魔鬼怪逃出罐子——是现代的发明。最后希望也从罐子中飞出安抚人类的灵魂的令人作呕的桥段亦然。在古典希腊戏曲中,潘多拉形象是一台狡猾的机器:最著名的潘多拉瓶绘把她画成一位年轻女性,站姿僵硬,带着神秘莫测的微笑

此外,在古代,希望被人格化为一位名叫厄尔皮斯的年轻女性,常常意味着缺乏远见。希望绝不是什么福音,而是象征着无法向前看或在可能的结果中做出明智的选择;她代表着一厢情愿,而不是维持生活的乐观。对希腊人来说,她无非是劣根性的另一种表象:释放到人类头上的美丽的魔鬼。因此,至少有一位古代艺术家把厄尔皮斯/希望画得像极了潘多拉,带着傻笑。

AI/机器学习正在迅速演变为技术“黑箱”,潘多拉的封禁之罐的象征也有了新的含义。要不了多久,AI决策系统的操作逻辑不但用户无法理解,就连创造者也无法理解。于其他威胁一样,AI系统被邪恶之徒入侵或被恐怖分子和暴君利用的可能性很大。

Facebook创始人马克·扎克伯格(Mark Zuckerberg)麻省理工学院的安德鲁·迈克菲(Andrew McAfee)、微软的程丽丽(Lili Cheng)和其他AI乐观派像我们保证,AI会带来巨大的益处,但我们仍然会不经意地想起厄庇墨透斯和厄尔皮斯。我们真的应该信任人类能调整和解决AI所造成的问题吗?

似乎更明智的做法是聆听当代普罗米修斯,如已故的史蒂芬·霍金、微软创始人比尔·盖茨,以及2017年发声讨论武器化AI和机器人的威胁的其他115位科技领袖。“留给我们行动的时间已经不多了,”他们警告,“一旦潘多拉的盒子被打开,就再也难以关上。”此外,这些普罗米修斯的担心收到了谷歌联合创始人谢尔盖·布林和乔安娜·布莱森(Joanna Bryson)和帕特里克·林(Patrick Lin)等人工智能伦理学家人的遥相呼应,他们警告不可贸然接受AI的礼物,必须先想好如何控制它们。

最新民调表明,真正在开发AI系统的人,对AI的潜在益处的乐观态度大幅下降。对AI工作原理的理解将带来更加现实的预期。不是盲目的希望,而是基于知识和经验的远见应该决定我们如何管理这项技术及其于我们的关系的未来。

http://prosyn.org/LeIuldK/zh;

Cookies and Privacy

We use cookies to improve your experience on our website. To find out more, read our updated cookie policy and privacy policy.