防止人工智能的世界末日

发自纽约——近期人工智能领域的各项进展堪称一日千里。人工智能正在改变着从运输到医药再到国防的几乎所有社会领域。因此也需要考虑一下当它变得比当前更为先进时会出现什么样的状况。

对此有种世界末日论，说人工智能驱动的机器将智胜人类，接管整个世界并杀死所有人。这种描写经常在科幻小说中出现，但也经常被否定，因为人类仍然牢牢掌控着局面。但许多人工智能专家则非常严肃地看待这一末日前景，这种态度是完全有必要的，而社会的其他成员也应如此。

为了解风险究竟在哪里，就要去理解“弱人工智能”（narrow AI）和“通用人工智能”（ Artificial General Intelligence）之间的区别。弱人工智能一次只能在一个或几个领域进行运作，因此虽然它可能在某些特定任务中胜过人类，但仍然处于人类控制之下。