LED lights light up life size terracotta warriors Christopher Furlong/Getty Images

机器学习算法的政治学

华盛顿—大约在公元前1200年,中国商朝就已经有工厂系统制造成千上万件青铜器用于日常和祭祀用途。在这个早期大生产的例子中,青铜铸造工艺需要错综复杂的规划和大批工人间的协调,这些工人以精准的顺序,各自完成单独的任务。

一千年后,类似的复杂工艺也被用于制造著名的秦始皇兵马俑。据旧金山亚洲艺术博物馆,这些雕像“用奠定大生产和商业基础的流水线生产系统制造。”

一些学者猜测,这些早期规范工作(prescriptive-work)技术的形式对中国社会的形成起到了非常重要的作用。它们与其他因素一起,让人们接受了强调层级的官僚制度社会哲学,也让人们相信凡事都有简单的正确方法。

当工业化工厂在十九世纪的欧洲诞生时,就连恩格尔这样的资本主义的坚定批评者也承认,大生产是中央集权的必要条件,不管经济制度是资本主义还是社会主义。在二十世纪,兰登·维纳(Langdon Winner)等理论家将这一思路延伸到技术中。他认为,(比如)原子弹应该被视为“固有政治产物”,因为它的“致命属性要求它由集中化的刚性命令层级链来控制。”

如今,我们可以将这一思路延伸到更远。考虑机器学习算法。这是当今所运用的最重要的通用技术。这些算法用真实世界的例子来模拟人类认知能力,如今已在职场无处不在。但要充分利用这些技术,组织必须重新定义人的任务为预测任务(prediction task),这更契合这些算法的优势。

机器学习算法的一个关键特征是它们的表现会随着数据的增加而改进。因此,使用这些算法就形成了一种技术动力,将关于人的信息处理为可记录、可调用的数据。就像大生产系统一样,它们具有“固有政治性”(inherently political),因为它们的核心功能要求某些社会行为、阻碍其他社会行为。特别是,机器学习苏散发与个体的隐私渴望直接对立。

What do you think?

Help us improve On Point by taking this short survey.

Take survey

一个基于关于个别社会成员信息的公开易得性的系统似乎契合社会学家阿米泰·艾奇奥尼(Amitai Etzioni)等社会主义派(communitarians),他们认为对隐私的限制是执行社会规范的手段。但和社会主义派不同,算法不关心社会规范。它们至关注更好地做出预测,而这可以通过将越来越多的人类生活领域转化为可挖掘的数据集来实现。

此外,尽管技术的强制力将个人主义西方人转化为偶然的社会主义派,但它也让他们接受基于算法评估的英才文化。不管是在职场还是在校园,甚至是在约会应用中,我们都已经习惯于用非人工具评估我们的资格,然后分配给我们某个层级的位置。

平心而论,算法评估并非新鲜事。一代人以前,奥斯卡·甘迪(Oscar H. Gandy)等学者就警告说,我们正在转变为一个记录和排名的社会,并要求更多地问责和矫正技术导致的错误。但和现代机器学习算法不同,旧的评估工具可以理解得相当透彻。它们基于相关的规范性和实证性因子做出决定。比如,背负许多信用卡债有损于一个人的信誉,这早已不是什么秘密。

相反,新机器学习技术深挖大型数据集寻找预测性但没有被很好地认识的相关性。在职场中,算法能够跟踪员工的对话、他们在哪里吃午饭、在电脑、电话或会议上上花了多少时间等。有了这些数据,算法就能开发远远超过我们的常识直觉的复杂的生产率模型。在一个算法精英体系中,模型要求什么,什么就成为出色的标准。

尽管如此,技术并非宿命。我们在技术决定我们之前决定技术。商业领袖和决策者可以根据他们的机构需要开发和部署技术。我们有能力在人类生活的敏感区域周围布置一张隐私网,保护人们免受伤害性数据用途的影响,要求算法平衡预测准确性和公平、问责和透明度等价值观。

但在我们遵循自然算法逻辑流之前,更精英化和社会主义派的文化是不可避免的。而这一逐步的变化将深远影响到我们的民主制度和政治结构。中国学者贝淡宁(Daniel A. Bell)和张维维指出,西方自由民主传统过的主要政治替代品便是在中国不断演化的社会主义派制度

在中国,集体决定不需要公民明确同意才合法化,一般而言,人们对政府的可执行权利(enforceable right)较少,特别是在监督方面。普通中国老百姓在政治生活中的角色大多只局限于参加地方选举。与此同时,国家领导人通过英才过程遴选,并自视为人民福祉的监护人。

自由民主不可能完全变为这种政治制度。但如果当前的商业和消费者文化持续下去,我们很快就会有更多与中国的英才和社会主义派传统,而不是我们自身的个人主义和自由民主传统相近的东西。如果我们想要改变趋势,就必须将我们自身的政治责任置于技术之前。

http://prosyn.org/WVaKBoF/zh;

Cookies and Privacy

We use cookies to improve your experience on our website. To find out more, read our updated cookie policy and privacy policy.