frischmann1_DrAfter123Getty Images_humanvsrobot DrAfter123/Getty Images

Beyond the Techlash

逆向图灵

费城—几年前,我(布雷特)的收件箱被Facebook通知挤爆——有很多朋友祝我生日快乐。我很生气,登录将生日改成了仲夏时节的某个随即日期。六个月后,我的收件箱再次挤爆。一开始,我不太当回事。我的大部分Facebook好友不知道我的真实生日,只是自动响应提示而已。但有两个崤习来自知道我真实生日的关系密切的亲人。他们的反应和其他人一样,这引出了一个问题,即自动化偏误是否干扰了他们的人类判断。这只是个别的错误,还是说明了更大更危险的缺陷?

考虑另一个例子。某人遇到某在线用户协议,看到有一个“我同意”的小按钮,不假思索就按了下去。这是一种寻常的经验。人们不会去阅读服务条款、隐私政策或其他电子格式文本,也很少会停下来想一想自己正在与谁缔结有法律约束力的在线关系。但这一点击确认合同界面(以及允许公司使用它的基础法律规则)应该实事求是地加以认识:这是一个促使人做出机器人行为的系统,大体上脱离了常识。

这两个例子都属于科技-社会工程例子。随着这种行为的规模和范围通过公共和私人空间密布的联网传感器(包括我们的设备、穿着乃至我们自己)变得越来越广泛和接近我们,带来了紧迫的伦理和政治问题。我们的科技是否引导人类行为机器化,从根本上导致非人化?

We hope you're enjoying Project Syndicate.

To continue reading, subscribe now.

Subscribe

or

Register for FREE to access two premium articles per month.

Register

https://prosyn.org/eAcXdqSzh