发自布鲁塞尔—在华沙以东325公里的波兹南，一个由技术研究人员、工程师和儿童护理人员组成的团队正在进行一场小型革命。他们的联合项目“Insension”利用人工智能驱动的面部识别功能帮助患有严重智力障碍和多重残疾的儿童与他人和周围环境进行互动，使其能与世界建立更紧密的联系。这充分证明了这项快速发展的技术所具备的能力。
而在几千公里外的北京街头，政府官员正利用人工智能驱动的面部识别技术追踪公民的日常行踪并对全体民众实施严密监控。虽然是技术都是一样，但结果却截然不同。这两个例子勾勒出了更大范围的人工智能挑战：底层技术本身并无好坏之分，一切都取决于如何使用。
人工智能在本质上的双重性为我们设计《欧洲人工智能法》提供了依据，而这部法律则把重点放在了人工智能的用途而非技术本身。我们的做法可以归结为一个简单的原则：人工智能附加的风险越高，其开发者所负有的责任就越大。
从解锁手机到根据我们的喜好推荐歌曲，人工智能已经实现了我们日常使用的众多无害功能。我们根本不需要对所有这些用途都进行监管。但是人工智能也越来越多地在人们生活中的决定性时刻发挥作用。当银行对某人进行筛选以确定她是否有资格获得抵押贷款时，这就不仅仅是一笔贷款的问题，而是关系到她是否有房住，是否能积累财富，是否能实现财务安全。当雇主使用情绪识别软件作为招聘流程的附加功能或使用人工智能检测大脑影像中的疾病时情况也是如此。后者不仅仅是例行体检，更是关乎生死的大事。
在这类情况下，新法律规定了人工智能开发者的重大责任。他们必须在遵守一系列要求（从进行风险评估到确保技术稳健性、人工监督和网络安全）之后才能在市场上发布自己的系统。此外《人工智能法》禁止所有明显违背我们最基本价值观的用途。例如人工智能不得用于“社交评分”或可以操纵儿童等易受侵害群体的潜意识技术。
虽然有些人会认为这种较高程度的控制阻碍了创新，但我们欧洲人的看法却有所不同。首先，不会随时间更改的规则为科技创新者提供了开发新产品所需的确定性和信心。但更重要的是除非用户能给人工智能予信任，否则它将无法发挥其巨大正向潜力。相较于其他许多领域，信任在这里更能推动创新。而作为监管者，我们可以通过履行确保安全和公众信任的职责来为技术的蓬勃发展创造条件。
近期ChatGPT等通用人工智能模型的蓬勃发展不仅没有挑战欧洲这种优先考虑风险的做法，反而使其更加切中要害。虽然这些工具可以帮助世界各地的骗子炮制出可信度极高的网络钓鱼电子邮件，但同样的模型也可以用来检测人工智能生成的内容。这类模型在短短几个月的时间里就将这项技术提升到了一个新的高度，既催生了机遇，也带来了风险。
当然，最令人生畏的风险之一是我们或许并不总能辨别真假。通用人工智能模型生成的 “换脸”已经引发了登上新闻头条的丑闻。今年1月底全球流行偶像泰勒·斯威夫特（Taylor Swift）的虚假色情图片在X平台（从前的推特）疯传，而该平台封禁分享图片的用户之前这些图片的浏览量已经到了达到4700万次。
不难想象这些内容会对一个人的心理健康造成多大伤害，而如果在更大范围内使用的话——比如在选举中——则可能威胁到全体民众。《人工智能法》对这一问题给出了直接的应对措施。人工智能生成的内容必须附带标签，好让每个人都能当即知道它不是真实的。这意味着提供商在设计系统时必须将合成的音频、视频、文本和图像以机器可读的格式标记出来，并能检测出它们是人工生成或是篡改过的。
相关企业将有机会使其系统符合法规要求。如果不遵守的话将被课以如下金额的罚款：对违反禁止人工智能应用规定行为的罚款为3500万欧元或全球年营业额的 7%（取两者中的较高值）；对于违反其他责任的行为罚款1500万欧元或3%；对提供错误信息的行为罚款金额为750万欧元或1.5%。同时并不是罚了款就万事大吉了，不合规的人工智能系统也将被禁止进入欧盟市场。
欧洲是人工智能监管的先行者，但我们的努力已经在协助动员其他地方做出响应。随着许多其他国家开始接受类似的框架（包括正在与欧洲合作制定“一个推动值得信赖和负责任人工智能技术的、着眼于风险的人工智能管理方式”的美国），我们坚信我们的整体做法是正确的。就在几个月前它激励七国集团领导人达成了首个《人工智能行为准则》。而这类国际性护栏将在法律义务开始生效之前协助保护用户的安全。
人工智能既不好也不坏，但它将开创一个复杂和模糊的全球时代。在欧洲我们设计了一部反映了这一状况的法规。或许比起欧盟的其他立法，这项立法更需要在权力与责任、创新与信任、自由与安全之间进行谨慎的平衡。
发自布鲁塞尔—在华沙以东325公里的波兹南，一个由技术研究人员、工程师和儿童护理人员组成的团队正在进行一场小型革命。他们的联合项目“Insension”利用人工智能驱动的面部识别功能帮助患有严重智力障碍和多重残疾的儿童与他人和周围环境进行互动，使其能与世界建立更紧密的联系。这充分证明了这项快速发展的技术所具备的能力。
而在几千公里外的北京街头，政府官员正利用人工智能驱动的面部识别技术追踪公民的日常行踪并对全体民众实施严密监控。虽然是技术都是一样，但结果却截然不同。这两个例子勾勒出了更大范围的人工智能挑战：底层技术本身并无好坏之分，一切都取决于如何使用。
人工智能在本质上的双重性为我们设计《欧洲人工智能法》提供了依据，而这部法律则把重点放在了人工智能的用途而非技术本身。我们的做法可以归结为一个简单的原则：人工智能附加的风险越高，其开发者所负有的责任就越大。
从解锁手机到根据我们的喜好推荐歌曲，人工智能已经实现了我们日常使用的众多无害功能。我们根本不需要对所有这些用途都进行监管。但是人工智能也越来越多地在人们生活中的决定性时刻发挥作用。当银行对某人进行筛选以确定她是否有资格获得抵押贷款时，这就不仅仅是一笔贷款的问题，而是关系到她是否有房住，是否能积累财富，是否能实现财务安全。当雇主使用情绪识别软件作为招聘流程的附加功能或使用人工智能检测大脑影像中的疾病时情况也是如此。后者不仅仅是例行体检，更是关乎生死的大事。
在这类情况下，新法律规定了人工智能开发者的重大责任。他们必须在遵守一系列要求（从进行风险评估到确保技术稳健性、人工监督和网络安全）之后才能在市场上发布自己的系统。此外《人工智能法》禁止所有明显违背我们最基本价值观的用途。例如人工智能不得用于“社交评分”或可以操纵儿童等易受侵害群体的潜意识技术。
虽然有些人会认为这种较高程度的控制阻碍了创新，但我们欧洲人的看法却有所不同。首先，不会随时间更改的规则为科技创新者提供了开发新产品所需的确定性和信心。但更重要的是除非用户能给人工智能予信任，否则它将无法发挥其巨大正向潜力。相较于其他许多领域，信任在这里更能推动创新。而作为监管者，我们可以通过履行确保安全和公众信任的职责来为技术的蓬勃发展创造条件。
SPRING SALE: Save 40% on all new Digital or Digital Plus subscriptions
Subscribe now to gain greater access to Project Syndicate – including every commentary and our entire On Point suite of subscriber-exclusive content – starting at just $49.99.
Subscribe Now
近期ChatGPT等通用人工智能模型的蓬勃发展不仅没有挑战欧洲这种优先考虑风险的做法，反而使其更加切中要害。虽然这些工具可以帮助世界各地的骗子炮制出可信度极高的网络钓鱼电子邮件，但同样的模型也可以用来检测人工智能生成的内容。这类模型在短短几个月的时间里就将这项技术提升到了一个新的高度，既催生了机遇，也带来了风险。
当然，最令人生畏的风险之一是我们或许并不总能辨别真假。通用人工智能模型生成的 “换脸”已经引发了登上新闻头条的丑闻。今年1月底全球流行偶像泰勒·斯威夫特（Taylor Swift）的虚假色情图片在X平台（从前的推特）疯传，而该平台封禁分享图片的用户之前这些图片的浏览量已经到了达到4700万次。
不难想象这些内容会对一个人的心理健康造成多大伤害，而如果在更大范围内使用的话——比如在选举中——则可能威胁到全体民众。《人工智能法》对这一问题给出了直接的应对措施。人工智能生成的内容必须附带标签，好让每个人都能当即知道它不是真实的。这意味着提供商在设计系统时必须将合成的音频、视频、文本和图像以机器可读的格式标记出来，并能检测出它们是人工生成或是篡改过的。
相关企业将有机会使其系统符合法规要求。如果不遵守的话将被课以如下金额的罚款：对违反禁止人工智能应用规定行为的罚款为3500万欧元或全球年营业额的 7%（取两者中的较高值）；对于违反其他责任的行为罚款1500万欧元或3%；对提供错误信息的行为罚款金额为750万欧元或1.5%。同时并不是罚了款就万事大吉了，不合规的人工智能系统也将被禁止进入欧盟市场。
欧洲是人工智能监管的先行者，但我们的努力已经在协助动员其他地方做出响应。随着许多其他国家开始接受类似的框架（包括正在与欧洲合作制定“一个推动值得信赖和负责任人工智能技术的、着眼于风险的人工智能管理方式”的美国），我们坚信我们的整体做法是正确的。就在几个月前它激励七国集团领导人达成了首个《人工智能行为准则》。而这类国际性护栏将在法律义务开始生效之前协助保护用户的安全。
人工智能既不好也不坏，但它将开创一个复杂和模糊的全球时代。在欧洲我们设计了一部反映了这一状况的法规。或许比起欧盟的其他立法，这项立法更需要在权力与责任、创新与信任、自由与安全之间进行谨慎的平衡。