说服式的人工智能的威胁

伦敦—怎样才能改变一个人的想法？随着生成式人工智能越来越多地嵌入到面向客户的系统中——比如类真人电话或在线聊天机器人——这是一个需要广泛解决的伦理问题。

通过理性话语改变思想的能力是民主的核心。清晰有效的沟通是审议和说服的基础，这对于解决相互竞争的利益至关重要。但说服也有阴暗面：虚假的动机、谎言和认知操纵——这些都是人工智能可能助长的恶意行为。

在不远的将来，生成式人工智能将能够赋能创建新的用户界面，代表任何个人或实体说服建立这样的系统。利用私人知识库，这些专门的模型提供不同的真相，基于为目标群体产生令人信服的回应的能力而竞争——（每种意识形态都有一种人工智能）。人工智能辅助的社会工程浪潮必然会随之而来，不断升级的竞争使不良行为者更容易、更便宜地传播虚假信息和实施诈骗。