ЛОНДОН – Что требуется, чтобы изменить мнение человека? Поскольку генеративный искусственный интеллект (сокращённо ИИ) всё активней встраивается в системы обслуживания клиентов (представьте себе, например, телефонный разговор с роботом или онлайн-чатботы), этот этический вопрос требует широкого ответа.
Способность менять мнение людей с помощью обоснованных рассуждений является основой демократии. Чёткие и эффективные формы коммуникаций формируют фундамент для обсуждения и убеждения, которые необходимы для нахождения компромисса между конкурирующими интересами. Однако у убедительности есть своя тёмная сторона: нечестные мотивы, ложь, манипуляция сознанием. Всё это злонамеренные действия, совершение которых ИИ способен упростить.
В не столь уж отдалённом будущем генеративный ИИ сможет создавать интерфейсы новых пользователей, способных убеждать от имени любого человека или организации, которые обладают достаточными средствами для запуска такой системы. Используя частные базы знаний, такие специализированные модели смогут предлагать различные истины, которые будут конкурировать между собой за счёт способности генерировать убедительные ответы для целевых групп: искусственный интеллект для всех идеологий. Несомненно, что далее поднимется волна социального инжиниринга на основе ИИ, при этом усиление конкуренции поможет всем злонамеренным игрокам упростить и удешевить распространение дезинформации и совершение мошенничества.
ЛОНДОН – Что требуется, чтобы изменить мнение человека? Поскольку генеративный искусственный интеллект (сокращённо ИИ) всё активней встраивается в системы обслуживания клиентов (представьте себе, например, телефонный разговор с роботом или онлайн-чатботы), этот этический вопрос требует широкого ответа.
Способность менять мнение людей с помощью обоснованных рассуждений является основой демократии. Чёткие и эффективные формы коммуникаций формируют фундамент для обсуждения и убеждения, которые необходимы для нахождения компромисса между конкурирующими интересами. Однако у убедительности есть своя тёмная сторона: нечестные мотивы, ложь, манипуляция сознанием. Всё это злонамеренные действия, совершение которых ИИ способен упростить.
В не столь уж отдалённом будущем генеративный ИИ сможет создавать интерфейсы новых пользователей, способных убеждать от имени любого человека или организации, которые обладают достаточными средствами для запуска такой системы. Используя частные базы знаний, такие специализированные модели смогут предлагать различные истины, которые будут конкурировать между собой за счёт способности генерировать убедительные ответы для целевых групп: искусственный интеллект для всех идеологий. Несомненно, что далее поднимется волна социального инжиниринга на основе ИИ, при этом усиление конкуренции поможет всем злонамеренным игрокам упростить и удешевить распространение дезинформации и совершение мошенничества.