LED lights light up life size terracotta warriors Christopher Furlong/Getty Images

Политика в эпоху алгоритмов машинного обучения

ВАШИНГТОН – Около 1200 года до нашей эры династия Шан в Китае придумала фабричную систему производства тысяч огромных бронзовых сосудов, использовавшихся в повседневной жизни и ритуальных церемониях. В этом раннем примере массового производства для процесса литья бронзы требовалось сложное планирование и координация больших групп работников, каждый из которых выполнял индивидуальную задачу в точно установленном порядке.

Столь же сложные процессы позволили спустя тысячу лет вылепить знаменитую армию терракотовых воинов по приказу Цинь Шихуана, первого императора Китая. По данным Музея азиатского искусства в Сан-Франциско, эти статуи «были созданы с помощью системы сборочного производства, открывшей путь для прогресса в массовом производстве и торговле».

Некоторые учёные полагают, что эти ранние формы технологий труда со строгими инструкциями сыграли большую роль в формировании китайского общества. Среди прочего они, возможно, повысили предрасположенность людей к подчинению бюрократическим структурам, к общественной философии с акцентом на иерархию, а также к вере в то, что всегда есть только один правильный способ что-либо сделать.

Когда в XIX веке в Европе появились промышленные фабрики, даже такой настойчивый критик капитализма, как Фридрих Энгельс, признавал, что массовое производство ведёт к неизбежной централизации власти, причём вне зависимости от того, является ли экономическая система капиталистической или социалистической. В XX веке теоретики, подобные Лэнгдону Виннеру, стали развивать эту линию мысли, применяя её к другим технологиям. Например, Виннер полагал, что атомную бомбу следует считать «неизбежно политическим артефактом», потому что ее «летальный характер требует контроля со стороны централизованной, строго иерархической цепочки командования».

Сегодня мы можем развить эту мысль ещё дальше. Взять, например, алгоритмы машинного обучения – самую важную технологию универсального назначения, которая используется сегодня. Подражая когнитивным способностям человека с помощью примеров из реального мира, эти алгоритмы стали повсеместно применяться на рабочих местах. Однако для получения полной отдачи от этих технологий организациям приходится переопределять задачи, выполняемые человеком, как задачи прогнозирования, которые в наибольшей степени соответствуют сильной стороне этих алгоритмов.

Ключевое свойство алгоритмов машинного обучения состоит в том, что качество их работы повышается с увеличением объёмов данных. В результате, применение этих алгоритмов создаёт технологическую необходимость в трактовке информации о людях, как записываемых и доступных данных. Как и в системе массового производства, алгоритмы оказывают «неизбежно политическими», потому что сама суть их работы требует введения определённых социальных норм и отказа от других. В частности, алгоритмы машинного обучения напрямую конфликтуют с желанием индивидуумов сохранять конфиденциальность личной жизни.

Subscribe now

Exclusive explainers, thematic deep dives, interviews with world leaders, and our Year Ahead magazine. Choose an On Point experience that’s right for you.

Learn More

Система, основанная на публичной доступности информации о членах общества, может показаться приемлемой коммунитаристам. Например, социолог Амитай Этциони считал ограничение конфиденциальности личности жизни необходимым для контроля за соблюдением социальных норм. Но в отличие от коммунитаристов алгоритмы безразличны к социальным нормам. Их единственная забота – повышать качество прогнозов, превращая всё новые и новые сферы человеческой жизни в массивы данных, которые можно добывать как руду.

Кроме того, сила императива технологий не только превращает индивидуалистических жителей Запада в случайных коммунитаристов, она также повышает их привязанность к культуре меритократии, основанной на оценках алгоритмов. Будь это работа, школа или даже мобильное приложение для свиданий, мы уже привыкли к тому, что нас выбирают на основании оценок безличных инструментов, которые затем присваивают нам позицию в иерархии.

Разумеется, проведение оценки алгоритмами не является новостью. Ещё поколение назад учёный Оскар Гэнди предупреждал, что мы превращаемся в общество баллов и рейтингов, и требовал усиления контроля и прозрачности, а также возможности исправления ошибок, создаваемых технологиями. Но в отличие от современных алгоритмов машинного обучения принципы работы прежних инструментов оценки достаточно хорошо понимались. Они принимали решения на основе соответствующих нормативных и эмпирических факторов. Например, ни для какого не было секретом, что накопление большого долга по кредитной карте может повредить кредитоспособности человека.

Напротив, новые технологии машинного обучения погружаются в глубины огромных массивов данных с целью найти корреляции, позволяющие сделать прогнозы, принципы которого понимаются плохо. На рабочем месте алгоритмы могут анализировать разговоры сотрудников; количество времени, затраченного ими на работу за компьютером, на телефонные разговоры и встречи; а также информацию о том, где они съели свой ланч. На основании этих данных алгоритмы разрабатывают сложные модели производительности, которые намного превосходят наши общепринятые, интуитивные представления. В алгоритмической меритократии любые требования этой модели становятся новым стандартом совершенства.

Впрочем, подобные технологии не являются чем-то неизбежным. Мы формируем их раньше, чем они нас. Лидеры бизнеса и власти могут разрабатывать и применять такие технологии, какие им захочется в соответствии с их институциональными нуждами. Это в нашей власти – сохранить конфиденциальность чувствительных сторон человеческой жизни, защитить людей от вредящих им методов использования данных, потребовать, чтобы алгоритмы уравновешивали точность прогнозов с другими ценностями, такими как справедливость, подконтрольность, прозрачность.

Если же мы будет покорно следовать за естественным развитием логики алгоритмов, тогда распространение меритократической и коммунитарной культуры станет неизбежным. Эта медленная трансформация будет иметь далекоидущие последствия для наших демократических институтов и политических структур. Как отмечают китаеведы Дэниел Белл и Чжан Вэйвэй, главной политической альтернативой западным либерально-демократическим традициями являются коммунитарные институты, продолжающие эволюционировать в Китае.

В Китае коллективные решения обретают легитимный статус не в результате прямо выраженного согласия граждан; у людей в этой стране, как правило, меньше реальных прав на сопротивление действиям правительства, особенно, когда речь заходит о слежке. Роль рядового китайского гражданина в политической жизни обычно ограничивается участием в местных выборах. Тем временем, лидеры страны избираются в рамках меритократического процесса, они считают себя хранителями народного богатства.

Либеральные демократии вряд ли полностью перейдут к подобной политической системе. Но если нынешние тенденции в деловой и потребительской культуре сохранятся, тогда у нас вскоре будет, наверное, намного больше общего с китайскими меритократическими и коммунитарными традициями, чем с нашей собственной историей индивидуализма и либеральной демократии. Если мы хотим изменить этот курс, нам следует поставить наши собственные политические императивы выше императивов наших технологий.

http://prosyn.org/WVaKBoF/ru;

Cookies and Privacy

We use cookies to improve your experience on our website. To find out more, read our updated cookie policy and privacy policy.