1

О будущем искусственного разума

БРАЙТОН – Искусственный разум уже сейчас играет важную роль в экономике и человеческом обществе, а в последующие годы эта роль будет только повышаться. Размышлять о будущем искусственного разума, значит, признавать, что будущее – это и есть искусственный разум.

Частично это будет вызвано достижениями в сфере «глубинного обучения» с использованием многослойных нейронных сетей, идея которых была впервые высказана в 1980-х годах. Поскольку сегодня мощность и память компьютеров возросли, глубинное обучение стало практически осуществимым. В 2016 году программа глубинного обучения привлекла всемирное внимание, выиграв у мирового чемпиона в игру го. Как коммерческие предприятия, так и правительства рассчитывают на использование этой технологии для обработки «больших данных» любого рода и получения полезных выводов.

В 2011 году ещё одной вехой в истории искусственного разума стал компьютер Watson фирмы IBM, победивший двух чемпионов телевизионной игры Jeopardy! («Своя игра»), которая сочетает необходимость общих знаний с нестандартным мышлением. Другое важное направление – зарождающийся «интернет вещей», который будет расти по мере того, как всё больше гаджетов, домашних приборов, надеваемых устройств и сенсоров в общественных местах подключаются к интернету и начинают круглосуточно передавать сообщения. «Большой брат» не будет следить за вами; но триллионы маленьких братьев вполне могут этим заняться.

Помимо этих инноваций, мы можем ожидать многократного роста так называемых «экспертных систем»: это программы искусственного разума, которые будут помогать профессионалам различных специальностей (или даже заменять их). Кроме того, роботы смогут выполнять задачи, которые раньше нельзя было автоматизировать. На складах уже сейчас они могут выполнять практически любые функции, которые раньше поручались людям.

Неудивительно, что на фоне этих тенденций часть экспертов прогнозирует наступление момента, известного как «сингулярность», когда системы искусственного разума, улучшая сами себя, в конце концов, превзойдут разум человека. В этот момент, будет ли это в 2030 году или в конце нынешнего столетия, роботы по-настоящему победят, а искусственный разум сделает войны, бедность, болезни и даже смерть уделом прошлого.

На всё это я говорю: мечтать не вредно. Всеобщий искусственный разум (AGI) остаётся призрачной мечтой. Его просто слишком сложно создать. И хотя когда-нибудь это станет возможным, это, несомненно, не случится в обозримом будущем.

Впрочем, важные достижения всё-таки виднеются на горизонте, и многие из них дают нам надежду на будущее. Например, благодаря искусственному разуму качественные юридические советы станут доступны намного большему числу людей, причём по очень низкой цене. Искусственный разум поможет нам справиться с неизлечимыми пока что болезнями, а также повысить доступность качественных врачебных консультаций без привлечения медицинских специалистов.

В других областях нам следует быть благоразумно пессимистичными по поводу будущего (которое может выглядеть как антиутопия). Для армии, частной жизни и занятости последствия использования искусственного разума выглядят тревожными. Автоматизированное оружие уже существует, а со временем оно сможет автономно выбирать цели. В распоряжении правительств и транснациональных корпораций появляется множество «больших данных», поэтому наша персональная информация всё чаще перестаёт быть конфиденциальной. Искусственный разум будет выполнять всё больше рутинной работы, поэтому многие профессионалы потеряют навыки и работу. Сама природа труда изменится, и нам, возможно, придётся задуматься о введении «всеобщего базового дохода», при условии, конечно, что ещё сохранится достаточная налоговая база, чтобы его выплачивать.

Другое, но не менее тревожное следствие развития искусственного разума: он может стать заменителем межчеловеческих отношений. Вот банальный пример: вспомните, как бывает трудно дозвониться до реального человека, когда вас переключают из одного автоматического меню в другое. Иногда это раздражает просто потому, что вы не в состоянии получить нужный вам ответ без вмешательства человеческого интеллекта. Но это может расстраивать и эмоционально, поскольку вам не дают возможность поделиться своими чувствами с другим человеком, который мог бы их понять или даже разделить.

Другие примеры менее тривиальны, и меня особенно тревожит перспектива использованием компьютеров в качестве «сиделок» или «компаньонов» для престарелых людей. Да, конечно, системы искусственного разума, связанные с интернетом и оснащённые персонализированными программами, могут информировать и развлекать одиноких людей, а также отслеживать состояние их здоровья и в случае необходимости предупреждать врачей или членов семьи. Домашние роботы могут быть очень полезны, например, доставать еду из холодильника и выполнять другую домашнюю работу. Но смогут ли системы искусственного разума обеспечить подлинную заботу и дружеские отношения – это совершенно другой вопрос.

Те, кто считает, что это возможно, предполагают, что системы обработки естественного языкового общения справятся с данной задачей. Но в эту «задача» будут входить и крайне эмоциональные беседы, связанные с личными воспоминаниями человека. Хотя искусственный разум может и будет способен распознать ограниченный спектр эмоций на основании используемых человеком слов, его интонациях, паузах и выражении лица, он никогда не сможет по-человечески на них отреагировать. Он может сказать «Я грущу вместе с вами по этому поводу» или «Как же это было чудесно!». Но любая такая фраза будет совершенно бессмысленной. Человека, потерявшего рассудок, такие слова могут  «утешить», но какой ценой для его человеческого достоинства?

Альтернативой является, конечно, сохранение людьми их нынешней роли. Вместо того чтобы заменять людей, роботы могут стать их помощниками. Сегодня деятельность, связанная с физической и эмоциональной заботой о людях, не получает достаточной оценки. В идеале такая работа будет пользоваться в будущем большим уважением и лучше оплачиваться.

Впрочем, это всё, наверное, бесплодные мечтания. Так или иначе, будущее искусственного разума – наше будущее – является светлым. Но чем светлее оно становится, тем больше оно отбрасывает теней.