Часто можно слышать разговоры о конкуренции между искусственным интеллектом и человеческим. Мне такие разговоры кажутся беспочвенными: результат будет оптимальным в том случае, если искусственный разум и интеллект человека будут работать вместе. Потребуются еще многие десятилетия – если это получится в принципе, – прежде чем компьютер сможет воспроизвести многие процессы головного мозга, которые касаются воображения, творчества, синтеза информации. В мозге человека генетически запрограммированы способности, которые развились у него в ходе эволюционного процесса на протяжении миллионов лет. Наука принятия решений, лежащая в основе многих компьютерных систем, по-прежнему остается менее ценной, чем искусство. Люди по-прежнему принимают самые важные решения лучше компьютеров. Чтобы получить подтверждение моих слов, вам стоит всего лишь взглянуть на людей, добившихся большого успеха. Это не программисты, не математики и не специалисты по теории игр, – это те, у кого больше всего здравого смысла, воображения и целеустремленности.
Только интеллект человека способен интерпретировать предложенные компьютерные модели, чтобы получить оптимальный результат. Например, компьютер может рекомендовать вам, сколько времени проводить с семьей и на работе или оптимальное соотношение времени с максимальной предельной пользой для каждого вида деятельности. При этом только вы знаете, что для вас наиболее ценно, с кем вы хотите прожить жизнь, какое окружение видеть и как, в конце концов, воплотить это в реальность. Более того, в значительной части наших мыслительных процессов задействовано подсознание, и вероятность того, что мы сможем их полностью смоделировать, такая же, как у животного, которое никогда не применяло абстрактное мышление в попытке определить и воспроизвести свой мыслительный процесс.
В то же время во многом мозг человека не в состоянии составить конкуренцию компьютеру. «Целеустремленности» компьютера можно только позавидовать: он способен работать круглые сутки семь дней в неделю. Компьютер может обработать огромный объем информации и сделать это быстрее, надежнее и объективнее, чем любой человек. Он может указать на миллион возможностей, о которых человек даже не подумает. Возможно, самое главное – у компьютера нет предубеждений и он не следует коллективной логике, его не волнует, что его рекомендации непопулярны, и он никогда не поддается панике. В тяжелые дни после 11 сентября 2001 года, когда целая страна жила только эмоциями, или на протяжении нескольких недель с 19 сентября по 10 октября 2008 года, когда индекс Доу – Джонса рухнул на 3600 пунктов, временами я был готов расцеловать наши компьютеры. Они были неизменно хладнокровны.
Взаимодействие человека и компьютера замечательно. Работа человеческого мозга с высокими технологиями обеспечивает прогресс, благодаря ему мы сделали скачок от примитивной экономики в информационный век. Именно поэтому эффективнее всех принимают решения люди, обладающие здравым смыслом, воображением и целеустремленностью, знающие, что они ценят и чего хотят, и при этом использующие компьютеры, математику и теорию игр. В Bridgewater мы используем наши системы, как водитель систему GPS: не для замены наших способностей, а для их дополнения.
5.12. Не стоит полагаться на искусственный интеллект, если у вас нет глубокого понимания процесса
Искусственный интеллект может принести больше вреда, чем пользы, если пользователь принимает причинно-следственные связи (или хуже того, руководствуется ими) в алгоритмах, созданных в результате машинного обучения, при этом их не понимая.
Прежде чем пояснить свою точку зрения, давайте определимся с терминологией. «Искусственный интеллект» и «машинное обучение» – слова, которые сегодня можно услышать повсеместно и которые часто употребляются как синонимы, хотя их значения различны. Я выделяю три обширные категории компьютерных систем принятия решений: экспертные, имитации и системы по работе с данными (это исключительно моя собственная классификация, которая не применяется в технологическом мире).
К экспертным системам относятся те, которые мы используем в Bridgewater: разработчики определяют критерии на основе своего логического понимания комплекса причинно-следственных связей, а затем анализируют, как разные сценарии проявляются в разных обстоятельствах.
Компьютеры также способны выделять закономерности и применять их в процессе принятия решений без понимания логики происходящего. Этот подход я называю имитацией. Он может быть эффективным, если одни и те же события происходят регулярно и не подвержены изменениям, например игра с четкими и незыблемыми правилами. Однако в реальном мире все течет, все меняется, а потому такая система может быстро утратить связь с действительностью.
В последние годы локомотивом развития машинного обучения стало направление по работе с данными: мощные компьютеры обрабатывают огромные массивы данных в поисках закономерностей. Этот подход набирает популярность, но может оказаться рискованным в случаях, если будущее начнет развиваться по другому сценарию, чем прошлое. Инвестиционные системы, основанные на машинном обучении, которое не сопровождается глубоким пониманием процессов, могут быть опасны, потому что, когда определенное правило принятия решения становится популярным, его начинают широко применять, а это влияет на ценообразование. Иными словами, со временем ценность информации, ставшей достоянием широкой общественности, имеет тенденцию снижаться. Без глубокого понимания вы не будете знать, действительно ли то, что произошло в прошлом, имеет ценность, а если она и была, вы не поймете, исчезла эта ценность или нет. Возможен и худший вариант. Некоторые правила принятия решений могут стать настолько популярными и так влиять на цены, что самым разумным станет делать прямо противоположное.
Не стоит забывать: компьютер не обладает здравым смыслом. Например, он легко может связать два факта, что люди просыпаются по утрам, а затем завтракают, и сделать заключение, что факт пробуждения вызывает у человека чувство голода. Я бы предпочел небольшое количество позиций (в идеале не связанных друг с другом), в которых я уверен, чем большое количество тех, в которых я не так уверен. И для меня абсолютно неприемлема ситуация, когда я не могу объяснить логику любого своего решения. Множество людей слепо полагаются на машинное обучение, потому что это проще, чем пытаться понять. Для меня глубокое понимание – обязательный момент, особенно в моей работе.
Я не хочу сказать, что системы-имитации и системы по обработке данных, как я их называю, бесполезны. Я считаю, что они могут быть очень полезны при принятии решений, когда диапазон и конфигурация событий в будущем станут в точности повторять то, что было в прошлом. При достаточной вычислительной мощности можно учесть все возможные переменные. Например, если проанализировать информацию о шахматных ходах, которые великие гроссмейстеры делали в определенных обстоятельствах, или о том, какие действия предпринимали выдающиеся хирурги во время конкретного типа операций, можно создать очень полезные программы для игры в шахматы или для проведения хирургических операций. В 1997 году компьютерная программа Deep Blue на основе только этого подхода выиграла партию у чемпиона мира по шахматам Гарри Каспарова. Однако этот метод не оправдывает себя, когда будущее отличается от прошлого и вам неизвестны все причинно-следственные связи. Понимание этих взаимоотношений помогло мне избежать ошибок, которые допустили другие, в частности во время мирового финансового кризиса 2008 года. Почти все исходили из убеждения, что грядущее будет похоже на прошлое. Благодаря тому что мы сфокусировались исключительно на логических причинно-следственных отношениях, мы смогли разглядеть, что на самом деле происходит.
