Мы не вправе выносить окончательное суждение и не смогли прийти к согласию по этому вопросу даже между собой. Но поразительно, насколько эти споры близки к экономике: в основе всего происходящего лежит конкуренция.
Сверхчеловеческий интеллект – это ИИ, превосходящий людей в решении большинства когнитивных задач и способный анализировать проблемы. Если точнее, он может обновляться и совершенствоваться. Писатель, научный фантаст Вернор Виндж назвал момент его зарождения сингулярностью, а футурист Рэй Курцвейл предположил, что люди не в состоянии предвидеть, что в этот момент произойдет, поскольку по определению не настолько умны. Но оказывается, экономисты достаточно компетентны, чтобы судить об этом.
Экономистов годами критиковали за то, что фигуранты наших теорий наделены гипертрофированно рациональными и нереалистичными моделями поведения. Это верно, но если говорить о сверхчеловеческом интеллекте, то мы были на верном пути. Мы уже предполагаем высокий интеллект в своем анализе. Мы воспринимаем все через математические доказательства – независимые от интеллекта формы истины.
Подобный взгляд на вещи полезен. Экономика говорит нам: если сверхчеловеческий разум захочет владеть миром, ему понадобятся ресурсы. Во Вселенной их много, но даже сверхчеловеческий разум вынужден подчиняться законам физики. И на овладение этими ресурсами необходимы средства.
Ник Бостром рассказывает о сверхчеловеческом разуме, одержимом канцелярскими скрепками настолько, что его больше ничего не интересует. Скрепочный ИИ из-за своей однобокости может искоренить все остальное. Впечатляющая теория, но в ней упущена конкуренция за ресурсы. Экономисты учитывают, что у всех людей (а теперь и ИИ) разные предпочтения. Одни открыты исследованиям, открытиям и умиротворению, других интересуют только скрепки. Если интересы не совпадут, будет развиваться конкуренция, и скрепочный ИИ, скорее всего, придет к решению, что меняться ресурсами выгоднее, чем воевать за них, и, направляемый невидимой рукой рынка, в итоге займется совершенно не тем, чем собирался.
Таким образом, экономика прокладывает широкий путь к пониманию процессов развития общества сверхчеловеческого интеллекта. При этом наши модели не позволяют определить, чего нам ожидать.
То, что мы здесь называем «ИИ», – не общий искусственный интеллект, а его узкоспециализированное направление, а именно прогностические машины. Такие разработки, как AlphaGo Zero DeepMind (дочерней компании Google), наводят на мысль, что сверхчеловеческий разум ближе, чем кажется. Zero обыграл непобедимого AlphaGo в настольную игру го, обучившись без участия человека (играя сам с собой), но сверхчеловеческим разумом его пока не назовешь. Если вместо доски 19×19 клеток взять 29×29 или 18×18, то ИИ окажется в затруднении, тогда как человек адаптируется быстро. И не надейтесь, что AlphaGo Zero умеет готовить на гриле сэндвичи с сыром – он не настолько умен.
То же можно сказать и о других сегодняшних ИИ. Конечно, благодаря исследованиям прогностические машины научатся работать в разных условиях, но прорыв, за которым последует общий ИИ, пока не совершен. Некоторые уверены, что до общего ИИ еще далеко и беспокоиться не стоит. В программном документе, подготовленном Исполнительным офисом президента США и Национальным советом по науке и технике (НСНТ) Технологического комитета, сказано: «В настоящее время экспертное сообщество частного бизнеса пришло к мнению, с которым НСНТ Технологического комитета полностью согласен, что от общего ИИ нас отделяет еще несколько десятков лет. По оценке НСНТ Технологического комитета, вопросы долгосрочной перспективы о сверхразумном общем ИИ не оказывают существенного влияния на нынешнюю политику»
[194]. В то же время ряд компаний с миссией по созданию общего ИИ или машин с человеческим интеллектом, в их числе Vicarious, Google DeepMind, Kindred Group, Numenta и другие, привлекли многие миллионы долларов от ловких и дальновидных инвесторов. Как и в большинстве связанных с ИИ сферах, будущее совершенно непредсказуемо.
Грядет ли конец знакомого нам мира? Пока нет, но наша книга заканчивается. Cегодня компании заняты внедрением ИИ. Применяя элементарную экономику, лежащую в основе удешевления прогноза и удорожания дополняющих его элементов, вы сможете делать выбор по оптимизации дохода на капиталовложения и принимать стратегические решения касательно ИИ.
Мы выйдем за рамки прогностических машин и приблизимся к общему ИИ или даже сверхчеловеческому разуму. И когда бы это ни случилось, настанет уже совсем другое время. С этим согласны все. Можно с уверенностью сказать: когда этот момент придет, экономика уже не будет такой простой.
Выводы
• Расцвет ИИ принесет обществу множество вариантов выбора, и каждый потребует компромиссного решения. Пока технология еще в зачаточном состоянии, на уровне общества существуют три особенно выраженных компромисса.
• Продуктивность или распределение. Многие предполагают, что из-за ИИ мы обеднеем или потеряем в чем-то. Это не так. Экономисты сходятся во мнении, что технический прогресс несет благо и повышает продуктивность. ИИ однозначно ее повысит. Проблема не в благосостоянии, а в его распределении. ИИ может усугубить неравенство доходов по двум причинам. Во-первых, выполняя определенные задачи, ИИ может усилить конкуренцию между людьми за оставшиеся задачи, спровоцировать снижение оплаты труда и таким образом еще сильнее сократить долю дохода рабочей силы по сравнению с долей владельцев капитала. Во-вторых, прогностические машины, как и любые IT-технологии, могут привести к непропорциональному смещению в пользу квалифицированного труда, и, таким образом, повысится продуктивность только лучших профессионалов.
• Инновации или конкуренция. Как и с большинством программных технологий, с инструментами ИИ возможна экономия на росте масштаба. Более того, для них, как правило, характерна возрастающая доходность: повышение точности прогнозов привлекает больше пользователей, больше пользователей означает больше данных, а чем больше данных, тем точнее прогноз. У обладающих контролем компаний возникают стимулы создавать прогностические машины, но наряду с экономией на росте масштаба это может привести к монополизации. Быстрые инновации принесут обществу выгоду в краткосрочной перспективе, но могут оказаться неоптимальными с социальной точки зрения или в перспективе долгосрочной.
• Продуктивность или конфиденциальность. Для эффективной работы ИИ необходимо больше данных. Если конкретнее, он лучше персонализирует прогноз при наличии доступа к личным данным. Последнее, как правило, достигается снижением конфиденциальности. Некоторые европейские государства решили обеспечить своим гражданам защиту конфиденциальности. Возможно, это выгодно населению и даже может создать условия для более динамичного рынка частной информации, где пользователи сами решают, хотят ли они обменять, продать или пожертвовать свои личные данные. В то же время это может спровоцировать трения в условиях, когда выбор обходится дорого, и поставить европейские компании и граждан в невыгодное положение на рынке, где ИИ с широким доступом к данным более конкурентоспособен.
