Общий искусственный интеллект (который также иногда называют «сильным ИИ») по-прежнему остается предметом научной фантастики. Это продукт гипотетического будущего, в котором искусственный интеллект обучают быть умным не только в отношении конкретной задачи, но и самостоятельно обучаться и эффективно использовать свои способности для решения любой проблемы, с которой он столкнется.
Возникает опасность, что у общего искусственного интеллекта появятся свои собственные цели и, благодаря своей способности к самостоятельному обучению на сверхчеловеческих скоростях, он будет самосовершенствоваться такими темпами, что вскоре оставит людей далеко позади. Страшная перспектива заключается в том, что такому сверхчеловеческому ИИ люди станут не нужны, или в лучшем случае он будет содержать нас, как мы содержим домашних животных. Никто не знает даже, как мог бы выглядеть такой интеллект. Но такие люди, как Ник Бостром, Стивен Хокинг и Илон Маск, постулируют, что, как только он появится, он быстро опередит человечество и последствия этого будут непредсказуемы. Бостром называет эту следующую стадию развития сильного ИИ «искусственным суперинтеллектом».
Первооткрыватели глубинного обучения Демис Хассабис и Ян Лекун относятся к этой перспективе скептически. Они считают, что мы пока еще далеки от создания общего искусственного интеллекта. Эндрю Ын, бывший руководитель научных исследований ИИ для китайской поисковой системы-гиганта Baidu, сравнил такого рода беспокойство по поводу враждебно настроенного ИИ с беспокойством о перенаселенности на Марсе.
Даже если мы никогда не придем к общему искусственному интеллекту или искусственному суперинтеллекту, я считаю, что существует третья форма ИИ, которую я называю гибридным искусственным интеллектом, которая весьма опасна для ближайшего будущего.
Когда мы представляем себе искусственный интеллект, мы полагаем, что у него будет индивидуальное «я», индивидуальное сознание, как и у нас. Но что, если вместо этого ИИ больше походит на многоклеточный организм, на эволюцию за пределами нашего одноклеточного «я»? Более того, что, если мы – даже не клетки этого организма, а его микробиом, наподобие огромной экологической системы микроорганизмов, обитающих в наших телах? Эта идея – в лучшем случае метафора, но я считаю, что она уместна.
Поскольку Интернет ускоряет соединение между умами людей, поскольку мы делимся нашими коллективными знаниями, памятью и ощущениями и храним их в цифровом виде, мы сплетаем новый вид технологически связанного суперорганизма – глобальный мозг, включающий всех взаимосвязанных людей. Этот глобальный мозг – гибрид человека и машины. Чувствами этого глобального мозга являются камеры, микрофоны, клавиатуры и датчики местоположения каждого компьютера, смартфона и устройства «Интернета вещей»; мысли этого глобального мозга – это результат участия миллиардов индивидуальных интеллектов, формируемых, управляемых и усиливаемых алгоритмами.
Цифровые сервисы, такие как Google, Facebook и Twitter, которые объединяют сотни миллионов или даже миллиарды людей практически в режиме реального времени, уже являются примитивными гибридными ИИ. Интеллект этих систем взаимозависим с интеллектом сообщества людей, которое его создает, и является отражением того, как функционируем мы сами. Каждый из нас является огромной нацией из триллионов дифференцированных клеток, только некоторые из которых обладают ДНК, схожей с нашей собственной, в то время как существует гораздо больше клеток-иммигрантов, огромный микробиом микроорганизмов, которые колонизируют наш кишечник, нашу кожу, нашу систему кровообращения. В наших телах гораздо больше микроорганизмов, чем человеческих клеток, они не захватчики, а функционирующая часть единого целого. Без микроорганизмов, которые живут внутри нас, мы не смогли переваривать нашу пищу или превращать ее в полезную энергию. Было даже засвидетельствовано, что бактерии в нашем кишечнике влияют на то, как мы думаем и как мы себя чувствуем. Многоклеточный организм – это сумма коммуникаций, экосистема, если хотите, платформа или рынок для всех ее участников. И когда этот рынок выходит из равновесия, мы заболеваем или не можем использовать наш потенциал.
Люди живут внутри искусственного интеллекта, который сейчас только зарождается. Возможно, как и мы, глобальный ИИ не будет независимым субъектом, а будет представлять собой симбиоз из человеческих сознаний, живущих внутри него и вместе ним.
Каждый день мы обучаем глобальный мозг новым навыкам. Компания DeepMind начала обучать свой искусственный интеллект игре в го, изучая игры, в которые играют люди. Как писали его создатели в январе 2016 года в статье, опубликованной в научном журнале Nature: «Эти глубинные нейронные сети обучаются новой комбинации под контролем людей-экспертов в области игр и закрепляют результат, играя самостоятельно». То есть сначала программа наблюдает за тем, как играют люди, а затем ускоряет это обучение, играя сама с собой миллионы раз, намного опережая по уровню даже самых опытных игроков. Эта закономерность, посредством которой люди обучают алгоритмы, прямо или косвенно является центральной для бурного роста сервисов на основе ИИ.
Однако количество данных, которые люди добровольно производят в Интернете, намного превосходит количество учебных наборов данных, разрабатываемых напрямую для ИИ. Google Search, финансовые рынки и платформы социальных сетей, такие как Facebook и Twitter, собирают данные о триллионах взаимодействий между людьми, перегоняя эти данные в коллективный разум, который может принимать решения, основываясь на узкоспециализированных алгоритмах ИИ. Компьютерный нейробиолог и предприниматель в сфере ИИ Бо Кронин отмечает: «Во многом компания Google преуспела, решая проблемы, для которых ранее предполагалось наличие сильного ИИ, – то есть способность логически мыслить и решать проблемы, обычно связанные с человеческим интеллектом, – при помощи узкоспециализированного ИИ, путем сравнивания новых вводных данных с огромными хранилищами ранее приведенных примеров». Достаточно узкоспециализированный ИИ, впитывающий данные, оставляемые миллиардами людей, начинает выглядеть подозрительно похожим на сильный ИИ. Короче говоря, это системы коллективного разума, которые используют алгоритмы для обобщения коллективных знаний и решений миллионов отдельных людей.
И это, конечно, также является классической концепцией рынка – концепцией системы, в которой без какой-либо центральной координации устанавливаются цены на товары и рабочую силу, на каждый дар земли и продукт человеческой инженерной мысли находятся продавцы и покупатели, ведомые, как говорил Адам Смит, «невидимой рукой».
Но является ли эта «невидимая рука рынка», представляющего собой преследующих собственные интересы продавцов и потребителей, такой же, как «рука рынка», где компьютерные алгоритмы руководят этими интересами и формируют их?
C коллективным разумом что-то пошло не так
Алгоритмы не только объединяют умы и решения людей; они также влияют на них и усиливают их. Как отмечает Джордж Сорос, силы, которые формируют нашу экономику, не являются ни правильными, ни неправильными; они носят рефлексивный характер, в зависимости от того, во что мы коллективно готовы поверить или что мы знаем. Мы уже исследовали влияние алгоритмов на средства массовой информации.
