Использование принципов природных структур и систем в наших конструкциях называется биомимикрией, или биометрикой, и может применяться крайне успешно. Застежка-липучка, аэродинамические летательные аппараты, самовосстанавливающиеся пластмассы – самые разные изобретения были подсказаны нам природой. Тем не менее у этой техники есть свои пределы. Если копировать биологические модели слишком близко к оригиналу, особенно материалы и составные части, то систему нельзя будет скопировать даже на поверхностном уровне. Если при копировании модели отойти от оригинала слишком далеко, то есть риск косметического применения модели, из-за чего система станет хрупкой и даже нефункциональной. Настоящего успеха можно добиться где-то в середине спектра, используя естественные природные структуры как образец и отчетливо представляя возможности имеющихся материалов и инструментов11.
Теперь рассмотрим концепцию искусственного разума уровня человека. Если вспомнить аналогию с птицами и самолетами, то для создания разумной машины нам не нужно применять абсолютно те же методы выполнения задач и преодоления сложностей, которые использует человек. Фактически попытка придерживаться случайно выбранных биологически обоснованных структур и методов, продиктованных эволюцией, только помешает нам достичь цели. Используя подходы, специально разработанные и более подходящие для электронных систем, чем наше «телесное обеспечение», компьютеры уже успешно применяют целый ряд алгоритмов, совершенно не похожих на биологические эквиваленты, для решения задач: численных преобразований, оптимизации изображений и синтеза речи. Подобное копирование человеческих способностей находит все больше применений. Распознавание изображений. Игра в шахматы. Выявление подлогов. Рекомендации по использованию продуктов. Не важно, насколько «человеческими» кажутся эти навыки в нашем понимании, но машины выполняют эти задачи, используя те методы и средства, которые никогда не использует человек.
Многие люди смешивают понятия человеческого разума и искусственного интеллекта равного человеческому, а также машинного разума, эквивалентного человеческому. Хотя по определению эти понятия различны.
Машины и не должны применять человеческие методы и средства. Пойдем дальше. Человеческий разум основан на биологическом субстрате, который зависит от внутри- и межклеточной коммуникации. Разные клетки объединяются, чтобы выполнять функции высшего порядка, которые не могут выполнять отдельные клетки. С функциональной точки зрения высокоуровневые клеточные функции и системы абстрагируются от низкоуровневых функций своих составляющих элементов, чтобы получившаяся структура могла не заботиться о выполнении базовых операций. Подобные отношения и взаимозависимости часто встречаются в природе и приводят к появлению процессов, органов и нейронных структур. Их сочетания и взаимосвязи позволяют появиться живым, эволюционирующим существам, обладающим сознательным самоотносящимся мышлением.
Сравним это с электронным субстратом, где проводниковые и полупроводниковые соединения образуют базовые электронные компоненты. Мы организуем эти компоненты, принимая базовые инструкции – которые называем машинным языком, и в итоге абстрагируемся до более высоких уровней, которые ближе человеку в чтении, написании и интерпретации. На этом уровне часто отпадает необходимость в базовых процессах «бытового обслуживания». Инструкции объединяются в подпрограммы, которые руководят низкоуровневыми инструкциями при выполнении поставленных задач, обработке вызовов и создании отчетов. Из подпрограмм складываются модули. Из модулей складываются программы. Из программ складываются приложения.
Можно убедиться в том, что на каждом этапе в обоих примерах используемые методы продиктованы низкоуровневыми структурами и процессами. Несмотря на то что при создании разумных машин мы наследуем принципы биологических систем, стоит предположить, что любая попытка скопировать принципиально иную систему окажется в лучшем случае напрасной тратой сил, вычислительных мощностей и ресурсов. В худшем – результат будет полным провалом.
С учетом всего этого будет полезно признать, что любой искусственно созданный разум, независимо от того, какие методы использовались для его создания, наверняка будет нам абсолютно чужеродным. Причем не как в заезженных голливудских сюжетах, а действительно чуждым, непостижимым и не поддающимся интерпретации. Вот чего нам стоит бояться на самом деле. Не того, насколько искусственный интеллект умнее человека или, если уж на то пошло, насколько он превосходит интеллект всего человечества. (Хотя, конечно, этот вопрос мы тоже должны задать.) Не того, что искусственно созданный разум разделяет или не разделяет убеждения, на которых основано наше мировоззрение, – потому что во многом он этого просто не может. По-настоящему нас должно тревожить то, что мы не сможем мыслить действительно в одном направлении с этим чуждым нам разумом, как и с другим человеком. Мы никогда не сможем полностью понять или, возможно, даже уяснить его мотивы, если они у него действительно будут. Как гласит старая поговорка, нам не удастся побывать в его шкуре.
Но верно и обратное. Во многом не имеет значения, насколько разумна машина, если она будет неспособна понять нас, а мы ее. Это одна из причин, почему нам стоит быть осторожными. Не потому, что машины могут обрести сознание, но потому, что мы будем создавать их для того, чтобы они контролировали системы. Важные для нас системы, необходимые для нашего мира и поддержания нашей жизни. По мере того как мы будем создавать все более умные и эффективные машины, мы неизбежно будем доверять им все больше задач и возлагать на них все большую ответственность – а иначе зачем их вообще создавать? Независимо от наличия у них сознания и свободы воли, все большая сложность будет означать, что процессы и логика их разума окажутся для нас недоступными. В результате что-то может пойти не так и в конце концов пойдет.
Также стоит обратить внимание на количество потенциальных разновидностей разума, которые могут появиться12. Уже существуют разного рода машины, и у каждой свои возможности. Некоторые, как системы глубинного обучения, проявляют вполне узнаваемую, хотя и далекую от человеческой, степень разума. В то же время остальные абсолютно неразумны, хотя и демонстрируют подобие разума, то есть получая определенные данные на входе, дают самостоятельные и неслучайные данные на выходе.
Однако по мере прогресса будет ли это единственным отличием разума машин друг от друга? Мы уже давно поняли, что человеческий разум многогранен и разнообразен. Считается, что вариации общего интеллекта, или д, у людей, проходивших тестирование на определение уровня IQ, составляют от 40 до 60 %, но это лишь один аспект интеллекта в масштабах человечества. Признаки, которые могут или не могут быть уникальными аспектами интеллекта, включают в себя креативность, артистические способности, изобретательность, память, планирование, зрительно-пространственное ориентирование, кинестетическое восприятие, а также, несомненно, множество других. Кроме того, существует огромное множество аспектов отдельных личностей, из которых складывается наша уникальность: уверенность в себе, экстраверсия или интроверсия, эмпатия, паранойя, враждебность, стрессоустойчивость и т. д. Все эти компоненты составляют нашу особую ментальную картину. Наряду со всем этим в последние годы все больше получает признание EQ (эмоциональный интеллект), благодаря той роли, которую он играет в становлении успеха многих людей по всему миру13. Подробнее об этом позже.
