Существует отдельный метод контролируемого обучения, в ходе которого алгоритму предоставляются примеры способов обработки получаемой информации. В 2016 году компьютерная программа AlphaGo, разработанная компанией Google DeepMind, победила чемпиона мира по го (сложной восточноазиатской стратегической игре) благодаря заложенным в нее протоколам исторического анализа партий и моделирования миллионов новых комбинаций при помощи другого метода – метода обучения с подкреплением. Новая версия программы AlphaGo Zero больше не нуждается в участии человека. Она уже не учится на анализе предыдущих партий, а опирается лишь на знания правил игры: программа играет миллионы раз против самой себя, начиная с самых простых комбинаций, пока не находит наилучшие.
Сталкиваясь с подобными примерами, многие начинают задумываться о потенциальной опасности того, что со временем машины смогут стать умнее людей. Теоретический подход к данной проблеме гласит, что если человечество когда-либо создаст сверхинтеллектуальную машину, превосходящую его собственные возможности, то оно неизбежно столкнется с феноменом экспоненциального преодоления, когда машина будет способна к самосовершенствованию и созданию, в свою очередь, другой машины, более умной, чем она сама. И это приведет к радиальным изменениям для цивилизации, которые больше невозможно будет предсказать и контролировать.
Этот феномен, известный как «технологическая сингулярность», в сочетании с тем фактом, что скорость обработки данных компьютерами удваивается каждые два года, многих привел к утверждению, что прорыв в сфере развития ИИ произойдет с такой скоростью, что люди начнут уступать машинам уже в ближайшие десятилетия. Одним из исследователей проблем искусственного интеллекта, наиболее широко распространившим подобную идею, является Рэй Курцвейл, чьи знаменитые книги «Сингулярность уже близка» и «Эволюция разума: Как развитие искусственного интеллекта изменит будущее цивилизации» привлекли внимание ученых, прессы и широкой аудитории читателей. На основании своих знаний и анализа он сделал прогноз, согласно которому к 2029 году искусственный интеллект будет развит до такой степени, что его работа станет практически неотличима от работы человеческого мозга, а к 2045 году технологическая сингулярность станет реальностью. В своем известном выступлении на конференции TED в 2005 году он утверждает, что к тому времени
будет завершено обратное конструирование человеческого мозга. Компьютеры совместят в себе тонкие способности распознавания, присущие человеку, с возможностями в областях, где превосходство машин уже достигнуто: применение аналитического аппарата и безошибочное запоминание миллиардов фактов.
Обратное конструирование представляет собой метод, благодаря которому ученые получают информацию о работе или строении того или иного органа, а также определяют их основные компоненты и схемы взаимодействия между ними с целью внесения изменений и улучшения их функционирования. Применительно к мозгу данный метод позволяет не только выяснить, как работает и обрабатывает информацию мозг, но и создавать программы, воспроизводящие в точности его функции. И в тот момент, когда подобное станет возможным, произойдет очеловечивание машин. Смотря вперед, Курцвейл предрекает новую судьбу человечеству:
Человек начнет сливаться с технологией […] [Наноботы] будут работать внутри мозга человека, взаимодействуя с биологическими нейронами.
Таким образом, он делает предположение, что у нас появятся миллионы микроскопических нанороботов, которые смогут ингибировать или стимулировать нейроны, отвечающие за обработку информации, поступающей через органы чувств. Имея возможность загружать в интернет неврологические корреляты наших мыслей и воспоминаний, мы сможем жить, погружаясь полностью в виртуальную реальность и преодолевая ограничения нашего биологического мозга. Этот прорыв в развитии искусственного интеллекта будешь лишь ускоряться, приближая нас к миру технологической сингулярности.
Насколько вероятен подобный сценарий? Будет ли создан интеллект, похожий или превосходящий интеллект человека? Сопоставим ли искусственный разум с нашим? Или он является (и останется) лишь инструментом, позволяющим расширить наши естественные (и изученные) возможности?
Скажем так, что человеческий интеллект – это чрезвычайно сложная, еще не до конца изученная и понятная способность, вбирающая в себя различные двигательные, эмоциональные, социальные и когнитивные навыки среди прочего. Машины, безусловно, эффективнее человеческого разума в некоторых определенных областях: память интернета способна сохранить в себе все (как знаменитая Вавилонская библиотека Борхеса), простой калькулятор опережает нас по скорости обработки математических данных. Тем не менее нам не стоит обманывать себя: помимо этих и многих других преимуществ, искусственный интеллект все же ограничен в своей способности к анализу данных и принятию решений в том смысле, в котором ею пользуемся мы, люди. Ни один, даже самый мощный компьютер не может сравниться с человеком по таким качествам, как интуиция, проницательность, изобретательность, не говоря уже о проявлении сочувствия, творческого потенциала, способности чувствовать и придерживаться моральных принципов, – чертам, которые были приобретены в ходе миллионов лет эволюции. Кроме того, компьютеры лишены самосознания и самоопределения, у них нет убеждений, желаний и мотивов. Чтобы построить по-настоящему сознательный искусственный интеллект, мы должны быть в состоянии наделить его каждым из основных компонентов, порождающих сознание. И это не представляется возможным, поскольку в действительности мы сами до конца не знаем, как мозг рождает сознание.
Другой фундаментальный аспект связан с ролью, которую наши тело и эмоции играют в когнитивном процессе. Видение человеческого разума как простого процессора по обработке информационных данных уже давно отвергнуто наукой. Сегодня мы знаем, что нейронные цепи, лежащие в основе познания и эмоций, взаимозависимы и взаимодействуют друг с другом как в рамках основных процессов, таких как раннее восприятие, так и более сложных функций, таких как принятие решений, рассуждения, а также моральное и социальное поведение. Это означает, что наш мозг, к примеру, не руководствуется исключительно рациональными доводами при обработке новой информации, а интегрирует ее с предыдущим эмоциональным опытом и физическими ощущениями, чтобы объяснить происходящее вокруг и принять соответствующие решения для последующих действий.
Даже в условиях неполной или противоречивой информации мы, люди, способны подключать интуицию и считывать контекстуальные подсказки, чтобы адаптировать свое поведение соответствующим образом. Возможность мгновенно осуществлять перевод с одного языка на другой не означает способность понимать язык. Точно так же устройство по распознаванию лиц вряд ли когда-либо обретет способность распознавать выражения лица, анализировать их значение в определенном контексте и адаптировать свое поведение, исходя из полученной информации. Кроме того, мозг не является оборудованием, поставляющим человеческие знания и эмоциональные переживания: они также берут свое начало в опыте физического взаимодействия нашего тела с окружающей средой. Результаты нейробиологических исследований все чаще ставят под сомнение декартовский дуализм, проводящий четкую грань между разумом и телом. На фоне всего этого идея виртуального разума, существующего вне физического тела, выглядит весьма слабой.
