Наше будущее, вероятно, — за улучшенным биологическим, а не машинным интеллектом. Именно в этом заключаются опасности и/или преимущества. Мы могли бы, например, выбрать определенные гены (или даже создать новые), которые, по нашему мнению, увеличат интеллект, для этого даже не надо полностью понимать, как работают конкретные комбинации генов. Но не запустим ли мы невольно процесс, который изменит лучшие человеческие качества? Стремясь к более высокому интеллекту, не снизим ли мы на генетическом уровне нашу способность к состраданию или врожденную потребность в формировании социальных связей? Как может измениться человеческий вид в долгосрочной перспективе? Те качества, которые нас создали, — любознательность, интеллект, сострадание и умение сотрудничать, возникающие вследствие нашей потребности в социальных связях, — требуют сложной комбинации генов. Можем ли мы их получить посредством искусственного генетического отбора? Можем ли мы их потерять? Эти проблемы, вероятно, не остановят некоторых ученых, решивших использовать искусственный отбор. Какими же будут наши внуки?
Очень полезные хитрости
Нил Гершенфельд
Физик, директор Центра по исследованию битов и атомов, Массачусетский технологический институт; автор книги «FAB»
В дискуссиях по поводу искусственного интеллекта недостаточно внимания уделяется интеллекту человеческому. ИИ объявляют либо нашим спасением, либо проклятием, что явно демонстрирует бессмысленность таких споров.
Прорывные технологии начинают появляться по экспоненте, это означает, что первые удвоения могут казаться несущественными, поскольку их общее число невелико. Потом наступает революция, когда экспонента взрывается, а вместе с ней — преувеличенные обещания и предостережения, но это прямая экстраполяция очевидных наблюдений за графиком в логарифмическом масштабе. Примерно в тот же момент начинают действовать пределы роста, экспонента переходит в сигмоиду, а предельные надежды и страхи исчезают. Именно это мы с нашим искусственным интеллектом сейчас и переживаем. Размеры баз данных распространенных понятий, по которым можно проводить поиск, или число уровней инференции, которые можно обучить, или размерность векторов характеристик, которые можно классифицировать, — во всех этих областях был достигнут значительный прогресс, который любому, кто за ним не следил, показался бы дискретным.
Важное наблюдение: в дискуссии ни с одной из сторон не участвуют те, кому принадлежит наиболее значительный вклад в этот прогресс. Такие достижения, как теория случайных матриц для сжатого восприятия, конвексная релаксация эвристической функции для трудноразрешимых задач и базовые методы аппроксимации функций высокой размерности фундаментальным образом меняют наше понимание того, что значит «понимать» что-либо. Оценка искусственного интеллекта давно уже стала задачей о развивающихся целевых показателях. Научить его играть в шахматы удалось благодаря оценке и анализу большего числа ходов, играть в Jeopardy! — благодаря хранению большего числа фактов, переводить естественные языки — благодаря накоплению большего числа примеров. Эти достижения наводят на мысль: возможно, секрет искусственного интеллекта заключается в том, что никакого секрета нет. Как многое другое в биологии, разум, похоже, является набором очень полезных хитростей. Думать, что сознание — исключительная особенность нашего вида, значит проявлять неуместную гордыню, особенно если учесть растущие объемы эмпирических данных, полученных в ходе исследования поведения и познавательных способностей животных. Эти данные говорят о том, что самосознание — продукт эволюции и может проявляться у других видов. Нет причин для того, чтобы придерживаться механистического объяснения поведения других форм жизни, объявляя одну из них неприкосновенной и закрытой для обсуждения.
Мы уже давно вступили в симбиоз с машинами в плане мыслительной деятельности; мои исследовательские возможности опираются на инструменты, которые помогают мне воспринимать, запоминать, осмысливать и передавать информацию. Спрашивать, разумны ли они, настолько же уместно, как спрашивать, откуда я знаю, что существую, — это интересно с философской точки зрения, но эмпирически не проверяемо.
Спрашивать, опасны ли они, разумно; впрочем, это относится к любой технологии. Ни паровозы и порох, ни ядерная энергетика и биотехнологии не означали для нас немедленной гибели или спасения. В каждом случае спасение заключалось в деталях, куда более интересных, чем банальные и упрощенные аргументы за или против. Только игнорируя историю искусственного интеллекта, да и всего остального, можно предполагать, что в этот раз все будет иначе.
Airbus 320 и орел
Дэниел Эверетт
Лингвист, проректор Университета Бентли; автор книги «Язык — инструмент культуры» (Language: The Cultural Tool)
Чем больше мы узнаем о познании, тем больше появляется аргументов в пользу того, что человеческое мышление — это центр сцепления нескольких факторов, эмерджентное свойство взаимодействия человеческого тела, человеческих эмоций, культуры и специализированных возможностей мозга в целом. Одной из величайших ошибок западной философии было то, что все клюнули на картезианский дуализм, сформулированный в известном утверждении: «Мыслю, следовательно существую». С таким же успехом можно сказать: «Сжигаю калории, следовательно существую». Куда уместнее было бы: «Обладаю эволюционной историей человечества, следовательно могу осмыслить факт своего существования».
Разум — это всего лишь шаблон для обозначения того, что мы не понимаем в своем мышлении. Чем чаще мы используем термин «разум» для человеческого мышления, тем сильнее подчеркиваем это непонимание. По крайней мере, такого мнения придерживается все большее число исследователей в областях нейроантропологии, изучения эмоций, прикладной и фундаментальной когнитивистики, теории двойной наследственности, эпигенетики, нейрофилософии и теории культуры.
Например, в лаборатории профессора Мартина Фишера в Потсдамском университете проводится занятное исследование по взаимосвязи тела человека и математического мышления. Группа Стивена Левинсона по психолингвистическим исследованиям в Институте психолингвистики Общества Макса Планка в Неймегене показала, как культура может влиять на способность к навигации, жизненно важной для большинства видов. В моих собственных исследованиях я рассматриваю влияние культуры на формирование того, что я называю «темной материей разума», — набора знаний, ориентиров, искажений и паттернов мышления, которые оказывают глубокое и сильное воздействие на процесс нашего познания.
Если познавательная способность человека в самом деле является качеством, которое возникает в месте соприкосновения наших физических, социальных, эмоциональных и вычислительных способностей, тогда интеллект в том виде, в каком мы знаем его у людей, никакого отношения не имеет к «интеллекту», лишенному всего этого.
Я верю в возможность ИИ при условии, что мы отдаем себе отчет в его искусственности. Сравнивать решение вычислительных задач, игру в шахматы, построение логических умозаключений и тому подобное с человеческим мышлением — это как сравнивать полет Airbus 320 с полетом орла. Верно то, что они оба действительно на время одерживают верх над силой притяжения, что подчиняются законам физики того мира, в котором существуют и т. д., но на этом сходство заканчивается. Полет птицы и полет самолета не стоит путать.
