М. Ф.: Допускают ли вероятностные методы интеграцию в глубокое обучение?
Дж. Т.: Да, в последние годы этот набор инструментов начали применять в нейронных сетях. Для ускорения выхода нужны нейронные сети и другие виды технологий распознавания образов.
Принцип действия нейронных сетей и вероятностных программ становится все более похожим. Разрабатываются новые языки программирования для ИИ, которые объединяют эти подходы. И в итоге уже не нужно выбирать, что лучше использовать, потому что все они – часть единой языковой структуры.
М. Ф.: Но, к примеру, Джеффри Хинтон не воспринимает всерьез идею гибридного подхода. Мне кажется, что сторонники глубокого обучения думают не только об обучении организма на протяжении всей жизни, но и об эволюции. О том, что в какой-то из ранних форм человеческий мозг был намного ближе к состоянию чистого листа. Возможно, это свидетельствует о естественном возникновении необходимых структур?
Дж. Т.: Без сомнения, человеческий интеллект – в значительной степени продукт эволюции, как биологической, так и культурной. Огромная часть нашей эрудиции и средств проявления интеллекта обусловлена информацией, накопленной поколениями. Ребенок, который вырос на необитаемом острове, конечно, может быть таким же умным, но знать он будет намного меньше, чем мы. Наши тела, появившиеся в результате эволюции, представляют собой невероятно сложные структуры с удивительными функциями. Нет оснований думать, что мозг устроен проще.
Нейробиологи не считают, что мозг – это своего рода чистый лист. Он обладает множеством встроенных структур, включающих в себя как основные модели понимания мира, так и алгоритмы обучения, позволяющие их расширить.
М. Ф.: Можно ли достичь более универсального интеллекта, добавив к глубокому обучению модель эволюционного подхода?
Дж. Т.: В DeepMind сказали бы, что они считают эволюцию частью обучения. Мне кажется, что такой подход имеет право на жизнь при условии, что мы учитываем, как на самом деле работает эволюция. Проблема в том, что в поиске оптимальной архитектуры эволюция создавала сложные структуры, в то время как современные алгоритмы глубокого обучения применяют градиентный спуск по сети фиксированной структуры.
М. Ф.: Как вы считаете, связан ли интеллект с сознанием?
Дж. Т.: Это очень сложный вопрос, потому что разные люди понимают под сознанием разные вещи. Философы, когнитивисты и нейробиологи к единому мнению пока не пришли.
М. Ф.: Хорошо, я переформулирую свой вопрос. Может ли машина обладать своего рода внутренним опытом? Является ли такой опыт обязательным условием для сильного ИИ?
Дж. Т.: Для начала рассмотрим два варианта того, что мы подразумеваем под сознанием. Во-первых, это сенсорные явления любого рода, которые в философии называют термином «квалиа». Это ощущение субъективного опыта, с трудом уловимое в любой формальной системе. Например, два человека называют красный цвет красным потому, что испытают при виде него одинаковые ощущения. Теоретически можно создать машину с такими субъективными переживаниями. Но зачем?
Во-вторых, мы определенным образом ощущаем мир и себя в нем. В таком варианте сознание уже можно рассматривать как вещь, необходимую для интеллекта уровня человека.
Если описать состояние мозга в произвольный момент на уровне функций каждого нейрона, это не будет иметь отношения к субъективному восприятию мира. Для людей мир состоит из объектов, а чувства обеспечивают единое понимание происходящего. Не ясно, как связать этот уровень опыта с нейронами, но подобный опыт необходим сильному ИИ. Причем он описывается на уровне объектов и агентов, а не на уровне состояния нейронов.
Ключевая часть самоощущения – это представление о том, что человек – это нечто большее, чем его тело. Это тема наших исследований. Вместе с философом Лори Полом и моим бывшим студентом и коллегой Томером Уллманом мы работаем над статьей, которую назвали Reverse Engineering the Self («Обратное проектирование себя»).
М. Ф.: Это тот же принцип, что и в обратном проектировании интеллекта?
Дж. Т.: Да, мы пытаемся понять один простой аспект нашего «я». Я называю его простым, но это только небольшая частичка набора вещей, которые можно называть сознанием. Специалисты в сфере ИИ, особенно те, кто занимается сильным ИИ, говорят, что работают над машинами, которые могут самостоятельно думать или учиться. Но такая машина обязательно должна себя осознавать.
У современных ИИ-систем, будь то беспилотные автомобили или такие программы, как AlphaGo, ничего подобного нет. Эти системы рекламируются как «самообучающиеся». Но без собственной личности они не понимают, что они делают. Человек, играющий в го, осознает процесс игры. Если он решает научиться играть в го, это будет его решение. Человек может попросить научить его, может практиковаться с другими. Он принимает множество решений, руководствуясь тем, как он себя ощущает в разные моменты времени. Если мы хотим получить систему с интеллектом уровня человека, ее нужно научить делать то, что сейчас делают инженеры. Другой вопрос – нужны ли нам такие машины?
М. Ф.: Какие опасности, на ваш взгляд, несет в себе ИИ в краткосрочной и долгосрочной перспективе?
Дж. Т.: Сейчас много говорят о сингулярности и суперинтеллектуальных машинах, которые решат захватить мир, потому что их цели окажутся несовместимыми с существованием людей. Я допускаю, что в далеком будущем может произойти что-то подобное, но лично меня это не беспокоит. Как я говорил выше, мы пока понятия не имеем, как добавить машинам ощущение себя. Соответственно, мысль о том, что они внезапно решат захватить мир, в настоящий момент абсурдна.
Честно говоря, у нас есть более актуальные поводы для беспокойства. Например, опасности, связанные со все более мощными алгоритмами, которые мы разрабатываем, пытаясь приблизиться к сильному ИИ. Они могут быть использованы как для полезных, так и для злонамеренных действий.
Я думаю, что ИИ-сообщество все больше осознает необходимость заниматься рисками, которые грозят нам в краткосрочной перспективе, будь то вопросы конфиденциальности или прав человека. Или то, как повальная автоматизация повлияет на экономику и рынок труда.
На протяжении почти всей истории существования человечества люди находили какой-то источник заработка и тратили первую часть жизни на приобретение профессиональных навыков. А дальше профессия могла кормить их до самой смерти. При необходимости можно было переквалифицироваться, но большинству этого просто не требовалось.
Сейчас же из-за постоянно развивающихся технологий рабочие места чаще меняются, появляются или исчезают. За время жизни человека это может произойти несколько раз. Разумеется, технологические изменения, из-за которых исчезали целые направления деятельности, случались всегда, но раньше этот процесс занимал намного больше времени. Когда-нибудь всем в течение жизни придется неоднократно переобучаться. И думать об этом следует уже сейчас.
