Как видно, в самых различных контекстах небольшое количество искусственного разума начинает применяться, чтобы убрать трение из тех или иных процессов. Вот это я имею в виду под ограниченным ИИ, и это уже начинает происходить. Не думаю, что ограниченный ИИ ведет нас к большому ИИ, а большой ИИ – это то, что в литературе называется общий искусственный интеллект, ОИИ (AGI). В целом, это как мозг человека, что-то сопоставимой мощности. И я думаю, что сложение маленьких ИИ не ведет к большому ОИИ.
В литературе также высказана идея искусственного суперинтеллекта, куда более мощного, чем человеческие существа, и требующего постоянного саморазвития. Машина улучшает себя и создает следующее поколение машины, которое создает следующее поколение машины и так далее и так далее, и машины становятся все лучше и оставляют нас далеко позади. Таким образом в этом зале мы говорим лишь о трех типах ИИ, хотя добрый друг многих из нас, Кевин Келли, только что выпустил отличную книгу «Неизбежно» (The Inevitable). И в этой книге он перечисляет 25 разных типов ИИ.
Всего несколько примеров: разум, подобный человеческому, но быстрее находящий ответы, как Ватсон на стероидах; разум, натренированный и направленный на улучшение вашего личного разума, как уникальное дополнение к вашему собственному разуму; решающий общие задачи разум без какого-либо самосознания – большой мощный научный инструмент для исследований. Наконец, разум, способный к бессмертию путем миграции с платформы на платформу, развивающийся во времени и фактически живущий вечно, потому что он способен адаптироваться к технологическим переменам.
Так что есть множество разных видов ИИ, которые следует иметь в виду, когда мы говорим о будущем. Есть три измерения неопределенности. Первое – это время: насколько быстро это случится? Случится ли это в самом ближайшем будущем, через несколько лет, еще позже, или, как думают некоторые, не случится никогда? Различные эксперты в этой области провели пять исследований возможных временных рамок. Около 10 % сказали, что у ОИИ есть шанс появиться около 2022 года, 90 % – что от 2065-го до конца века, и статистически малая часть – что никогда.
Таким образом, по мнению большинства экспертов, до конца этого века у нас будет устройство не глупее среднего человеческого существа. Это первая неопределенность. Сегодня мы на пологом подъеме, но в какой-то момент в ближайшем будущем кривая может уйти вертикально вверх. Вопрос, не на переломе ли мы уже сейчас? Или пологий подъем будет продолжаться? Вторая большая неопределенность – это путь. Как мы попадем туда? Будет ли это сверху вниз и намеренно или снизу вверх? Сверху вниз означает, что мы поймем, как работает мозг, создадим программную модель этого мозга и запустим ее на каком-либо устройстве.
Современные технологии машинного обучения уже на самом деле довольно близки к этому, потому что один из способов работы мозга – это запоминание, мы видим одни и те же вещи много раз и со временем в нейронах прокладываются тропинки, придающие им смысл, они запоминаются. Так и работает машинное обучение, вы показываете машине множество примеров, и она усваивает, как выглядит кошка, или собака, или яблоко, или ваше лицо, между прочим. Это путь сверху вниз.
Однако все может произойти иначе, снизу вверх – множества разных вычислений могут быть соединены в то, что Марвин Минкси называл «общество разума». Однако если оно и может появиться, очень трудно предсказать, когда именно. Особенно тревожный сценарий предсказывает, что это может произойти даже случайно.
Последняя неопределенность – будет ли ИИ полезным? Принесет ли он плоды? К примеру, в недавнем фантастическом фильме «Она», где ИИ был помощником человеческого существа, прекрасным, благодаря чудесному голосу Скарлетт Йохансон. Конечно, ИИ наскучило человечество, и он оставил нас позади, но это был милостивый ИИ. Но фактически мы видим, что ограниченный ИИ, о котором я говорил выше, очень полезен для повышения производительности. Наша компания использует ИИ для повышения производительности людей. И, если вы задумаетесь о растущей занятости в секторе услуг, где производительность не растет, это инструмент повышения производительности и роста нашей экономики.
Итак, вот эти три большие неопределенности. Проясняет ли это ситуацию? Каковы возможные пути? Каковы сроки? Это подводит нас к нескольким особенно непростым вопросам. Например, действительно ли сознание имеет значение? Должна ли машина на самом деле знать, что она разумна? Философ Джон Сирл утверждал, что в этом отношении есть по крайней мере два вида разумности. Одна – сильный ИИ, то есть самоосознающий и имеющий то, что мы подразумеваем под сознанием. Другая – слабый ИИ, который функционирует так, как если бы у него было сознание. Он неотличим от осознающего существа, хотя на самом деле сознания у него нет.
Я не думаю, что это имеет значение с практической точки зрения. Философски – может быть, но с точки зрения нашего взаимодействия с ИИ разницы, пожалуй, нет. Еще один важный вопрос – похож ли вообще мозг на компьютер – вычисляет ли он вообще? Мы использовали компьютерную метафору для описания мозга и метафору мозга для описания компьютера. И фактически, сегодня ИИ – это программное обеспечение, работающее на «железе», нет ничего необычного в том, чтобы думать о нем с этой точки зрения.
Но и наш разум живет в теле – у него есть руки, есть глаза, есть ноги и прочее. У него есть опыт, есть эмоции, есть ощущения и так далее. Может ли быть бестелесный разум? Есть ли в этом на самом деле смысл? Может быть, нам нужна радикально иная модель мозга? Например, мы не могли бы прийти к современной физике твердого тела без квантовой теории, туда не попадешь через Ньютонову физику. Так что возникает вопрос – можем ли мы получить этот настоящий искусственный интеллект с сегодняшними моделями, сегодняшней математикой, сегодняшними концепциями того, как работают мозг и компьютер?
Это также приводит нас к важным вопросам о таких вещах, как этика роботов. Мы все знаем о трех законах робототехники Азимова – роботы не могут причинять вред человеческим существам, они должны подчиняться человеческим существам и должны беречь себя, если это не противоречит первым двум законам. Мы уже размышляли над этим в течение многих лет, но мне крайне интересно, в самом ли деле машина похожа на человеческий мозг. Пока что это для меня один из действительно больших вопросов.
Еще один важный элемент – это воздействие на занятость. Если посмотреть на недавнюю динамику занятости, скажем, в Соединенных Штатах, можно увидеть, что есть две большие категории работ: есть неповторяющиеся когнитивные задачи, например, написать статью, выполнить научные исследования, провести терапию, обслуживать за столом в качестве официанта, быть сантехником – это нерутинная физическая работа, а есть множество рутинных задач, и число нерутинных рабочих мест возросло с 30 до 60 миллионов, а рутинные практически не изменились. Это говорит о том, что автоматизация затрагивает рабочие места с рутинным трудом, и так и будет продолжаться. Тогда вопрос сводится к тому, перехватят ли роботы и нерутинные работы, вроде тех, на которых заняты все мы. Вот этого, я думаю, опасаются все.
Если соединить все эти неопределенности, пути, ключевые вопросы и сроки, мы получим несколько сценариев. Один можно назвать «сценарием колосса» – поистине разрушительного гигантского компьютера, который создан по алгоритму «сверху вниз», супер-ИИ, который пытается захватить мир. (Я думаю, что это крайне маловероятный сценарий для любого ближайшего будущего, да и вообще какого-нибудь будущего. Его реализация очень трудна и займет очень много времени. Кроме того, мне кажется, что пути реализации этого сценария малореалистичны). С другой стороны, второй сценарий, малый ИИ, как я описывал выше, уже здесь. Он создан по алгоритму «сверху вниз», узкофункционален, очень полезен и делает мир намного производительнее.
