Тем не менее эволюция, создав мозг млекопитающего, наткнулась на нечто замечательное, говорит Грейнджер. Именно поэтому у мозга на пути от ранних млекопитающих до нас наблюдается лишь несколько небольших отклонений. Части мозга избыточны, а связи в нем не слишком точны и работают медленно, но его работа базируется на инженерных принципах, у которых нам стоило бы поучиться, — нестандартных принципах, которые люди пока еще не изобрели. Вот почему Грейнджер уверен, что создание интеллекта необходимо начинать с подробного изучения мозга. Он не считает, что созданные de novo когнитивные архитектуры — те, что не основаны на принципах устройства мозга, — смогут хотя бы приблизиться по возможностям к разуму.
«Из всех органов один только мозг способен к мысли, обучению, распознаванию, — говорит он. — Ничто, сконструированное человеком до сих пор, не сумело сравняться и тем более превзойти возможности мозга в любой из этих задач. Несмотря на громадные усилия и большие бюджеты, у нас нет искусственных систем, которые могли бы конкурировать с человеком в распознавании лиц, в восприятии естественных языков, в обучении на опыте».
Так что давайте отдадим мозгу должное. Мозг, а не мускулы, сделал нас доминирующим видом на планете. Мы взошли на пьедестал не потому, что были красивее животных, конкурировавших с нами за ресурсы или попросту хотевших съесть нас. Мы лучше думали даже, вероятно, в тех случаях, когда речь шла о конкуренции с другими человекообразными видами. Разум, а не мускулы, принес нам победу.
Разум станет залогом победы и в стремительно приближающемся будущем, когда мы, люди, перестанем быть самыми умными существами в окружающей действительности. Почему нет? Когда технически отсталые народы брали верх над более развитыми? Когда менее разумные виды брали верх над более мозговитыми? Когда разумный вид хотя бы позволял относительно разумному виду существовать рядом, иначе чем в виде домашних любимцев? Посмотрите хотя бы, как мы, люди, относимся к ближайшим своим родичам, высшим приматам — шимпанзе, орангутанам и гориллам. Те, кто еще не погиб, не оказался в зоопарке и не превратился в циркового клоуна, находятся в опасности и, можно сказать, доживают последние дни.
Разумеется, Грейнджер прав, и ни одна искусственная система не может сравниться с человеком в распознавании лиц, обучении и владении языком. Но в узких специализированных областях ИИ обладает потрясающей мощью. Представьте себе существо, которое имеет в своем распоряжении всю эту мощь, и представьте, что оно по-настоящему разумно. Как долго оно готово будет оставаться нашим орудием? Вот что сказал историк Джордж Дайсон о том, где может жить такое сверхразумное существо, после экскурсии по штаб-квартире Google:
На протяжении тридцати лет я думал о том, какие признаки существования можем мы ожидать от настоящего ИИ. Конечно, речь не идет о прямом объявлении в СМИ, которое может вызвать нежелательную реакцию в виде выдергивания вилки из розетки. Индикатором может быть аномальная концентрация, создание богатства, неутолимая жажда все новой информации, дискового пространства и процессорных мощностей или согласованная попытка обеспечить себя анонимным источником непрерывного питания. Но подлинным индикатором, мне кажется, был бы кружок жизнерадостных, довольных, интеллектуально и физически удовлетворенных людей вокруг ИИ. Там не будет нужды в истинно верующих, не будет загрузки человеческого сознания в компьютер или чего-то другого, столь же зловещего; это будет просто постепенный, мягкий, всеобъемлющий и взаимно полезный контакт между нами и растущим чем-то. Пока все это лишь непроверяемая гипотеза.
Далее Дайсон цитирует писателя-фантаста Саймона Ингза:
Когда наши машины обогнали нас, стали слишком сложными и эффективными для того, чтобы ими можно было управлять, они сделали это так быстро, так гладко и так эффективно, что только глупец или пророк осмелился бы протестовать.
Глава 13
Непознаваемы по природе
Как из-за великолепной способности к планированию, так и из-за технологий, которые он способен будет создать, разумно предположить, что первый сверхразум будет очень мощным. Вполне возможно, что соперников у него не будет: он сможет достичь почти любой цели и пресечь любую попытку помешать ему. Он мог бы уничтожить всех прочих агентов, убедить их изменить свое поведение или заблокировать любые попытки вмешательства с их стороны. Даже «скованный сверхразум», работающий на отдельном изолированном компьютере и способный взаимодействовать с внешним миром только через текстовый интерфейс, возможно, сумеет вырваться из своего заключения, убедив своих «тюремщиков» выпустить его. Есть даже некоторые предварительные экспериментальные указания на то, что так и произойдет.
Ник Востром, директор Института будущего человечества, Оксфордский университет
Видя, как ИИ наступает по всем фронтам, от Siri до Watson, OpenCog и LIDA, трудно поверить, что человечество не сможет создать УЧИ из-за сложности реализации. Если увеличение мощности компьютеров не приведет к желаемому результату, поможет обратное проектирование, хотя времени на это уйдет больше. Несмотря на это, Рик Грейнджер ставит перед собой цель: понять мозг по восходящей, от простого к сложному, путем реализации самых фундаментальных его структур в виде компьютерных программ. И он не может не иронизировать над исследователями, работающими сверху вниз по когнитивной вертикали с применением принципов информатики.
Они изучают поведение человека и смотрят, нельзя ли смоделировать такое поведение на компьютере. По справедливости, это немного напоминает попытку разобраться в автомобиле, не заглядывая под капот. Мы считаем, что можем точно сказать, что такое разум. Мы считаем, что можем точно сказать, что такое познание. Мы считаем, что можем точно сказать, что такое адаптивные способности. Но единственная причина того, что мы имеем хоть какое-то представление об этих вещах, заключается в том, что мы наблюдаем, как человек делает "разумные" вещи. Но одно только внешнее наблюдение не позволяет нам понять в подробностях, что именно в этот момент происходит. Принципиальный вопрос звучит так: какова инженерная спецификация логических рассуждений и обучения? Инженерной спецификации не существует, так на что же они опираются, кроме наблюдений?
А ведь не секрет, что человек плохо умеет анализировать свое поведение. «Огромное количество исследований по психологии, нейробиологии и когнитивистике показывает снова и снова, как плохо мы умеем вглядываться в себя, — говорит Грейнджер. — Мы не имеем понятия ни о собственном поведении, ни о процессах, которые стоят за ним». Грейнджер отмечает, что мы также плохо умеем принимать рациональные решения, точно рассказывать об увиденном и вспоминать то, что случилось совсем недавно. Но ограниченность возможностей человека как наблюдателя не означает, что когнитивные науки, основанные на наблюдениях, — полная чепуха.
Грейнджер просто считает, что это неподходящий инструмент для проникновения в тайны интеллекта.
