Все изменилось с появлением машинного обучения. Компания DeepMind, принадлежащая Google, 5 декабря 2017 года вывела на арену программу AlphaZero, использующую методы глубокого обучения, которая ошеломила шахматный мир. Программа научилась играть в шахматы, играя против самой себя и извлекая уроки из ошибок. За считаные часы она стала лучшим шахматистом в истории. Она не только могла бы легко победить лучших гроссмейстеров мира (им даже не стоило пытаться), но и сокрушила действующего чемпиона мира среди программ. В матче из ста партий против Stockfish, реально грозной программы, AlphaZero выиграла 28 раз и сыграла 72 партии вничью, не проиграв ни одной
[338].
Самое страшное, что AlphaZero демонстрировала понимание. Она играла так, как не играл ни один компьютер, – интуитивно, красиво, в романтичном атакующем стиле. Программа использовала гамбиты и шла на риск. В некоторых партиях она парализовала Stockfish и просто игралась с соперником, что выглядело злобно и по-садистски. И программа действовала неимоверно творчески, делая ходы, о которых ни один гроссмейстер или компьютер не мог даже мечтать. AlphaZero объединила дух человека и мощь машины. Это было первое знакомство человечества с новым ужасающим видом интеллекта.
Предположим, мы могли бы нацелить AlphaZero или подобную программу (назовем ее AlphaInfinity
[339]) на величайшие нерешенные проблемы теоретической науки, иммунологии, биологии рака или сознания. Продолжим фантазировать и допустим, что в этих явлениях существуют какие-то галилеевские или кеплеровские закономерности, которые созрели до того, чтобы быть обнаруженными, но только с помощью интеллекта, превосходящего наш. Если предположить, что такие законы существуют, сможет ли этот сверхчеловеческий разум их найти? Я не знаю. Никто не знает. К тому же все это может быть чисто теоретическими измышлениями, поскольку таких законов может и не существовать.
Но если они все же существуют и AlphaInfinity смогла бы их установить, она стала бы для нас оракулом. Мы бы сидели у ее ног и слушали. Мы бы не понимали, почему она всегда права, а порой не понимали бы даже то, что она говорит, но всегда могли бы проверить ее вычисления с помощью экспериментов или наблюдений. Казалось бы, что машина знает все. Мы превратились бы в зрителей, разинувших рот от удивления и пребывающих в замешательстве. Даже если бы она могла объяснить свою работу, мы бы не поняли ее рассуждений. В этот момент эпоха понимания, начавшаяся с Ньютона, подошла бы к концу и началась бы некая новая эпоха понимания.
Научная фантастика? Возможно. Но я думаю, что такой сценарий не исключен. В некоторых областях математики и других наук мы уже ощущаем закат понимания
[340]. Существуют теоремы, доказанные компьютерами, и в этих доказательствах не может разобраться ни один человек. Теоремы верны, но мы не понимаем, почему. На данном этапе машины не могут объясниться.
Рассмотрим старую знаменитую математическую задачу под названием задача четырех красок. В ней говорится, что при определенных разумных ограничениях любую карту на плоскости или на сфере можно раскрасить в четыре цвета так, чтобы никакие две соседние страны не были окрашены в одинаковый цвет. (Посмотрите на типичную карту Европы, Африки или любого другого континента, кроме Австралии, и поймете, что я имею в виду.) Теорема о четырех красках была доказана в 1976 году с помощью компьютера, но ни один человек не мог проверить все шаги в рассуждении. Хотя с тех пор доказательство проверяли и упрощали, все равно в нем имеется часть, где используются прямые вычисления, – ровно так, как компьютеры играли в шахматы до появления AlphaZero. Появление этого доказательства у многих математиков вызвало раздражение. Они и так считали, что теорема о четырех красках верна. Им не надо было это подтверждать. Они хотели понять, почему она верна, а компьютерное доказательство в этом не помогло.
Рассмотрим еще одну геометрическую задачу четырехсотлетней давности, поставленную Иоганном Кеплером. В ней требуется определить самый эффективный способ наиболее плотно упаковать одинаковые сферы в трехмерном пространстве (это сродни задаче, как в магазине уложить в деревянный ящик как можно больше апельсинов). Будет ли эффективнее всего укладывать сферы одинаковыми слоями, один непосредственно на другой? Или лучше расположить слои так, чтобы каждая сфера оказывалась в выемке, которую образуют четыре сферы в слое под ней? (Апельсины укладывают именно так.) Если да, то можно ли считать этот способ наилучшим? Или существует расположение сфер с еще большей плотностью, причем, возможно, без регулярной структуры? Гипотеза Кеплера заключалась в том, что упаковка из продуктовых магазинов самая лучшая
[341]. Однако доказано это было только в 1998 году. Томас Хейлс при помощи своего студента Сэмюэла Фергюсона и 180 000 строк компьютерного кода свел гипотезу к большому, но конечному числу случаев. Затем с помощью перебора и использования оригинальных алгоритмов программа проверила гипотезу. Математическое сообщество пожало плечами. Теперь мы знаем, что гипотеза Кеплера верна, но по-прежнему не знаем, почему. У нас нет понимания. И компьютер Хейлса нам этого объяснить не смог.
Но что произойдет, если настроить на решение таких задач программу AlphaInfinity? Такая машина могла бы выдавать красивые доказательства – столь же красивые, как шахматные партии, которые она играла против Stockfish. Ее доказательства были бы интуитивно понятны и элегантны. Они были бы, по словам венгерского математика Пала Эрдёша, доказательствами прямо из Книги
[342]. Эрдёш любил повторять, что у Бога есть Книга, в которую тот включает идеальные доказательства, и фраза, что какое-то доказательство взято из Книги, была его наилучшей возможной похвалой. В частности, это значит, что доказательство раскрывает, почему теорема верна, а не заставляет нас принудительно согласиться с какими-то уродливыми и трудными рассуждениями. Я могу себе представить не слишком отдаленный день, когда искусственный интеллект предоставит нам доказательство из Книги. Но на что будут в тот момент похожи анализ, медицина, социология и политика?
Заключение
При правильном использовании бесконечности анализ может раскрыть секреты Вселенной. Мы видели, как это происходит снова и снова, но все равно каждый раз воспринимаем это как чудо. Система рассуждений, созданная людьми, каким-то образом находится в гармонии с природой. Она надежна не только в масштабах, в которых была изобретена – в масштабах повседневной жизни, с волчками и мисками супа, – но и в мельчайших масштабах атомов и колоссальнейших масштабах космоса. Так что тут не может быть порочного круга. Это не тот случай, когда мы вводим в анализ уже известные нам вещи, а анализ выдает нам их обратно; нет, анализ говорит нам о тех вещах, которых мы никогда не видели, никогда не могли увидеть и никогда не увидим. Иногда он говорит нам о вещах, которые никогда не существовали, но могли бы существовать – если бы только у нас хватило ума вызвать их к жизни.
