Шахматная прививка оказала свое воздействие на мою молодость. Даже те, кто не освоил преферанс, играли в шахматы. Говорят, что и это — наследие режима. Безопасное хобби эпохи террора, при Сталине шахматы не внушали тех подозрений, жертвами которых пали филателисты и эсперантисты.
Но я рос в нормальной антисоветской семье и горячо болел за Бобби Фишера, когда тот сражался с Борисом Спасским. Разыгрывая их партии, мы стремились выделить переломный момент, тот единственный гениальный ход, что делал положение соперника безвыходным. Но это чудо, как все они, не давалось в руки. Мы принимали результат, не понимая, как к нему пришел победитель.
Я вспомнил обо всём этом, когда прочел у Стивена Строгаца, американского математика из Корнеллского университета, про гениальный компьютер AlphaZero, которому он посвятил книгу «Беспредельная мощь». На этот заголовок его натолкнула эпическая шахматная баталия двух суперкомпьютеров. Второй, Stockfish, — прямой наследник Deep Blue, что 20 лет назад победил Гарри Каспарова. Я до сих помню ту жгучую обиду за человека, которую мы все тогда испытали. Deep Blue мог анализировать 200 миллионов позиций в секунду, никогда не уставал, ничего не забывал, но ничего не понимал в шахматах. Машина тупо брала монотонными вычислениями: против лома нет приема. Играя наверняка, она в первой же партии жадно приняла жертву Каспарова, обменяв слона на ладью, и через 16 ходов с треском проиграла. Нас это, впрочем, не спасло.
И вот пришел день отмщения. Alpha никто даже не учил играть. Узнав правила, она научилась ими пользоваться, сыграв миллионы партий сама с собой. Матч с лучшей до тех пор машиной выглядел и был полным разгромом. Из ста партий с компьютером Stockfish AlphaZero ни одну не проиграла, 72 свела вничью и выиграла 28. Причем как! Она играла интуитивно и элегантно, как Таль, — с риском и азартом, дразня соперницу и безжалостно, но изящно добивая ее. Это была дуэль машины-артиста с машиной-танком.
— Стиль игры AlphaZero, — написал тот же Каспаров, которого трудно заподозрить в симпатиях к компьютерам, — демонстрирует глубинную «правду шахмат, а не приоритеты и предрассудки программистов».
Конечно, ученые не для того построили Alpha, чтобы развлекать шахматами. Ее уже начинают использовать в медицине — в лечении глазных болезней и, особенно успешно, в диагностике инсультов, когда минута промедления может стоить пациенту рассудка. И это только начало. Alpha следующих поколений смогут отвечать на все вопросы, которые мы им зададим: как победить рак и террористов, как спасти белых медведей и остальную планету, как выиграть на выборах и скачках.
— Возможности такой Alpha, — пишет Стивен Строгац, — могут оказаться безграничными. Она сможет всё, кроме одного. Мы знаем, что Alpha научилась выигрывать в шахматы, но не знаем, как она побеждает. Мы знаем результат, но не путь к нему.
Машина, способная решать поставленные перед ней задачи, неизвестным образом переносит нас не в будущее, а в прошлое, причем страшно далекое. В древности такую же функцию выполняли оракулы. Дельфийская пророчица сама не знала о своих предсказаниях. Одурманенная, как говорят историки, ядовитыми испарениями, она повторяла то, что ей шептали хитрые и политически подкованные жрецы, которые манипулировали жизнью и борьбой античного мира на протяжении многих столетий.
Разница, конечно, в том, что компьютерный оракул — настоящий. Мы сможем пользоваться его советами и поверять их на практике, чего лучше было не делать в древности, как обнаружил Крёз, разрушивший не чужое царство, а свое.
Если машина-оракул будет построена, то мы будем сидеть у ее, так сказать, ног и ждать ответа. На нашу долю останутся вопросы, и формулировка их превратится в отдельную профессию. (Мне уже сейчас кажется, что интернет знает всё, кроме того, как его об этом спросить.)
Эта ситуация поставит перед нами философскую проблему, перерастающую в теологическую. Как пользоваться советами, явившимися в результате никому не известных умозаключений? Как уступить место машине, понять которую человеку не дано? Как жить в мире, где есть высшая мудрость, но она не наша?
Ответы на эти роковые вопросы может дать только опыт: мы ведь всегда так жили. Раньше мудрыми были боги — Зевс или Мардук, потом Бог без имени, но с большой буквы, затем, скажем, Эйнштейн. И для всех, кроме горстки жрецов и ученых, мудрость эта была и есть недоступна. Мы просто принимаем ее на веру. Идем молиться на священном языке непонятных формул и выбираем их автора человеком столетия. Что же изменится от того, что место усатого еврея с непричесанной гривой займет машина, которой можно будет придать любую внешность: громовержца, пришельца, неопалимой купины? Ничего, кроме ущемленной гордости. Сотворив себе кумира, мы уступим интеллектуальное первенство собственному созданию, с которым так же нелепо состязаться, как с богом, которого не зря назвали Alpha.
Уроки рабства
Пока нас пугают будущей войной, она уже идет — безжалостная, безнадежная, тотальная. В сущности, мы ее уже проиграли, ибо участвуем в ней на обеих враждующих сторонах. С одной стороны — мы, с другой — умные машины, которых мы же всему и учим. От того, что фронт невидим, кажется, что всё еще впереди. На самом деле бои уже начались, хотя мы не всегда осознаём, что они идут на нашей территории.
— Пять из шести американцев, — говорит статистика, — зависят от искусственного интеллекта. 84 процента используют навигационные системы, половина прибегает к услугам персональных ассистентов, четверть держит самообучающиеся приборы, которые знают, когда выключить свет и включить отопление.
Все эти мелкие и незаметные удобства постепенно размывают основы нашей жизни, делая ее ненужной, а нас — лишними, как Онегин, людьми.
— Трое из четырех опрошенных, — гласит та же статистика, — уверены, что искусственный интеллект оставит людей без работы, хотя только один из четырех считает, что это коснется его.
— И напрасно, — говорят эксперты, — не в туманном будущем, а в ближайшее десятилетие каждый третий будет вынужден сменить профессию.
Искусственный интеллект быстро вытесняет натуральный как раз в тех областях, где дольше всего учатся и больше всего получают. Например — в медицине, где специалистов с полумиллионным доходом заменяет программа, которая намного больше знает, несравненно быстрее работает и ничего не получает. Даже хирурги уже сотрудничают с механическими помощниками, которые не знают усталости и не умеют ошибаться. То же с юристами, которые 90 процентов предварительной работы переложили на алюминиевые плечи компьютера. Следующие на очереди — асы. За один полет летчики собственноручно управляют «Боингом» семь (семь!) минут. Если автомобили вот-вот обойдутся без водителя, то и самолеты справятся одни.
Характерно, что всё это — элита, те, кто самоотверженно — и за большие деньги — учился своей важной профессии, любил ее, копил опыт, страдал от неудач, гордился успехами и остался не у дел, когда выяснилось, что значительная, если не бо́льшая часть наших трудовых усилий достаточно однообразна, монотонна и поддается насилию алгоритма.
