Некоторые примеры нарушения границ реальности, допущенные авторами научной фантастики, пока остаются более радикальными, чем то, что произошло на самом деле. К предрекаемым путешествиям во времени и пространстве мы еще не приблизились. При этом фантасты не предвидели многих вещей, которые сегодня считаются будничными или принимаются как должное моими внуками. Писатели, которых читал я, не догадывались, что в какой-то момент вместо сказки на ночь дети просто смогут искать свои любимые видео на YouTube. Часто в этих старых фантастических рассказах проблемы на Земле – бедность, неравенство, конфликты – уже решены, а все события переносятся на другие планеты или в иные галактики. Это были своего рода оптимизм и уверенность в способности науки и технологий решать социальные и политические задачи. В то же время никто не осознавал серьезность и опасность возникших экологических проблем.
Вот чего не смогли предугадать фантасты, так это ошеломляющей плотности событий последних пяти десятилетий по сравнению со столетиями человеческой истории. Я говорю не только о значительных переменах в научной или политической сфере, а, скорее, о драматических изменениях в обычной жизни людей, что более любопытно для меня. Появилось много новых сфер деятельности и профессий, а многие старые, казавшиеся незыблемыми, исчезли. Для моих внуков мир открыт намного больше, чем для нас. Они уже видели больше, чем я до 30 лет. Они знают английский, их будущее и тем более опыт будут сильно отличаться от того, что я могу себе представить (хотя не могу сказать, будет ли им легче).
Что ждет наше общество? Будет ли оно похоже на утопию или, что сейчас очень модно, на антиутопию? В моих детских книгах было и то и другое. Сегодняшние сценарии будущего в основном мрачны. Глобальная катастрофа может быть вызвана многими вещами: вирусами, искусственным интеллектом, вторжением инопланетян, природными катаклизмами. Но все эти угрозы являются отражением наших страхов. Это не фантастика. Истории, когда в лабораториях люди работают с бактериями или вирусами, которые можно использовать в качестве оружия, не противоречат физическим законам или законам человеческого существования.
За мою жизнь мы успели пройти путь от периода, когда у большинства людей был ограниченный выбор, к временам, когда доступно столько вариантов, что трудно разобраться, на что обращать внимание. Это было бы непросто, даже когда вся имеющаяся информация была бы правдивой, но еще труднее, когда ложной информации ничуть не меньше. Для моих внуков главной задачей будет найти нужную информацию, чтобы решить, как поступить дальше. Но будет непросто и научить их делать правильный выбор. Что им понадобится для того, чтобы определять, где ложь, а где истина?
В прошлом люди считали себя центром Вселенной и полагали, что мир вращается вокруг них. Они придавали человеческие черты природным явлениям и неодушевленным предметам и считали, что могут управлять восходом и заходом солнца.
В XXI веке с появлением искусственного интеллекта мы в какой-то степени вернулись к этому мировоззрению. Siri, Google, смартфоны – все имеют искусственный интеллект. Мы настолько привыкли взаимодействовать с ними, что едва ли осознаем, как это поразительно – просить предмет выбрать нам музыку, построить кратчайший маршрут до ресторана или просто поговорить с нами. Нам бы трепетать по этому поводу, но ничего такого нет – настолько незаметно и органично высокоскоростной, технологичный, эволюционный драйв интегрировался в нашу повседневную жизнь.
Тем не менее наблюдение за всей историей человечества и происходящими радикальными изменениями позволяет утверждать, что мы сохранили свою идентичность, свое внутреннее ядро. Как можно оставаться прежним, когда все вокруг так кардинально меняется? Нужно ли следовать прогрессу и принимать изменения или критиковать и испытывать дискомфорт? Я считаю, что необходимо и то и другое одновременно. Если быть постоянно довольным, вряд ли появится желание меняться или даже адаптироваться. Если быть чересчур критичным, невозможно насладиться тем, что есть. Как найти баланс?
Искусственный интеллект интересен, важен и опасен. Опасность не в технологиях, а внутри нас. Мы должны сначала посмотреть в зеркало.
Наша история показывает, что если мы хотим что-то предпринять, то всегда находим способ сделать это быстрее и эффективнее. Это часть человеческой природы – заставить работать что-то еще лучше без каких-либо серьезных последствий и получать от этого удовольствие. Многое из того, что создал человек, нейтрально по отношению к ценностям: нельзя сказать, хороший объект или плохой. Но всегда есть две опасности: потенциал объекта и намерение пользователя. Мы сами делаем объект плохим или хорошим.
В одном из эпизодов мультсериала «Губка Боб Квадратные Штаны» Куб, наделенный способностями, превосходящими человеческие, стал синонимом искусственного интеллекта (ИИ). Он оказался своего рода лакмусовой бумажкой для точного измерения того, насколько умным, изобретательным и искушенным является ИИ, демонстрируя, насколько быстро и ловко он может научиться собирать Куб самостоятельно, без помощи человека. Хотя работа ИИ является сложной и по большей части теоретической, когда дело касается этой трехмерной головоломки, появляется измеримая и самодостаточная точка отсчета.
Так же обстоит дело с умными и хорошо обученными роботами, которые могут собрать Куб быстрее, чем любой человек. Такие роботы регулярно устанавливают рекорды сборки. Одна научная статья четырех профессоров факультета компьютерных наук Калифорнийского университета в Ирвайне озаглавлена «Сборка кубика Рубика без человеческих знаний». Они научили компьютер решать эту задачу, применив способ машинного обучения, известного как «обучение с подкреплением», когда алгоритм изучал политику, определяющую выбор следующего хода из любого заданного состояния. Всего за 44 часа они обучили сеть, которой дали название Deep Cube, собирать произвольно перемешанные кубики, а затем сравнили ее производительность с результатами двух сборщиков.
Компьютер нашел решение для ста кубиков менее чем за час. Ученые оценили комбинации, использованные Deep Cube, в сравнении с другими вариантами. Они обнаружили, что алгоритмы машинного обучения используют распознавание образов, не углубляясь в математический поиск решения. Связав нейронные сети с искусственным интеллектом, запрограммированным на работу с образами, Deep Cube увеличил свой арсенал шаблонов и стал способен применять эти знания для сборки Куба. Эта задача отличается от игры роботов в шахматы, когда один ход может быть менее перспективен, чем другой, имеющий больший потенциал для развития позиции.
С Кубом все не так очевидно: вы можете сделать несколько многообещающих ходов, но даже те, что покажутся ошибочными, способны привести к интересным решениям.
Когда статья с результатами исследования была опубликована, она привлекла внимание многих ученых. До этого компьютеры хорошо справлялись с такими играми, как шахматы и го, но найти решение для Куба было гораздо сложнее. ИИ научился играть и побеждать в этих настольных играх с помощью системы положительного подкрепления. Когда машина делала правильный ход, она вознаграждалась за правильные действия, тем самым получая сигнал, что играет успешно.
