Одинцов узнал Бориса по фотографии, а когда модератор перечислил его титулы – почувствовал досаду, смешанную с ревностью. Ева могла бы предупредить, но побоялась, что научные заслуги бывшего мужа вызовут комплексы у простого вояки. Одинцов насупился – и со злорадной ухмылкой отметил, что Борис подражает Стиву Джобсу: он был одет в лёгкий чёрный свитер, голубые джинсы и серые кроссовки.
Борис уселся в кресло по левую сторону, а модератор вызвал на сцену второго гостя, играя голосом и растягивая гласные с интонацией ринг-анонсера, который представляет публике чемпиона мира по боксу.
– Мистер Дилан Мэй!
Одинцову это имя ничего не говорило, но зал взорвался аплодисментами. Модератор объявил спикера выдающимся теоретиком в области вычислительных систем. К удовольствию Одинцова, регалий у Мэя оказалось ощутимо больше, чем у Бориса.
Телевизионные экраны крупным планом показали учёного, который занял кресло в правом углу ринга и закинул ногу на ногу. Это был улыбчивый старик лет восьмидесяти, с мужественным загорелым лицом, густым не по возрасту пепельным чубом и седыми усами. Свободная тёмно-лиловая рубаха, из распахнутого ворота которой выглядывала белая футболка; бесформенные мягкие брюки и растоптанные мокасины делали его похожим на пенсионера из деревни, а не легенду компьютерного мира.
– Готов поспорить, что знаю, почему сегодня здесь аншлаг, – сказал модератор. – Вы не просто пришли посмотреть на знаменитостей. Вас, как и меня, беспокоит… я специально выучил термин… технологическая сингулярность! Неумолимо приближается момент, когда уровень сложности техники выйдет за пределы человеческого понимания и люди уже не смогут управлять прогрессом: он пойдёт сам по себе, как ему вздумается. В конце прошлого века было предсказано, что такая сингулярность наступит к две тысячи тридцатому году. Позже аналитики сжалились и отодвинули срок ещё почти на двадцать лет, но не отменили самой угрозы…
…а угроза эта исходит от искусственного интеллекта. Число параметров нейронных сетей каждый год увеличивается на порядок и уже намного превысило десять миллиардов. Объём вычислений, используемых ими для тренировки, каждые три месяца возрастает вдвое.
Что это? Сверхстремительное развитие искусственного интеллекта и закат человеческой цивилизации – или движение процесса по инерции? Ведь количественные показатели нейросетей растут намного быстрее качества, и до появления универсального искусственного разума пока ещё далеко.
– А чем так страшен или хорош этот нечеловеческий разум? – спросил модератор и сам же ответил: – Тем, что он или уничтожит нас, или сделает бессмертными. И на этой мажорной ноте я передаю слово учёным.
31. Про человеческие взгляды на нечеловеческое
Сходство сцены с боксёрским рингом провоцировало спикеров, но встреча Бориса и Дилана Мэя не превратилась в интеллектуальный мордобой. Это был взаимно уважительный обмен мнениями на заявленную тему, разве что мнения противоречили друг другу, а Борис выступал намного более эмоционально, чем его именитый собеседник.
Поначалу разногласий было немного. Спикеры рассуждали о том, что искусственный интеллект способен решать задачи колоссального масштаба. У человечества благодаря новым технологиям и возможностям есть два пути: либо эволюция, либо глобальная катастрофа по тому или иному сценарию. Путь, который будет избран, зависит от того, кому удастся оседлать технологическую сингулярность.
– Давайте вспомним, что в доиндустриальных обществах рост населения и его потребностей опережали рост производства продуктов, – говорил Мэй. – Этот феномен получил название мальтузианской ловушки. Но современный прогресс оставляет нам некоторые надежды…
– Давайте представим, что прогресс остановился, – рассуждал Борис. – Новые технологии больше не появляются и не позволяют разрабатывать новые ресурсы. А имеющиеся ресурсы конечны, и существующие технологии исчерпают их за сто лет. На безнадёжно загрязнённой планете наступит коллапс…
– Остановить прогресс невозможно, – говорил Мэй, – его можно разве что сориентировать. Поскольку человек желает управлять информацией, веществом и природой, прогресс движется в направлениях развития искусственного интеллекта, нанотехнологий и биотехнологий. Неуклюжие действия в любой из этих трёх областей способны заметно ускорить печальный конец человечества. Про создание новых материалов с новыми свойствами или попытки продления человеческой жизни я знаю не так много. Зато насчёт искусственного интеллекта за последние лет шестьдесят у меня накопились кое-какие соображения. Надеюсь, они покажутся вам интересными…
– Я достаточно долго участвую в разработках искусственного интеллекта и без ложной скромности говорю о блестящих успехах в этой области, – заявил Борис. – Простой пример: в течение короткого времени компьютерные программы научились обыгрывать чемпионов мира не только в шахматы, но и в китайские шашки го, которые намного сложнее шахмат. Почему это так важно? Потому что принятие эффективных стратегических решений невозможно запрограммировать – его можно только натренировать. Искусственный интеллект играл сам с собой, анализировал ошибки и совершенствовал алгоритмы. Бессчётное число сыгранных партий сделало уровень мастерства программы недосягаемым для человека. То же касается и множества других областей, где искусственный интеллект вчистую выигрывает у человеческого…
– По моему скромному мнению, есть разница между мастерством и перебором вариантов, – парировал Мэй. – Здесь узкоспециальная компьютерная программа превосходит способности человека. Но это ничего не говорит о превосходстве искусственного интеллекта над человеческим. Это соревнование в примитивных комбинаторных решениях. Программу для игры в крестики-нолики я написал на первом курсе, когда большинства из присутствующих в зале ещё на свете не было. А сейчас, если уж на то пошло, надо сперва определиться с терминами. О чём вообще у нас идёт речь?
Борис не почувствовал подвоха.
– Охотно напомню, что термин искусственный интеллект в тысяча девятьсот пятьдесят шестом году предложил Джон Маккарти, – сказал он. – А интеллектуальную функцию он определял как вычислительную составляющую способности достигать целей. То есть речь у нас идёт про создание интеллектуальных компьютерных программ.
Не переставая улыбаться, Мэй поблагодарил Бориса за справку и заметил:
– Я имел в виду несколько другое. С компьютерными программами как раз всё довольно просто. Алан Тьюринг придумал свой тест в пятидесятом году – ещё до появления термина искусственный интеллект. Как все здесь, без сомнения, помнят, тест Тьюринга проверяет, разумен ли компьютер. Вернее, он позволяет определить, насколько успешно компьютер при помощи заложенной в него программы имитирует человеческое мышление…
Память – коварная штука. Сегодня всем известны программы распознавания лиц, но мало кто помнит, что ещё в семьдесят пятом году тем же самым благополучно занималась нейронная сеть «Когнитрон», способная к самоорганизации. Сегодня владельцы смартфонов пользуются голосовыми помощниками и считают их последним достижением техники, но программа «Элоиза» успешно поддерживала диалог с собеседником в шестьдесят шестом году. А ещё на десять лет раньше – в пятьдесят шестом – на заводах General Motors доставку деталей на конвейер начали выполнять компьютеризированные роботы, которые мало чем отличались от современных роботов на складах компании Amazon.
