Глава 6
Будущая человеко-машинная цивилизация
Бог – это то, чем становится разум, когда выходит за масштаб нашего восприятия.
ФРИМЕН ДАЙСОН
При всем моем безудержном технологическом оптимизме иногда я думаю, что мне спокойней было бы наблюдать эти переходные события с расстояния в тысячу лет… а не в двадцать.
ВЕРНОР ВИНДЖ
Горизонты предсказаний
Напомним, что в нашем понимании искусственный интеллект является замыкающей технологией цифрового технологического пакета, с появлением которой начинается лавинообразный переход на новый технологический уклад. Эволюция цифровых технологий за последние 75 лет была лишь прелюдией, развитием отдельных островков цифровой экономики. Появление ИИ знаменует собой фазовый переход, слияние этих отдельных островков в единый цифровой континент, в котором будут постепенно «усыхать» озера старого уклада. Переход объясняется тем, что ИИ снимает ограничение на скорость роста знаний у машин при переходе от ручного программирования к автоматическому порождению программ самими машинами за счет машинного обучения.
На рис. 18a и 18b показаны ключевые характеристики человеческого и машинного мышления – вычислительная мощность и количество знаний. Из них следует, что в 2010-х годах вычислительные мощности компьютеров уже превзошли человеческие, но объем знаний в головах людей по-прежнему на порядки превышает объем созданного до сих пор компьютерного кода. Однако с появлением машинного обучения скорость набора знаний машинами кардинально увеличивается, и в какой-то момент машинные знания неизбежно превзойдут человеческие.
Соответственно, мы можем разделить будущее на три этапа:
● доминирование людей, пока объем наших знаний намного превышает машинные знания;
● человеко-машинная цивилизация, когда вклад людей и машин сопоставим между собой;
● доминирование машин, когда объем знаний машин намного превышает человеческие знания.
Конкретные временные рамки для каждого из этих этапов нам, естественно, неизвестны, так что мы обозначим лишь их примерные ориентиры. Прежде всего, если компьютерные мощности будут полностью загружены обучением, притом что они суммарно превосходят человеческие, то достижение машинным интеллектом человеческого уровня займет меньше времени, чем одно поколение людей. Действительно, согласно опросам множества экспертов в области ИИ, медианный прогноз даты создания ИИ человеческого уровня – 2040 год, а формирования ИИ сверхчеловеческого уровня – 2060-й
[105].
Возьмем эти даты в качестве некоторого ориентира, памятуя про известный со времен Фрэнсиса Гальтона принцип «мудрости толпы»
[106].
Но прежде всего мы должны выяснить, достаточно ли у человечества запасов базового ресурса цифровой экономики и не является ли известное замедление действия закона Мура в последние годы препятствием на пути к сверхчеловеческому разуму.
Ограничения на рост вычислительных мощностей
До сих пор движущей силой цифровой революции был экспоненциальный рост вычислительных мощностей – закон Мура в широком понимании. Да, уменьшение размеров транзисторов (закон Мура в узком понимании) уже практически достигло своих физических пределов, и тактовые частоты процессоров давно не растут. Но ведь в эпоху сетевых вычислений по большому счету важна не производительность отдельного процессора, а суммарная вычислительная мощность всех процессоров. И основным ограничительным фактором для нее оказывается суммарная мощность электроэнергии, потребляемая вычислениями. Потому что энергетика – это не цифровая отрасль и она не может расти со скоростью, соответствующей закону Мура. Если суммарная вычислительная мощность CPU удваивается за полтора года
[107], то производство энергии – за 30 лет. Как говорится, почувствуйте разницу!
Итак, основным ограничивающим фактором роста вычислительных мощностей – основы цифрового уклада – является энергия. Сегодня на вычисления тратится примерно 1011 Вт – около 5 % всей электроэнергии
[108]. Эту долю, вероятно, еще можно нарастить, но не на порядки. Так что основным резервом для роста вычислительных мощностей остается повышение энергоэффективности вычислений, которая на протяжении десятилетий удваивалась каждые полтора года, то есть за 5 лет увеличивалась в 10 раз
[109]. С таким темпом вычислительные мощности могут расти еще лет 40 до достижения физического предела энергоэффективности (предел Ландауэра: kТ/ бит, где Т – абсолютная температура, а k – постоянная Больцмана, или 3 × 10–21 Дж/бит при комнатной температуре).
Допустим, что к этому времени компьютеры будут потреблять 3 × 1011 Вт – втрое больше, чем сегодня, за счет роста энергетики и доли вычислений в потреблении энергии. Тогда для вычислительной мощности компьютеров получим следующую оценку: 3 × 1011 Вт/3 × 10–21 Дж/бит = 1032 бит/с ≈ 1031 FLOPS.
Это на 10 порядков больше совокупной биологической вычислительной мощности людей (см. рис. 18а). Так что физических ограничений для достижения ИИ сверхчеловеческого уровня на нашем горизонте предсказаний мы не видим
[110].
Основной тренд: бережливая экономика
Следующий вопрос, который мы должны себе задать: в каком направлении будет развиваться экономика? Ведь смена уклада – это всегда ответ на глобальный кризис, решение на новой технологической основе проблем, неразрешимых при старом укладе.
