Онлайн книга
Примечания книги
1
Грейф А. Институты и путь к современной экономике: уроки средневековой торговли. – М.: Издательский дом ВШЭ, 2018. С. 129–131.
2
Кондратьев Н. Д. Большие циклы конъюнктуры и теория предвидения. Избранные труды. – М.: Экономика, 2002.
3
Глазьев С. Ю. Теория долгосрочного технико-экономического развития. – М.: ВлаДар, 1993.
4
Тоффлер Э. Третья волна. – М.: АСТ, 2004.
5
Всюду в этой книге мы будем пользоваться приблизительными величинами, не гонясь за точностью. Обычными будут оценки с точностью до порядка, в которых 10n ~ 0,3 ÷ 3 × 10n.
6
Одна метрическая л. с. равна 735 Вт. С такой мощностью лошадь способна трудиться в течение 8-часового рабочего дня. При этом дневной рацион лошади (около 13 кг сена) = 45 000 ккал/день = 2,2 кВт, то есть ее рабочий КПД составляет примерно 33 %, а с учетом отдыха – втрое меньше. Для неспешно передвигающегося человека рабочий КПД равен 40 % (при мощности спокойной ходьбы 60 Вт). Иными словами, человек перерабатывает свою пищу эффективнее лошади, что неудивительно с учетом разницы в качестве пищи. Зато удельная мощность лошади больше, так как она мощнее нас в 12 раз, а весит всего в 7 раз больше.
7
Бродель Ф. Материальная цивилизация, экономика и капитализм, XV–XVIII вв. – М.: Весь мир, 2011.
8
Древесина – 3500 ккал/кг, уголь – 7000 ккал/кг, нефть/газ – 9500 ккал/кг.
9
Macaulay V. et al. (2005) Single, Rapid Coastal Settlement of Asia Revealed by Analysis of Complete Mitochondrial Genomes. Science 308(5724): 1034–1036.
10
Общий объем «жадных» до энергии органов – сердца, печени, ЖКТ и мозга – лимитирован, так что мозг мог вырасти только за счет сокращения желудочно-кишечного тракта, так как и сердце, и печень пропорциональны объему остального тела.
11
Herculano-Houzel S. (2016) The Human Advantage: A New Understanding of How Our Brain Became Remarkable. Cambridge: MIT Press.
12
Dunbar R. I. M. (1992) Neocortex Size as a Constraint on Group Size in Primates. Journal of human evolution 22(6): 469–493.
13
Rito T. et al. (2019) A dispersal of Homo Sapiens from Southern to Eastern Africa Immediately Preceded the Out-of-Africa Migration. Scientific reports 9(1): 1–10.
14
Харари Ю. Н. Sapiens. Краткая история человечества. – М.: Синдбад, 2016.
15
Даймонд Д. Ружья, микробы и сталь: судьбы человеческих обществ. – М.: АСТ, 2010.
16
Война и военное дело / Под ред. В. Н. Левичева. – М.: Государственное военное издательство, 1933.
17
Пашинский В. Пространственно-временная динамика человеческих сообществ разного масштаба. – М.: Товарищество научных изданий КМК, 2011.
18
Список стран по длине водных путей (https://ru.wikipedia.org/wiki/).
19
При рационе 13 кг/день за 365 дней лошади требуется 5 т сена.
20
Технические данные парусника «Седов» (http://www.sts-sedov.info/rus/istoriya/teh_dannye/).
21
Парусные корабли мира (http://sailhistory.ru/zarozhdenie-gollandskogo-flota-v-xvi-xvii-vv.html).
22
150 + 60 = 210 Вт при неолите против 60 Вт при палеолите.
23
Если принять для оценки современный среднемировой уровень теплоснабжения 0,4 кВт/чел. (1,2 × 104 MДж/чел. в год). Учитывая теплотворную способность дров 15 × 103 MДж/т, для отопления требуется 0,8 т, или около 1 м3 дров/чел. в год.
24
Годовой прирост леса (https://ru-ecology.info/term/2978/).
25
Площадь вокруг города радиусом 20 км (πR2 = 1200 км2 = 120 000 га) делится на пашню (30 000 га), луг (60 000 га) и лес (30 000 га). При плотности 2 чел./га пашни/леса получаем население 60 000 чел.
26
Более того, движение европейской цивилизации от Средиземноморья на север Европы было вызвано не в последнюю очередь истощением южных лесов (см.: Эткинд А. М. Природа зла. Сырье и государство. – М.: Новое литературное обозрение, 2020. С. 40).
27
Британский линейный корабль XVIII века требовал 4000 дубовых стволов, или 40 га зрелого леса. А в 1850 году уголь давал Англии столько энергии, сколько давал бы лес на 150 % ее территории (см.: Эткинд А. М. Природа зла. Сырье и государство. – М.: Новое литературное обозрение, 2020. С. 45).
28
Первую промышленную революцию подготовила предшествовавшая ей «нулевая» промышленная революция в Нидерландах, развивших промышленную технологию кораблестроения в производственных кластерах (см.: Щедровицкий П. Г. Три индустриализации России. – М.: Terra Fantastica, 2018).
29
Сеть современных автодорог (70 млн км) в 100 раз больше протяженности судоходных водных путей.
30
Римский клуб – международная общественная организация, созданная в 1968 году для привлечения внимания к глобальным мировым проблемам.
31
Медоуз Д. Х., Рандерс Й., Медоуз Д. Л. Пределы роста. 30 лет спустя. – М.: Академкнига, 2007.
32
Математические модели динамики численности населения Земли (http://csef.ru/ru/politica-i-geopolitica/326/matematicheskie-modeli-dinamiki-chislennosti-naseleniya-zemli-7997).
33
Шваб К. Четвертая промышленная революция. – М.: Эксмо-Пресс, 2018.
34
Foerster H. von, Mora P. M., Amiot L. W. (1960) Doomsday: Friday, 13 November, AD 2026. Science 132(3436): 1291–1295.
35
Напомним, что сложность социальной системы сообщества тоже растет квадратично с его размером – по числу возможных связей. Логично, что количество знаний, требующихся для управления, должно соответствовать сложности управляемой системы.
36
Имеются и более точные методики подсчета и сравнения сложности экономик разных стран. См.: Hidalgo C., Hausmann R. (2009) The Building Blocks of Economic Complexity. Proceedings of the National Academy of Sciences 106(26): 10570–10575.
37
Фактически объем мозга современного человека даже несколько меньше, чем у первых Homo sapiens, так как человечество само себя «одомашнило», и цивилизованная жизнь уже не предъявляет таких высоких требований к нашему мозгу.
38
Первоначально он был сформулирован Муром для числа транзисторов на кристалле, но аналогичным образом росли очень многие параметры компьютеров. Мы предпочитаем формулировку в терминах компьютерных мощностей, так как именно она имеет значение с точки зрения экономики.
39
А именно: запомненная системой информация есть двоичный логарифм числа возможных состояний системы. В случае современных устройств памяти, состоящих из большого числа независимых однотипных ячеек, каждая из которых может находиться в одном из двух состояний, объем памяти в битах равен просто числу таких двоичных ячеек.
40
Lennie P. (2003) The Cost of Cortical Computation. Current biology 13(6): 493–497.
41
Howarth C., Gleeson P., Attwell D. (2012) Updated Energy Budgets for Neural Computation in the Neocortex and Cerebellum. Journal of Cerebral Blood Flow & Metabolism 32(7): 1222–1232.
42
Более точная оценка разнообразия паттернов – число сочетаний но мы предпочитаем интуитивно понятные качественные оценки с точностью до порядка величин.
43
FLOPS – Floating point operations per second (операции с действительными числами в секунду). 1 FLOPS = 2÷8 байт/с в зависимости от точности вычислений.
44
Dehaene S. (2014) Consciousness and the Brain: Deciphering How the Brain Codes our Thoughts. London: Penguin.
45
Яглом А. М., Яглом И. М. Вероятность и информация. – М.: Наука, 1973.
46
Умножив объем всех накопленных знаний на среднюю частоту срабатывания нейронов в мозге, с которой он их сканирует (альфа-ритм), получим 1011 байт/с – вычислительную мощность сознательного мышления, меньшую, но близкую к общей вычислительной мощности мозга 1011 FLOPS.
47
Brown T. et al. (2020) Language Models are Few-Shot Learners (https://arxiv.org/abs/2005.14165/).
48
Феллер В. Введение в теорию вероятностей и ее приложения. В 2 т. Т. 1. – М.: РИПОЛ классик, 2013.
49
После появления компьютерных сетей и последующего перехода всех средств связи на цифру сформировался единый сектор информационно-компьютерной техники – ИКТ. Сегодня стоимость чипов в коммутаторах и маршрутизаторах на линиях связи превышает стоимость чипов в самих компьютерах.
50
Trends in the cost of computing (https://aiimpacts.org/trends-in-the-cost-of-computing/).
51
Оценка рынка компьютеров в $300 млн в 1950 году, в эпоху их штучного изготовления по госзаказам, до начала коммерческого производства в 1953 году, получена с учетом предполагаемого выпуска 10 компьютеров в год стоимостью $3 млн за штуку ($30 млн в 2020 году) каждый.
52
Гроув Э. Выживают только параноики: как использовать кризисные периоды, с которыми сталкивается любая компания. – М.: Альпина Паблишер, 2004.
53
Название метода обратной прогонки появилось вследствие именно такой организации вычислений до электронной эпохи.
54
В СССР первые ЭВМ появились в 1953 году, с отставанием в 8 лет, и все расчеты термоядерной бомбы выполнялись вручную девушками-вычислителями. К 1967 году с появлением отечественных БЭСМ-6 это отставание было практически ликвидировано, но из-за выбранной советским руководством стратегии копирования американской вычислительной техники с середины 1970-х годов технологическое отставание электронной промышленности СССР начало катастрофически нарастать, и сегодня Россия занимает лишь 0,3 % мирового рынка электроники – на порядок ниже доли России в мировом ВВП.
55
Cortada J. W. (2018) Change and Continuity at IBM: Key Themes in Histories of IBM. Business History Review 92(1): 117–148.
56
Ее создание оценивается в $5 млрд в 1960 году ($45 млрд по современным ценам). Cortada J. W. (2018) Change and Continuity at IBM: Key Themes in Histories of IBM. Business History Review 92(1): 117–148.
57
Всего PDP-11 было продано 600 000 штук, а более дорогих VAX – более 400 000 штук, начиная с 1978 года.
58
Со своими 2300 транзисторами микропроцессор Intel 4004 уже не уступал по вычислительной мощности ENIAC.
59
30 кадров/с с разрешением 320 × 200 пикселей = 2 × 106 FLOPS.
60
Этому также способствовал переход с шерсти на хлопок, поскольку растительные белки на порядок дешевле животных: 1 га земли дает в 12 раз больше хлопка, чем шерсти (см.: Эткинд А. М. Природа зла. Сырье и государство. – М.: Новое литературное обозрение, 2020. С. 365).
61
Chollet F. (2019) On the Measure of Intelligence (https://arxiv.org/abs/1911.01547/).
62
На чем зарабатывает Google помимо рекламы? (https://marketinfo.pro/news/na-chem-zarabatyvaet-google-pomimo-reklamy).
63
US Productivity Growth 1995–2000, Understanding the Contribution of Information Technology Relative to Other Factors. McKinsey Global Institute, October 2001.
64
Раннее появление автономных автомобилей в качестве первых ласточек будущего рынка роботов связано с относительной простотой управления ими – всего две степени свободы: угол поворота и ускорение. Иными словами, ключевой технологией автономного транспорта оказалось именно машинное зрение.
65
Muro M., Maxim R., Whiton J. (2019) Automation and Artificial Intelligence. How Machines are Affecting People and Places. Brookings.
66
Разновидностью такого решения является введение гарантированного базового дохода, который проще администрировать, чем описанный выше налог на роботов. Другую альтернативу – наращивание долгов беднеющего населения – мы наблюдали в США с конца 1970-х одновременно с массовым оттоком рабочих мест в Китай и ЮВА, своего рода репетицию будущей массовой ИИ-безработицы.
67
Очень показателен в этом плане британский сериал «Захват» («The Capture»), где власти используют технологию DeepFake для коррекции видеоматериалов с камер слежения в интересах следствия.
68
В США на июль 2021 года назначен показательный воздушный бой живого летчика с полностью автономным беспилотным истребителем.
69
Buterin V., Hitzig Z., Weyl E. G. Liberal Radicalism: a Flexible Design for Philanthropic Matching Funds. Available at SSRN: https://ssrn.com/abstract=3243656 (December 2018).
70
Грейф А. Институты и путь к современной экономике: уроки средневековой торговли. – М.: Издательский дом ВШЭ, 2018.
71
Там же. С. 55.
72
Назаретян А. П. Цивилизационные кризисы в контексте Универсальной истории. – М.: Мир, 2004.
73
Назаретян А. П. Нелинейное будущее: сингулярность XXI века как элемент Мегаистории // Век глобализации. 2015. № 2. С. 18–34.
74
On Defining Artificial Intelligence (Special Issue) (2020). Journal of Artificial General Intelligence 11(2): 1–99.
75
Wang P. (2019) On Defining Artificial Intelligence. Journal of Artificial General Intelligence 10(2): 1–37.
76
Анохин К. В. Последний великий рубеж наук о жизни // Экономические стратегии. 2010. Т. 12. № 11. С. 56–63.
77
Kotseruba I., Tsotsos J. K. (2020) 40 Years of Cognitive Architectures: Core Cognitive Abilities and Practical Applications. Artificial Intelligence Review 53(1): 17–94.
78
Hassabis D. et al. (2017) Neuroscience-inspired Artificial Intelligence. Neuron 95(2): 245–258.
79
Marblestone A. H. et al. (2016) Toward an Integration of Deep Learning and Neuroscience. Frontiers in Computational Neuroscience 10: 94.
80
On Defining Artificial Intelligence (Special Issue) (2020). Journal of Artificial General Intelligence 11(2): 1–99.
81
Russell Stuart J., Norvig P. (2009) Artificial Intelligence: A Modern Approach. Englewood Cliffs: Prentice Hall.
82
«Intelligence is the rate at which a learner turns its experience and priors into new skills at valuable tasks that involve uncertainty and adaptation» (см.: Chollet F. (2019) On the Measure of Intelligence. arXiv preprint arXiv:1911.01547).
83
Так, априорные знания о существовании предметов ускоряют машинное обучение играм «Атари» в тысячи раз (см.: Agnew, W., Domingos, P. (2020) Self-Supervised Object-Level Deep Reinforcement Learning. https://arxiv.org/abs/2003).
84
Dobzhansky T. (1973) Nothing in Biology Makes Sense Except in the Light of Evolution. The American Biology Teacher 35(3): 125–129.
85
. Сеченов И. М. Элементы мысли. – СПб.: Питер, 2001. С. 230.
86
Выготский Л. С. Мышление и речь / 5-е изд., испр. – М.: Лабиринт, 1999. С. 320.
87
Анохин П. К. Очерки по физиологии функциональных систем. – М: Медицина, 1975.
88
Bengio Y. From System 1 Deep Learning to System 2 Deep Learning. In: Thirty-third Conference on Neural Information Processing Systems, 2019 (https://neurips.cc/Conferences/2019).
89
Albus J.S. (1971) A theory of cerebellar function. Mathematical biosciences 10(1–2): 25–61.
90
Tsodyks M. (1999) Attractor neural network models of spatial maps in hippocampus. Hippocampus 9(4): 481–489.
91
Hawkins J. (2021) A Thousand Brains: A New Theory of Intelligence. New York: Basic Books
92
Marr D., Poggio T. (1976) From Understanding Computation to Understanding Neural Circuitry. Cambridge: Massachusetts Institute of Technology, Artificial Intelligence Laboratory.
93
Haber S. N. (2016) Corticostriatal Circuitry. Dialogues in Clinical Neuroscience 18(1): 7–21.
94
Herculano-Houzel S. (2016) The Human Advantage: A New Understanding of How our Brain Became Remarkable. Cambridge: MIT Press.
95
Шумский С. А. Машинный интеллект. Очерки по теории машинного обучения и искусственного интеллекта – М.: РИОР, 2019.
96
«В настоящее время все существующие методы иерархического планирования опираются на сгенерированные человеком иерархии абстрактных и конкретных действий. Мы еще не понимаем, как такие иерархии могут быть получены путем обучения» (см.: Рассел С. Совместимость. Как контролировать искусственный интеллект. – М.: Альпина нон-фикшн, 2021.).
97
Например, с помощью кинематической модели крысиного тела (см.: Merel J. et al. (2019) Deep Neuroethology of a Virtual Rodent. arXiv preprint arXiv:1911.09451).
98
Brown T. B. et al. (2020) Language Models are Few-Shot Learners (https://arxiv.org/abs/2005.14165).
99
Russell S. et al. (2015) Ethics of Artificial Intelligence. Nature 521(7553): 415–416.
100
Human Brain Project (https://www.humanbrainproject.eu/en/science/overview/).
101
Kaiser J. Senate bill would give NIH $3 billion in 2020, or 7.7 % boost (https://www.sciencemag.org/news/2019/09/senate-bill-would-give-nih-3-billion-2020-or-77-.boost).
102
Notes from the AI Frontier: Modeling the Impact of AI on the World Economy. McKinsey Global Institute, 2018.
103
Карелов С. Впереди ИИ-национализм и ИИ-национализация (https://russiancouncil.ru).
104
Рассел С. Совместимость. Как контролировать искусственный интеллект. – М.: Альпина нон-фикшн, 2021.
105
Urban T. The AI Revolution: Our Immortality or Extinction (https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html).
106
Surowiecki J. (2004) The Wisdom of Crowds: Why the Many are Smarter than the Few and How Collective Wisdom Shapes Business, economies, societies and nations. Doubleday & Co.
107
На самом деле основные вычислительные мощности сосредоточены в специализированных процессорах GPU, TPU и ASIC и удваиваются каждые 12 месяцев (см.: https://en.wikipedia.org/wiki/Technological_singularity).
108
Muehlhauser Muehlhauser L. The world’s Distribution of Computation (Initial Findings) (https://intelligence.org/2014/02/28/the-worlds-distribution-of-computation-initial-findings/).
109
Koomey J., Naffziger S. (2016) Energy Efficiency of Computing: What’s next. Electronic Design 28 Nov. (https://www.electronicdesign.com/technologies/microprocessors/article/21802037/energy-efficiency-of-computing-whats-next).
110
Заметим, что достижение предела вычислительной мощности еще не означает стагнации ИИ, так как эти мощности будут использоваться для постоянного приращения знаний.
111
Sánchez-Bayo F., Wyckhuys K. A. G. (2019) Worldwide Decline of the Entomofauna: A Review of Its Drivers. Biological conservation 232: 8–27.
112
Уже сегодня суммарное число приложений на платформах Google, Apple, Windows и Amazon приближается к 10 млн.
113
Сегодня на возобновляемую энергетику приходится 2/3 вводимых мощностей и 3/4 инвестиций в энергетику. См.: «Перспективы глобального перехода к возобновляемой энергетике», REN21, 2019 (https://www.ren21.net/wp-content/uploads/2019/05/1900916_GSR_2019_Perspectives_Russian.pdf).
114
Сегодня доля промышленных роботов относительно работников-людей на производстве составляет в среднем по миру около 1 % и достигает 3–7 % в наиболее роботизированных экономиках Южной Кореи, Сингапура, Японии и Германии.
115
Этот алгоритм обучения коллективного разума практически идентичен обучению методом обратного распространения ошибки (error back propagation) в искусственных нейросетях.
116
Ng A. Y. et al. Algorithms for inverse reinforcement learning (https://ai.stanford.edu/~ang/papers/icml00-irl.pdf).
117
Риццолатти Д., Синигалья К. Зеркала в мозге. О механизмах совместного действия и сопереживания. – М.: Языки славянских культур, 2012.
118
Харари Ю. Н. Sapiens. Краткая история человечества. – М.: Синдбад, 2017.
119
Лю Цысинь. Задача трех тел. – М.: Эксмо, 2017.
120
Urban T. The AI Revolution: The Road to Superintelligence (https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html).
121
Рассел С. Совместимость. Как контролировать искусственный интеллект. – М.: Альпина нон-фикшн, 2021.