Примечания книги Искусственный разум и новая эра человечества. Автор книги Генри Киссинджер, Дэниел Хаттенлокер, Эрик Шмидт

1

. https://www.privateequitywire.co.uk/2020/11/19/292458/ai-startups-raised-usd734bn-total-funding-2020, ссылка проверена 1 марта 2022 г.

2

Mike Klein, «Google's AlphaZero Destroys Stockfish In 100-Game Match», Chess.com (6 декабря 2017 г.), https://www.chess.com/news/view/google-s-alphazero-destroys-stockfish-in-100-game-match. Pete, «AlphaZero Crushes Stockfish In New 1,000-Game Match», Chess.com (17 апреля 2019 г.), https://www.chess.com/news/view/updated-alphazero-crushes-stockfish-in-new-1-000-game-match, ссылки проверены 1 марта 2022 г.

3

«Step 1: Discovery and Development», сайт Управления США по санитарному надзору за качеством пищевых продуктов и медикаментов (4 января 2018 г.), https://www.fda.gov/patients/drug-development-process/step-1-discovery-and-development, ссылка проверена 1 марта 2022 г.

4

Jo Marchant, «Powerful Antibiotics Discovered Using AI», Nature (20 февраля 2020 г.), https://www.nature.com/articles/d41586-020-00018-3, ссылка проверена 1 марта 2022 г.

5

Слово «артилект», очевидно, означает ИИ. – Прим. пер.

6

Raphaël Millière (@raphamilliere), «I asked GPT-3 to write a response to the philosophical essays written about it…» (31 июля 2020 г.), https://twitter.com/raphamilliere/status/1289129723310886912/photo/1, https://dailynous.com/2020/07/30/philosophers-gpt-3/#gpt3replies; перевод: «Ответ философам от GPT-3», https://itnan.ru/post.php?c=1&p=520688, ссылки проверены 1 марта 2022 г.

7

Richard Evans, Jim Gao, «DeepMind AI Reduces Google Data Centre Cooling Bill by 40 %», DeepMind (20 июля 2016 г.), https://deepmind.com/blog/article/deepmind-ai-reduces-google-data-centre-cooling-bill-40, ссылка проверена 1 марта 2022 г.

8

Will Roper, «AI Just Controlled a Military Plane for the First Time Ever», Popular Mechanics (16 декабря 2020 г.), https://www.popularmechanics.com/military/aviation/a34978872/artificial-intelligence-controls-u2-spy-plane-air-force-exclusive, ссылка проверена 1 марта 2022 г.

9

Гиббон Э. История упадка и разрушения Великой Римской империи: Закат и падение Римской империи: В 7 т. Т. 1. М.: ТЕРРА – Книжный клуб, 2008.

10

Рубежом, отмечающим окончание Средних веков в XV в., помимо падения Константинополя называют также изобретение книгопечатания Иоганном Гутенбергом, открытие Америки Христофором Колумбом и другие вехи. – Прим. пер.

11

Впрочем, такой подход был в новинку только для Запада. В некоторых странах аналогичные исследования национальных интересов и методов их достижения появились значительно раньше – китайское «Искусство войны» датируется V в. до н. э., индийская «Артхашастра», вероятно, появилась примерно в то же время.

12

Немецкий философ начала XX в. Освальд Шпенглер назвал этот аспект западного мировосприятия «фаустовским» обществом, стремящимся к территориальной экспансии и неограниченному знанию. Как следует из названия его главной работы «Закат Европы», Шпенглер считал, что этот культурный импульс, как и любые другие, имеет свои пределы – в данном случае определяемые историческими циклами.

13

Ernst Cassirer, в переводе на англ. Fritz C. A. Koelln, James P. Pettegrove, «The Philosophy of the Enlightenment», Princeton, NJ: Princeton University Press.

14

Восточные культуры пришли к аналогичному пониманию ранее – буддизм, индуизм и даосизм считали, что человеческий опыт реальности субъективен и относителен.

15

Спиноза Б. Избранные произведения в 2 т. М.: Государственное издательство политической литературы, 1957.

16

Сегодня Кенигсберг – это российский город Калининград.

17

Кант И. Критика чистого разума. М.: Мысль, 1994.

18

Guyer and Wood, «Introduction to the Critique of Pure Reason».

19

Божественное Кант также помещал за пределы сферы человеческого теоретического разума, оставляя место для «веры».

20

Как ее называл У. Черчилль. – Прим. пер.

21

Charles Hill, «Grand Strategies: Literature, Statecraft, and World Order», New Haven: Yale University Press, 2011 г.

22

Витгенштейн Л. Философские исследования. М.: АСТ, 2018.

23

Кант И. К вечному миру. Например: http://history.pstu.ru/wp-content/uploads/2013/04/files_File_Kant_K_vechnomu_miru.pdf, ссылка проверена 1 марта 2022 г.

24

Шмидт Э. Новый цифровой мир. Как технологии меняют жизнь людей, модели бизнеса и понятие государств. М.: Манн, Иванов и Фербер, 2013.

25

Тьюринг А. Вычислительные машины и разум. М.: АСТ, 2018.

26

Существуют и другие версии мифа о происхождении Талоса. – Прим. пер.

27

В частности, поиск будущих возможных или исключенных ходов методом Монте-Карло.

28

Фантастическое существо из серии книг Дугласа Адамса «Автостопом по галактике», которое вступает в симбиоз с носителем и телепатическим способом делает для него понятными почти любые чужие языки. – Прим. пер.

29

James Vincent, «Google 'fixed' its racist algorithm by removing gorillas from its image-labeling tech», The Verge (12 января 2018 г.), https://www.theverge.com/2018/1/12/16882408/google-racist-gorillas-photo-recognition-algorithm-ai, ссылка проверена 1 марта 2022 г.

30

James Vincent, «Google's AI thinks this turtle looks like a gun, which is a problem», The Verge (2 ноября 2017 г.), https://www.theverge.com/2017/11/2/16597276/google-ai-image-attacks-adversarial-turtle-rifle-3d-printed, ссылка проверена 1 марта 2022 г.

31

В меньшей степени – Канада и Европа.

32

Интересные параллели можно найти в некоторых исторических событиях. Отдельные примеры взаимодействия централизованной власти и сетей см. в книге: Фергюсон Н. Площадь и башня. Сети и власть от масонов до Facebook. М.: Corpus, 2020.

33

Термин «платформа» имеет множество значений в цифровой сфере. Говоря о сетевой платформе, мы имеем в виду онлайн-сервисы с положительным сетевым эффектом.

34

Статистические данные об удалении контента публикуются ежеквартально. Например: https://transparency.facebook.com/community-standards-enforcement, ссылка проверена 1 марта 2022 г.

35

Cade Metz, «AI Is Transforming Google Search. The Rest of the Web Is Next», Wired (4 февраля 2016 г.) и https://blog.google/products/search/search-on, ссылка проверена 1 марта 2022 г. С тех пор разработки в области ИИ для поиска продолжаются. Некоторые последние достижения описаны в блоге Google, например проверка орфографии, поиск конкретных фраз или отрывков, поиск видео, поиск числовых результатов.

36

Решение о разделении AT&T было принято в 1982 г., официально разделение компании состоялось 1 января 1984 г. – Прим. пер.

37

Легче понять, как работает положительный сетевой эффект, по аналогии с экономией от масштаба. Эффект масштаба позволяет более крупным поставщикам экономить на затратах и снижать цены. Положительные сетевые эффекты влияют не только на стоимость, но и на общую пользу от продуктов и услуг, поэтому обычно они бывают значительно сильнее, чем экономия от масштаба.

38

Kris McGuffie, Alex Newhouse, «The Radicalization Risks Posed by GPT-3 and Advanced Neural Language Models», https://www.middlebury.edu/institute/sites/www.middlebury.edu.institute/files/2020-09/gpt3-article.pdf, ссылка проверена 1 марта 2022 г.

39

. https://www.defenseone.com/technology/2020/10/can-ai-detect-disinformation-new-special-operations-program-may-find-out/168972, ссылка проверена 1 марта 2022 г.

40

Клаузевиц К. О войне. – М.: Эксмо; Мидгард, 2007.

41

Имеется в виду убийство эрцгерцога Франца Фердинанда, наследника австро-венгерского престола, и его жены герцогини Софии Гогенберг в Сараеве сербским гимназистом Гаврилой Принципом 28 июня 1914 г. – Прим. пер.

42

Перевод Б. Гребенщикова. – Прим. пер.

43

Эти тенденции выходят за пределы чисто военных целей. Кай-фу Ли. Сверхдержавы искусственного интеллекта. Китай, Кремниевая долина и новый мировой порядок. – М.: Манн, Иванов и Фербер, 2019; Michael Kanaan, «T-Minus AI: Humanity's Countdown to Artificial Intelligence and the New Pursuit of Global Power», Dallas: BenBella Books, 2020 г.

44

John P. Glennon (ред.), «Foreign Relations of the United States, vol. 19, National Security Policy, 1955–1957», Washington, D.C.: U.S. Government Printing Office, 1990 г. – Раздел «Editorial Note».

45

То есть гарантией ядерного государства по защите государств, не имеющих ядерного оружия. – Прим. пер.

46

Война между КНДР и Республикой Корея 1950–1953 гг. – Прим. пер.

47

Henry A. Kissinger, «Nuclear Weapons and Foreign Policy», New York: Harper & Brothers, 1957 г.

48

Очевидно, имеется в виду советская система «Периметр» – комплекс автоматического управления массированным ответным ядерным ударом. – Прим. пер.

49

Defense Intelligence Agency, «Russia: Military Power – Building a Military to Support Great Power Aspirations», 2017 г., https://info.publicintelligence.net/DIA-RussiaMilitaryPower2017.pdf; Anthony M. Barrett, «False Alarms, True Dangers? Current and Future Risks of Inadvertent U.S. – Russian Nuclear War», 2016 г., https://www.rand.org/content/dam/rand/pubs/perspectives/PE100/PE191/RAND_PE191.pdf, ссылки проверены 1 марта 2022 г.; Хоффман Д. «Мертвая рука»: Неизвестная история холодной войны и ее опасное наследие. – М.: Corpus, 2012.

50

Например, атаки вредоносной программы Petya против украинских финансовых учреждений и государственных организаций в 2017 г. вскоре распространились за пределы Украины – на электростанции, больницы, поставщиков транспортных и логистических услуг, а также энергетические компании в других странах, включая Россию. «Подобно инфекции в кровеносной системе, вредоносное ПО распространилось по глобальным цепочкам поставок», – сенатор Ангус Кинг (Angus King) и представитель Майк Галлахер (Mike Gallagher), «Report of the United States Cyberspace Solarium Commission», март 2020 г.

51

Andy Greenberg, «Sandworm: A New Era of Cyberwar and the Hunt for the Kremlin's Most Dangerous Hackers», New York: Anchor Books, 2020 г.; Fred Kaplan, «Dark Territory: The Secret History of Cyber War», New York: Simon & Schuster, 2017 г.

52

Richard Clarke, Robert K. Knake, «The Fifth Domain: Defending Our Country, Our Companies, and Ourselves in the Age of Cyber Threats», New York: Penguin Books, 2020 г.

53

Например, Department of Defense, «Summary of 2018 Cyber Strategy», https://media.defense.gov/2018/Sep/18/2002041658/-1/-1/1/CYBER_STRATEGY_SUMMARY_FINAL.PDF, ссылка проверена 1 марта 2022 г.

54

Например, Eric Schmidt, Robert Work, et al., «Final Report of the National Security Commission on Artificial Intelligence», 2021 г.; Christian Brose, «The Kill Chain: Defending America in the Future of High-Tech Warfare», New York: Hachette, 2020 г.; Paul Scharre, «Army of None: Autonomous Weapons and the Future of War», New York: W.W. Norton, 2019 г.

55

Will Roper, «AI Just Controlled a Military Plane for the First Time Ever», Popular Mechanics (16 декабря 2020 г.), https://www.popularmechanics.com/military/aviation/a34978872/artificial-intelligence-controls-u2-spy-plane-air-force-exclusive, ссылка проверена 1 марта 2022 г.

56

Например, DoD 2018.1 SBIR Solicitation, «Automatic Target Recognition of Personnel and Vehicles from an Unmanned Aerial System Using Learning Algorithms» (29 ноября 2017 г.); Gordon Cooke, «Magic Bullets: The Future of Artificial Intelligence in Weapons Systems», Army AL&T (июнь 2019 г.).

57

Paul Scharre, «Army of None: Autonomous Weapons and the Future of War», New York: W.W. Norton, 2019 г.

58

Например, The White House, «National Strategy for Critical And Emerging Technologies» (октябрь 2020 г.); Central Committee of the Communist Party of China, «14th Five-Year Plan for Economic and Social Development and 2035 Vision Goals» (март 2021 г.); Xi Jinping, «Strive to become the world's major scientific center and innovation highland» (28 мая 2018 г.); European Commission, «White Paper on Artificial Intelligence: a European approach to excellence and trust» (март 2020 г.).

59

Например, DARPA, «Our Research: Semantic Forensics (SemaFor)» (23 августа 2019 г.) – запрос предложений на технологии автоматического обнаружения, атрибуции и определения характеристик фальсифицированных мультимодальных медиаактивов (текст, аудио, изображение, видео) для защиты от крупномасштабных автоматизированных дезинформационных атак, https://www.grants.gov/web/grants/view-opportunity.html?oppId=319894, ссылка проверена 1 марта 2022 г.; NSCAI Report, 51, «Develop and deploy AI-enabled defenses against cyber-attacks».

60

Например, U.S. Department of Defense Directive 3000.09, «Autonomy in Weapons Systems» (8 мая 2017 г.).

61

Например, NSCAI Report, «DOD Adopts Ethical Principles for Artificial Intelligence» (февраль 2020 г.), https://www.defense.gov/Newsroom/Releases/Release/Article/2091996/dod-adopts-ethical-principles-for-artificial-intelligence; Defense Innovation Board, «AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense», https://admin.govexec.com/media/dib_ai_principles_-_supporting_document_-_embargoed_copy_(oct_2019). pdf, ссылки проверены 1 марта 2022 г.

62

Paul Scharre, «Army of None: Autonomous Weapons and the Future of War», New York: W.W. Norton, 2019 г.

63

Например, Congressional Research Service, «Defense Primer: U.S. Policy on Lethal Autonomous Weapon Systems» (1 декабря 2020 г.), https://crsreports.congress.gov/product/pdf/IF/IF11150, ссылка проверена 1 марта 2022 г.

64

Начальные разработки этих вопросов сделаны в: William J. Perry, Henry A. Kissinger, Sam Nunn, «Building on George Shultz's Vision of a World Without Nukes», Wall Street Journal (23 мая 2021 г.), https://www.wsj.com/articles/building-on-george-shultzs-vision-of-a-world-without-nukes-11616537900, ссылка проверена 1 марта 2022 г.

65

David Autor, David Mindell & Elisabeth Reynolds, «The Work of the Future: Building Better Jobes in an Age of Intelligent Machines» (17 ноября 2020 г.), https://workofthefuture.mit.edu/research-post/the-work-of-the-future-building-better-jobs-in-an-age-of-intelligent-machines, ссылка проверена 1 марта 2022 г.

66

Консервативное религиозное движение, относящееся к так называемому меннонитству и отвергающее многие современные технологии и удобства. – Прим. пер.

67

. https://deepmind.com/blog/article/alphafold-a-solution-to-a-50-year-old-grand-challenge-in-biology, ссылка проверена 1 марта 2022 г.

68

Липпман У. Общественное мнение. – М.: Ин-т фонда «Общественное мнение», 2004.

69

Robert Post, «Participatory Democracy and Free Speech», 2011.

70

«A European approach to artificial intelligence», https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence, ссылка проверена 1 марта 2022 г.

71

David Autor, David Mindell & Elisabeth Reynolds, «The Work of the Future: Building Better Jobes in an Age of Intelligent Machines» (17 ноября 2020 г.), https://workofthefuture.mit.edu/research-post/the-work-of-the-future-building-better-jobs-in-an-age-of-intelligent-machines, ссылка проверена 1 марта 2022 г.

72

National Security Commission on Artificial Intelligence, «The Final Report» (2021 г.), https://www.nscai.gov/2021-final-report, ссылка проверена 1 марта 2022 г.

73

Вильчек Ф. Основы реальности. 10 фундаментальных принципов устройства Вселенной. – М.: Манн, Иванов и Фербер, 2021.

74

От латинского «образ Божий». – Прим. пер.

75

Шпиль средневекового христианского собора символизировал мощь и силу религиозных устремлений его создателей. – Прим. пер.

76

По Декарту – акт мышления. – Прим. пер.

77

J. M. Roberts, «History of the World», New York: Oxford University Press, 1993 г.

78

Художественно-публицистическое произведение, обычно в виде брошюры или статьи. – Прим. пер.

79

Популярный современный политический термин, который обычно толкуют как «порядок в мире, основанный на нормах международного права». – Прим. пер.

80

Кант И. Критика чистого разума. М.: Мысль, 1994.