Онлайн книга
Примечания книги
1
В пер. с англ. — активный ребенок. — Прим. пер.
2
В России выходит под названием «Своя игра». — Прим. ред.
3
Азимов А. Я, робот. — M.: Эксмо, 2005.
4
Насколько мне известно, у названия Busy Child два источника. Первый — письмо английской принцессы Елизаветы беременной Катерине Парр, написанное в 1548 г. Елизавета выражала сочувствие Парр, которая очень плохо себя чувствовала из-за «беспокойного ребенка» и позже умерла при родах. Второй источник — неофициальный онлайн-фанфик на фильмы о Терминаторе. Busy Child в данном случае — ИИ, который вот-вот должен обрести сознание. —Прим. авт.
5
Английские рабочие, протестовавшие в начале XIX в. против появления машин на производстве. — Прим. ред.
6
В апреле 2013 г. студенты факультета Мичиганского университета поучаствовал в устроенном для них «зомби-апокалипсисе» под руководством преподавателя по эпидемиологии. — Прим. ред.
7
Начиная с 2013 г. Конференцию по сингулярности организует Университет сингулярности. — Прим. авт.
8
Рассел С., Норвиг П. Искусственный интеллект. Современный подход. — M.: Вильяме, 2007.
9
Google glasses — очки с дополненной реальностью, имеют полупрозрачный дисплей, камеру и компьютер. Перспективная разработка Google. — Прим. ред.
10
В декабре 2012 г. Рэй Курцвейл занял в Google пост технического директора, чтобы работать над проектами, связанными с машинным обучением и обработкой языка. Это веха на пути создания универсального ИИ, причем отрезвляющая. Цель Курцвейла — обратное проектирование работы мозга, он даже написал об этом книгу «Как создать разум: Тайна человеческой мысли раскрыта» (2012). Теперь в его распоряжении немалые ресурсы Google, которые он сможет использовать для реализации своей мечты. Пригласив уважаемого изобретателя, Google перестал скрывать свои планы по созданию УЧИ. — Прим. авт.
11
Крионика изучает хранение объектов при низких температурах, а криоконсервация — это сохранение тел умерших людей для излечения и оживления в будущем. — Прим. авт.
12
SyNAPSE (Systems of Neuromorphic Adaptive Plastic Scalable Electronics) — системы нейроморфной адаптивной гибкомасштабируемой электроники. — Прим. ред.
13
В январе 2012 г. Майкл Вассар покинул пост президента MIRI, чтобы участвовать в основании Meta Med — новой компании, предлагающей персонилизированную, основанную на научных данных диагностику и лечение. Его сменил Люк Мюлбхаузер. — Прим. авт.
14
Но подождите: разве это не тот самый антропоморфизм, в котором Юдковски обвинял меня? У нас, людей, базовые цели смещаются не только от поколения к поколению, но даже в течение жизни. Но как будет у машины? Мне кажется, Хьюз использует аналогию с человеком правильно, не антропоморфически. То есть мы, люди, представляем собой пример системы с глубоко укорененными функциями, такими как потребность в продолжении рода, но мы способны их преодолевать. Такая система напоминает аналогию с Ганди, которая также не антропоморфична. — Прим. авт.
15
Личное мнение автора. — Прим. ред.
16
Лат. «бог из машины». — Прим. ред.
17
Мог ли Гуд прочесть очерк Винджа, написанный под влиянием его собственного более раннего очерка, и изменить свое мнение? Мне кажется, это маловероятно. За свою жизнь Гуд опубликовал множество научных работ общим объемом порядка 3 млн слов и всегда самым тщательным образом ссылался на источники. И хотя во многих случаях он ссылается на собственные работы, я уверен, что он обязательно упомянул бы Винджа, если бы его очерк сыграл такую роль. Гуд любил подобные литературные рекурсии. — Прим. авт.
18
Буквальное значение английского слова singularity — уникальность. — Прим. пер.
19
Квиддич — волшебная спортивная игра из романов Джоан К. Роулинг о Гарри Поттере. — Прим. ред.
20
Милленаризм — убеждение в том, что с тысячелетними циклами истории человечества связаны значительные преобразования в обществе. Уходит корнями в новозаветные пророчества. — Прим. ред.
21
Рик Грейнджер, специалист по вычислительной нейробиологии из Дартмутского университета, утверждает, что каждый нейрон мозга соединен с многими десятками тысяч других нейронов. В этом случае мозг работает намного быстрее показателей, которые приводит Курцвейл в книгах «Эра духовных машин» и «Сингулярность рядом». Если мозг работает намного быстрее, то его компьютерный эквивалент по скорости не так близок к нам, как кажется. Но, учитывая Закон прогрессирующей отдачи, ненамного дальше. — Прим. авт.
22
Знаете, что еще удваивается примерно каждые два года? Интернет и все компоненты, которые делают его быстрее, связи в нем теснее, а способность впитывать информацию выше. В 2009 г., по оценке Google, Интернет содержал около 5 млн терабайт информации — в 250 000 раз больше, чем во всех книгах Библиотеки Конгресса США. К 2011 г. он должен был содержать примерно в 500 000 раз больше. Harris Interactive — интернет-компания маркетинговых исследований и изучения общественного мнения — объявила, что рост числа пользователей Интернета позволяет назвать его «самой быстрорастущей технологией в истории». В 2008 г. в мире было чуть меньше 1,2 млрд пользователей Интернета, в 2010 г. — более 2 млрд. — Прим. авт.
23
Карр H. Пустышка. Что Интернет делает с нашими мозгами. — M.: BestBusinessBooks, 2012.
24
Ланир Д. Вы не гаджет. Манифест. — М.: Астрель, Corpus, 2011.
25
«Цветы для Элджернона» — научно-фантастический роман Дэниела Киза (существует экранизация) про умственно отсталого уборщика, который участвовал в эксперименте по улучшению интеллекта. Одно из последних изданий на русском: Киз Д. Цветы для Элджернона. — М.: Эксмо, 2014. — Прим. ред.
26
Я не уверен, что это верно в отношении AIXI Маркуса Хаттера, хотя специалисты утверждают, что да. Но поскольку AIXI невычислимый, он во всяком случае не может быть кандидатом на интеллектуальный взрыв. Другое дело — AlXItl, вычислимый аналог AIXI. Вероятно, это неверно также в отношении загрузки разума в компьютер, если она будет когда-нибудь реализована. — Прим. авт.
27
Некоторые сингуляритарии хотят получить УЧИ как можно скорее из-за его потенциально громадных возможностей в плане облегчения человеческих страданий. Это позиция Рэя Курцвейла. Другие считают, что появление универсального ИИ приблизит к личному бессмертию. Основатели MIRI, включая и Елиезера Юдковски, надеются, что работы над универсальным ИИ займут много времени, поскольку вероятность уничтожения человечества может снизиться со временем благодаря новым, более качественным исследованиям. — Прим. авт.
28
Существо из японской мифологии — кошка с раздвоенным хвостом. — Прим. ред.
29
LIDA (Learning Intelligent Distributed Agent) — обучение распределенных интеллектуальных агентов. — Прим. ред.
30
Радар О'Рейли — герой американского сериала M*A*S*H (в российском прокате — «Чертова служба в госпитале МЭШ»), идеальный секретарь, способный предвидеть события и многое делать за начальника. — Прим пер.
31
Карр H. Великий переход: что готовит революция облачных технологий. — М.: Манн, Иванов и Фербер, 2013.
32
Хелен Адаме Келлер (1880–1968) — американская писательница, преподаватель, общественный деятель. В возрасте 19 месяцев перенесла болезнь, в результате которой полностью потеряла слух и зрение. С 7 лет Хелен занималась под руководством специалиста Энн Салливан, получила среднее образование и окончила колледж. Написала больше десяти книг, была известным филантропом и активистом. С 1980 г. в США отмечается День Хелен Келлер. — Прим. ред.
33
Справедливости ради заметим, что и Россия, и Китай постоянно подвергаются кибератакам спецслужб США. — Прим. ред.
34
Личное мнение автора, не находящее исторического подтверждения. — Прим. ред.
35
Субстандартный ипотечный кредит — кредит с особыми условиями, выдаваемый ненадежному заемщику в США. Кризис наступил, когда значительная часть заемщиков не смогла погасить кредит. — Прим. ред.