Примечания книги Машина эмоций. Автор книги Марвин Мински

1

Марвин Минский. Сообщество разума. М.: АСТ, 2018.

2

Сонет 141, перевод С. Я. Маршака.

3

Адаптированная цитата из комедийной программы Барри Тука и Марти Фельдмана: см. Barry Took, Marty Feldman, Round the Horne, BBC Radio, 1966.

4

Перевод С. Я. Маршака.

5

«Опыт о человеке», перевод В. Микушевича.

6

Адаптированная цитата из заметки Аарона Слоумана, см. comp.ai.philosophy, 16/5/1995.

7

Адаптированная цитата из Тинбергена (1951).

8

Ребекка Уэст, см. Rebecca West, The Strange Necessity, Doubleday, 1928, ISBN 0781270626.

9

«Опыт о человеке», перевод В. Микушевича.

10

Это отсылает нас к психоаналитическим теориям о том, как подобные предметы могут оказаться полезны при переходе от ранних привязанностей к другим видам отношений. См., например, www.mythosandlogos.com/Klein.htm.

11

Концепция «мема» как единицы информации, передаваемой от одного разума к другому, разрабатывалась Докинзом (Докинз, 1989); см. также у Блэкмор (1999) и Деннета (1995).

12

См. у Боулби (1973), стр. 217. В своей теории Боулби отчасти опирается на исследования Шаффера (1964, стр. 1–77), который также рассматривает влияние нескольких привязанностей.

13

Здесь Боулби ссылается на работу о поведении животных (Спенсер-Бут, 1971).

14

Существуют доказательства того, что младенцы способны имитировать выпячивание губы, открывание рта, высовывание языка и движения пальцев. См. также Нельсон, 2001 и Мелцофф, 1997.

15

Перевод М. Л. Гаспарова.

16

Эксперименты Жака Панксеппа [1998] предполагают, что импринтинг имеет общие черты с аддикцией и что стресс при разлуке может напоминать боль (поскольку его можно облегчить опиатами). Панксепп обсуждает предположение Говарда Хоффмана [1994] о том, что некоторые аспекты движения или формы объекта могут служить причиной выброса эндорфинов в мозге импринтированного, в результате чего объект кажется достаточно знакомым для преодоления рефлекторного страха.

17

Из письма к миссис Х. Л. Остин, датированного 1961 годом.

18

Адаптированный вариант диаграммы из следующего источника: http://www.christianhubert.com/hypertext/brain2.jpeg.

19

«Портрет Дориана Грея», перевод М. Абкина.

20

Ларри Тейлор разрешил мне использовать цитату из его неопубликованного эссе «G. Gordon Liddy, Agent from CREEP».

21

Перевод Б. Пастернака.

22

Перевод Р. Райт-Ковалевой, М. Ковалевой.

23

Перевод Е. Бируковой.

24

Перевод Н. Рыковой.

25

«Гамлет», перевод Б. Пастернака.

26

«Американец», перевод И. Разумовской, С. Самостреловой.

27

Этот рецепт суммирует обсуждения, изложенные у Джеймса (1902).

28

Более подробно об этом эпизоде см. в разделе 4.5 «Общества разума».

29

«Черный принц», перевод И. Бернштейн.

30

Исследование Говарда Гарднера (2002) кажется мне огромным шагом вперед в распаковывании слова-чемодана «интеллект».

31

В современной «когнитивной науке» термин «субкогнитивное» стал часто использоваться вместо термина «бессознательное».

32

«Государство», перевод А. Егунова.

33

Многие предполагают, что «источником» всех наших знаний является жизненный опыт. Однако, если считать, что каждый участок мозга живет в мире, созданном связанными с ним другими участками, можно представить себе, что несколько таких участков могли бы одновременно учиться тому, как существовать в своем непосредственном окружении. Подобное предположение излагается в Минский, 2005.

34

Перевод С. И. Церетели.

35

Здесь можно вспомнить, например, с какими проблемами сталкиваются те, кто вырос при почти полном отсутствии визуальной информации и кому затем восстановили зрение (см. Филлипс, 2004). Пожалуй, именно так чувствовали бы себя люди, вынужденные трудиться в машинном отделении Макдермотта.

36

Адаптировано из раздела 6.1 «Общества разума».

37

Наш самый первый робот однажды начал строить арку с верхней детали, поместив ее туда, где арка должна была кончаться! Ему не хватило знаний, чтобы предсказать, что без опоры деталь упадет.

38

См. раздел 25.4 «Общества разума».

39

Перевод О. Колесникова.

40

Эта идея более подробно обсуждается в работе 1968 года (Минский, 1968), глава «Материя, мозг и модели» (Matter, Mind, and Models).

41

http://www.imprint.co.uk/online/new1.html

42

Мы часто слышим, что отдельная клетка мозга может быть связана с тысячами других клеток, но куда реже упоминается тот факт, что у большинства более крупных областей мозга связей с другими такими областями сравнительно меньше.

43

«Том Сойер за границей», перевод М. Беккер.

44

См. http://en.wikipedia.org/wiki/Computer_chess, а также http://en.wikipedia.org/wiki/Adriaan_de_Groot.

45

«Исповедь», перевод М. Е. Сергеенко.

46

Сенсорные системы, которые мы используем, чтобы распознавать события во внешнем мире, эволюционировали в течение сотен миллионов лет. Однако, возможно, новым ресурсам, которые распознают происходящее в высших уровнях нашего мозга, было легче эволюционировать, потому что эти системы используют упрощенные репрезентации. Это могло бы отчасти объяснять, почему качество человеческой мысли так улучшилось за, похоже, всего несколько сотен тысяч лет.

47

По словам Тинбергена (1951), когда животное не может принять решение, оно часто отбрасывает оба варианта и принимается делать что-то, что кажется вообще не связанным с достижением цели. Однако эта «смещенная активность» никак не варьируется, и это не позволяет предположить, что животные сознательно выбирают способ разрешения конфликта.

48

«Трактат о человеческой природе», перевод С. И. Церетели.

49

Иногда эту концепцию называют «бритвой Оккама», по имени логика XIV века Уильяма Оккама.

50

Некоторые из ранних стадий этого проекта описаны в Минский, 1971.

51

На самом деле, эта более темная горизонтальная полоса – не нижний край, а часть поверхности, прилежащей к краю, слегка затененная из-за его скошенности.

52

Эта программа была основана на идеях Йосиаки Сираи (и Мануэля Блума). См. ftp://publications.ai.mit.edu/ai-publications/pdf/AIM-263.pdf. Однако должен добавить, что «Строитель» не мог различать практически ничего, кроме ровных геометрических форм. Даже в наше время до сих пор нет «многоцелевых визуальных машин», которые могли бы оглядеться в комнате и распознать в ней обыденные предметы. Вероятно, потому что им не хватает тех знаний о реальном мире, которые мы обсудим в главе шестой.

53

См. Статьи Адольфо Гуцмана и Дэвида Уолца: ftp://publications.ai.mit.edu/aipublications/pdf/AIM-139.pdf и ftp://publications.ai.mit.edu/ai-publications/pdf/AITR-271.pdf.

54

Некоторые люди утверждают, что способны представить себе сцену с фотографической точностью, в то время как другие не хвастаются столь ярким воображением. Однако, судя по некоторым исследованиям, и те и другие вспоминают детали воссозданных сцен с одинаковой точностью.

55

См., например: http://www.usd.edu/psyc301/Rensink.htm и http://nivea.psycho.univparis5.fr/Mudsplash/Nature_Supp_Inf/Movies/Movie_List.html.

56

Эта схема предсказаний появляется в § 6–7 моей диссертации 1954 года «Аналоговые нейронные сети и проблема модели мозга», математическое отделение, Принстонский университет. В то время я читал в литературе о том, что на границе определенных областей коры головного мозга имеются «подавители», но, судя по всему, из более недавних текстов эта информация исчезла.

57

См. балладу Гёте Der Zauberlehrling («Ученик чародея») по адресу: http://www.fln.vcu.edu/goethe/zauber.html.

58

Мысль о значениях приставки «пере-» была высказана в том числе Роджером К. Шэнком (1975).

59

См. Ленат, 1998. Подробнее о проекте «Сайк» рассказывается на веб-сайте www.cyc.com.

60

Адаптированная цитата из введения к Минский, 1969.

61

Вундеркинд Ким Пик, по слухам, запоминал книги сотнями; см. Чендлер, 2004. Однако я скептически отношусь к таким утверждениям, поскольку до сих пор не видел отчетов об экспериментах, призванных исключить возможность обмана.

62

В рамках этих исследований термин «бит» информации понимается в техническом смысле, см. определение у Шеннона (1948). Согласно Розенфельду (1996), стандартный текст содержит приблизительно 6 бит информации на каждое слово. Если человек будет заучивать два бита в секунду в течение десяти часов в день, то через тридцать лет выучит всего около миллиарда бит информации, что намного меньше, чем объем одного компакт-диска. См. также Меркл, 1988.

63

По моему мнению, сюда можно включить и результаты исследований, опубликованные в следующей работе: Хейбер, 1979.

64

См. эссе о самоорганизующихся обучающихся системах Рэя Соломоноффа (1957, 1964 и 1997), Малькольма Пивара (1964), Дугласа Лената (1983 и 1983b), Кеннета Хаасе (1986, 1986a и 1986b) и Гэри Дрешера (1991). В последние годы некоторые из этих идей породили новую область исследований, называемую генетическим программированием.

65

Технически, если система уже была оптимизирована, при любом изменении ее производительность, вероятно, ухудшится – до тех пор, пока через какое-то время, стабилизировавшись, она не достигнет более высокого пика.

66

К моменту написания этой книги уже предпринимались многочисленные попытки «аннотировать» тексты в интернете со ссылками на значения слов и фраз, но я готов поспорить, что пользы будет не очень много, пока эти репрезентации знаний не начнут использовать такие структуры, как паналогии. Также недавно был достигнут прогресс в области извлечения крупных объемов житейских знаний с помощью тысяч пользователей интернета. См., например, Сингх, 2002, а также описания проекта OpenMind Commonsense по адресу http://csc.media.mit.edu/ и http://commonsense.media.mit.edu/.

67

История с копилкой подробно обсуждалась Юджином Чарняком (1972) и легла в основу нескольких теорий, изложенных в Минский, 1974 и Минский, 1986.

68

«Никомахова этика», перевод Н. Брагинской.

69

В каждом цикле работы «Универсальный решатель задач» обнаруживает некоторые различия между текущим и желаемым состояниями. После этого он с помощью отдельной техники решает, какое различие наиболее важно, а затем пытается устранить его методами, релевантными для этого типа различий. Ньюэлл (1960 и 1963) рассказывает об этом более подробно: например, когда процессы устранения различий не справляются, система старается переключиться на другой способ репрезентации ситуации.

70

Следует отметить, что люди часто заходят слишком далеко, полагая, что у каждой системы есть некая высокоуровневая цель. Например, многие считают, что все животные обладают «инстинктом выживания», который направлен на сохранение их жизни. Однако на самом деле животные едва ли способны на такую репрезентацию; вместо этого у них есть много отдельных инстинктов (таких как голод, жажда и оборона), которые эволюционировали независимо друг от друга, и ни у одного животного в мозге не содержится репрезентации «жизни» – за исключением, быть может, мозга человека.

71

Можно сказать, что эта цитата описывает то, что программисты называют «нисходящим деревом поиска».

72

Перевод Н. Брагинской, адаптировано.

73

В разделе 22.10 «Общества разума» высказывается предположение, что нам приходится использовать подобные процессы всякий раз при попытке коммуникации между двумя людьми.

74

«Афоризмы об истолковании природы и царстве человека», перевод С. Красильщикова.

75

См. статьи на тему слепоты к изменениям (Кайзер, 2006 и О’Риган, 2006). Конечно, многие из сенсоров развились у нас специально для выявления особенно вредных условий; эти сенсоры реагируют сигналами, которые так быстро не «исчезают».

76

Роджер Шэнк (1990) высказал предположение, что для человека репрезентация событий в виде историй может быть одним из главных способов научения и запоминания.

77

Более подробно о теориях восприятия музыки см. в Минский, 1981.

78

Музыкант и физиолог Манфред Клайнс (1978) описал некоторые временные структуры, способные порой вызывать определенное эмоциональное состояние.

79

«Обретенное время», перевод А. Смирновой.

80

То же самое относится к сплетням, спорту и играм. См. статью How people spend their time («Как люди проводят время»), Зиланд, 2001.

81

Именно подобную структуру Уинстон (1970) назвал «сетью сходства».

82

Перевод М. Салье.

83

Полный текст (на английском языке. – Пер.) можно найти по адресу http://www.gutenberg.net/etext94/arabn11.txt.

84

См. http://cogsci.uwaterloo.ca/Articles/Pages/how-to-decide.html.

85

В разделе 30.6 «Общества разума» обсуждается, почему идея свободной воли обладает таким огромным влиянием. В подробностях эти идеи рассматривает Деннет (1984).

86

Более подробно о достижениях того периода см. в антологии «Компьютеры и мышление» (Computers and Thought, Фейгенбаум, 1963).

87

Перевод С. Яновской.

88

Люди иногда используют слово «абстрактный» в значении «сложный» или «высокоинтеллектуальный» – но здесь я имею в виду нечто почти противоположное: более абстрактное описание включает в себя меньшее количество деталей, что позволяет применять его в большем количестве ситуаций.

89

См. раздел 10.4 «Общества разума».

90

На самых нижних уровнях Критики и Переключатели – то же самое, что «если – то» простых реакций. На рефлексивном и более высоких уровнях Критики имеют тенденцию задействовать такое количество ресурсов, что их уже невозможно отличить от Способов мышления. Сингх в одной из своих работ (Сингх, 2003b) пишет о «Рефлексивных критиках», обладающих такими способностями. На момент написания этих строк мы создали всего лишь простой прототип (Сингх, 2005) подобной системы.

91

Логика может пригодиться после решения проблемы, чтобы обосновать чьи-то рассуждения или определить, какие именно компоненты привели к успеху. Иногда также бывает полезно создавать и решать упрощенные варианты проблем. Самые информативные дискуссии о роли логики в повседневном мышлении содержатся на сайте Джона Маккарти http://www-formal.stanford.edu/jmc/frames.html.

92

Мануэла Виззер (Виззер, 2000) составила обзор попыток классификации типов проблем. Также в работе Джора Лэрда (Лэрд, 1987) описывается программа целевых решений под названием SOAR, которая распределяет помехи по четырем категориям.

93

Здесь и далее перевод М. А. Шаталовой и П. А. Шаталова по книге «Жак Адамар: исследование психологии процесса изобретения в области математики». М., 1970.

94

Цит. по comp.ai.philosophy, 20 ноября, 1995.

95

Нобелевская лекция, 1973, перевод Максима Мороза, http://baskina.com/archives/7508.

96

Нобелевская лекция, 1973, перевод Ольги Ульянко, там же.

97

Это может объяснить, почему некоторые мозговые волны становятся нерегулярными, когда наше мышление сталкивается с препятствиями.

98

В этот рисунок включены названия нескольких современных концепций о том, как репрезентируются подобные записи. Описания некоторых из этих схем можно найти в интернете, если искать по таким ключевым словам, как «сенсорная память», «эпизодическая память», «рабочая память» и т. д. Теория Бернарда Баарса (1996) кажется мне наиболее точной.

99

Создание долгосрочных воспоминаний, похоже, включает в себя определенные виды сна, но пока неизвестно каким образом. Также, судя по всему, разные виды воспоминаний (например, о событиях своей биографии; о том, что мы называем «декларативными» фактами, и о событиях, связанных с восприятием и движением) сохраняются в разных участках мозга и не вполне одинаковыми способами.

100

«Исповедь», перевод М. Е. Сергеенко.

101

Раздел 19.10 «Общества разума» описывает схему «Замыкание кольца» – она может помочь подсоединить части, которые не были извлечены сразу.

102

Это версия ситуации, описанной в главе первой книги «Общество разума».

103

«Размышления о революции во Франции» (1790), перевод Е. Гельфранд.

104

Перевод Г. Г. Слюсарева и А. П. Юшкевича.

105

Тьюринг (1936) описал эти «универсальные» машины раньше, чем был сконструирован первый современный компьютер. Если вас интересует упрощенный рассказ об их работе, см. Тьюринг, 1950. Впоследствии обнаружилось, что создать Универсальную машину можно с помощью на удивление малого количества частей (вот только для этого требуются очень крупные хранилища памяти).

106

«Опыт о человеке», перевод В. Микушевича.

107

Переключение обычно происходит так быстро, что мы его даже не замечаем: это типичный пример «иллюзии имманентности», о которой рассказывалось в разделе 4.5.

108

Подробную теорию о том, как все это происходит, можно найти в разделе 24.6 «Общества разума».

109

Совсем недавно было обнаружено, что люди часто не замечают даже очень крупных изменений в том, что у них перед глазами. См. статьи по теме слепоты к изменениям (Кайзер, 2006 и О’Риган, 2006).

110

Перевод В. Желнинова.

111

См. главу третью у Калвина (1966).

112

Более подробно об отношениях между различными близкими объектами см. в главе 24 «Общества разума», где также приводится попытка объяснить, почему мы не думаем, что очертания объектов меняются при взгляде с разных точек, – и почему, когда мы переводим взгляд, нам кажется, что вещи остаются на одном и том же месте.

113

Идея паналогии впервые появилась в разделе 1.6 Минский, 1974 и более подробно изложена в главе 25 Минский, 1986. Ни о каких экспериментах, призванных проверить, можно ли обнаружить в наших мозгах такие структуры, мне неизвестно. Возможно, это дело нелегкое, если репрезентации разных плоскостей хранятся в отдаленных друг от друга областях мозга, поскольку для этого потребуются длинные нейронные связи между аналогичными частями этих фрагментов знания.

114

Перевод С. И. Церетели.

115

Юма особенно заботил вопрос о том, как доказательства могут привести к заключениям: «Лишь после длинного ряда единообразных опытов определенного рода мы достигаем твердой уверенности и отсутствия сомнений относительно какого-либо единичного факта. Но разве существует такой процесс рассуждения, посредством которого из единичного примера делали бы вывод, столь отличный от того вывода, который делают из сотни примеров, совсем не отличающихся от данного? Я сам не могу найти, не могу вообразить такого рассуждения» (пер. С. И. Церетели).

116

Более подробно о копировании структур памяти рассказывается в главе 23 «Общества разума». Насколько мне известно, старые психологические теории не затрагивали проблему того, как ум может сравнивать или создавать копии сложных сетевых структур; насколько я вижу, этого можно добиться только с помощью последовательных процессов.

117

Обратите внимание, что это разностная машина «наоборот», потому что она меняет внутреннее описание, а не реальную ситуацию. Я описал подобную систему для вербальных выражений и общения в главе 22 «Общества разума».

118

В некоторых из механизмов кратковременной памяти используются определенные недолговечные химические вещества, и, если они перестают поступать, такие воспоминания быстро исчезают, тогда как долговременные воспоминания, судя по всему, опираются на синтез долгоиграющих белков, которые создают между клетками мозга более устойчивые связи. Кроме того, часть информации может храниться «динамически», путем постоянного повторения сигналов в петлях клеток мозга. Однако эти простые петли неспособны хранить больший объем данных (см. раздел 4.2 Минский, 1953).

119

Возможно, такое выражение лица помогло ей сконцентрироваться на задаче. Если впоследствии оно сольется с приобретенным навыком, его уже непросто будет устранить.

120

В сфере искусственного интеллекта важность коэффициента релевантности была весьма рано отмечена исследованием Артура Сэмюела (1959) по теме машинного обучения. Однако мне едва ли приходилось видеть обсуждения высокоуровневых теорий о системах, которые пытались бы понять, почему некий конкретный метод помог решить некую проблему.

121

Люди часто описывают их как «моменты принятия решений» – и считают проявлением «свободы воли». Однако вместо этого в них можно увидеть просто-напросто моменты, когда в разуме остановился запущенный процесс «решания».

122

Предположительно, эти способности могут варьироваться также в разных областях одного и того же разума.

123

Этот раздел частично адаптирован из раздела 7.10 «Общества разума».

124

Подробности см. в Минский, 1974, в диссертации Росса Куиллиана (в Минский, 1968) и у Уинстона (1975).

125

Откуда мы берем эти дефолтные предположения? Ответ: обычно новый фрейм создается путем корректировки уже существующего, а те из значений, в которые изменений не вносится, он просто наследует.

126

Это еще один пример иллюзии имманентности, упомянутой в разделе 4.5. Добавлю, что фрейм может содержать дополнительные слоты, активирующие другие наборы ресурсов, что дает ему возможность мимоходом активировать различные способы мышления.

127

Теория К-линий была впервые изложена в Минский, 1977 и 1980b. Глава восьмая «Общества разума» более подробно описывает, чем чревато столкновение несовместимых К-линий.

128

В разделе 20.1 «Общества разума» утверждается, что даже сами наши мысли могут быть неоднозначными.

129

У идеи «микронемы» есть два истока – «микрохарактеристики» Уолца (1985) и еще более ранние теории Муэрса (1956).

130

Кроме того, несколько подобных функций могут наслаиваться друг на друга в одних и тех же физических областях мозга. Такое возможно, если они используют генетически различные цепи клеток, которые в основном взаимодействуют лишь между собой.

131

Перевод Н. Лосского (адаптировано).

132

Позже Кант утверждает, что наш разум, по-видимому, начинает свое развитие с некоего набора правил, таких как «всякое изменение имеет причину». Сегодня мы могли бы интерпретировать эту теорию так: в нас с рождения заложены фреймы, оснащенные ячейками, которые мы склонны соединять с причинами изменений. В простейшем случае, конечно, эту потребность можно удовлетворить ссылкой на то, что предшествовало изменению; в последующие годы мы учимся совершенствовать эти связи.

133

«О душе», перевод П. Попова.

134

Перевод В. П. Голышева и Э. Л. Наппельбаума.

135

Деннет развивает мысль следующим образом: «Гомункулы – сказочные страшилища только в том случае, если они полностью воплощают собой таланты, которые призваны объяснять. Если можно заставить команду или комитет относительно невежественных, ограниченных, слепых гомункулов сообща воспроизвести разумное поведение – это уже будет прогресс».

136

Перевод С. Я. Маршака.

137

См. http://www.theabsolute.net/minefield/witforwis– dom.html.

138

Перевод С. Апта.

139

«Исповедь», перевод М. Е. Сергеенко.

140

Перевод О. Матвеева, https://olegmatveev.livejournal.com/4344.html.

141

Переработанная цитата из словарной статьи в: Кэррол, 2003: The Skeptic’s Dictionary.

142

Тем не менее многие чувства, судя по всему, имеют различные степени как «положительной», так и «отрицательной» интенсивности, и это привело многих психологов к мысли о том, что именно измерение интенсивности и отличает эмоции от других психических состояний. См. Ортони, 1988, а также главу 28 «Общества разума».

143

См. также 13.1 «Общества разума».

144

См. раздел 23.3 в «Обществе разума», о «временном моргании».

145

Роджер Шэнк (1999) предположил, что мы в основном помним вещи, которые «имеют смысл», так как наши системы запоминания обучены хранить репрезентации, имеющие форму осмысленных историй.

146

Перевод Н. Платоновой.

147

Перевод В. Микушевича.

148

Перевод А. Грибанова.

149

Второе четверостишие стихотворения A Light Exists in Spring («Бывает свет весной»), см. по адресу http://www.first-science.com/SITE/poems/dickinson3.asp.

150

Философы называют это явление проблемой первичных ощущений. Отличное обсуждение этих «субъективных качеств» можно прочитать у Дэниела Деннета (1988).

151

На самом деле, единичное пятно красного может и не ощущаться как красный; чаще всего цвета, которые мы видим, в большой степени зависят от других цветов, расположенных по соседству. Хотя мы понимаем некоторые из десятков визуальных ресурсов, содержащихся в мозге, большая часть все еще не объяснена – например, каким образом мы репрезентируем отдельные объекты и их взаимоотношения.

152

См. Пилишин, 1998. См. также Секел, 2004.

153

Еще одно различие между сотрудниками-людьми и участками мозга заключается в том, что каждый член компании имеет собственные конфликты интересов. Например, каждый сотрудник нанят, чтобы увеличить прибыль компании, но это противоречит амбициям сотрудника получать больше денег, ведь каждый выплаченный ему оклад уменьшает общую сумму заработка компании. То же самое происходит, когда армия приказывает своим бойцам попытаться убить противников: каждый солдат все-таки желает остаться в живых.

154

«Зов Ктулху», адаптированный перевод О. Колесникова.