Еще одна увлекательная дискуссия развернулась вокруг подозрения, что в экспериментах недооценивается истинный уровень нашего осознания. Мы уже видели, что как бы мы ни были уверены в том, что полностью отдаем себе отчет относительно всех свойств окружающих нас предметов — их цвета, формы, взаимного расположения — в то время, когда смотрим на них, эксперименты обнаруживают нашу весьма незначительную способность все их запомнить и потом о них отчитаться
. Некоторые исследователи пытались устранить это несоответствие, предполагая, что иногда у нас может быть «сознание без доступа», то есть субъективное восприятие вещей, которые оказываются слишком сложными для сознания, чтобы вписаться в рабочую память и использоваться в дальнейшем
. Например, когда у вас случается «слепота от невнимательности»: вы слишком отвлечены на другое, чтобы заметить предмет, который лежит прямо перед вами на виду, это вовсе не означает, что у вас нет осознанного визуального восприятия, просто образ этого предмета не сохранился в вашей рабочей памяти
. Не следует ли отнестись к этому скорее как к забывчивости, а не как к слепоте? Другие исследователи не согласны с тем, что мы можем не доверять рассказам людей об их чувственном опыте, предупреждая о последствиях такого недоверия. Мюррей Шанахан смоделировал клиническое расследование, в ходе которого пациенты сообщают о полном избавлении от боли благодаря новому чудо-лекарству, которое, тем не менее, отклоняется правительственной комиссией: «Пациентам только кажется, что им не больно. Благодаря достижениям нейробиологии мы знаем лучше»
. Но с другой стороны, известны случаи, когда пациенты случайно просыпались во время операции и им давали сильнодействующие препараты, чтобы заставить забыть о пережитом. Должны ли мы и в этом случае доверять их сообщениям, что они не испытывали никакой боли
?
Что может чувствовать искусственный интеллект, обладая сознанием?
Если какая-то будущая система с искусственным интеллектом окажется обладающей сознанием, каковы могут быть ее субъективные переживания? В этом вопросе суть «еще более трудной проблемы» сознания, и это заставляет нас переместиться на второй уровень сложности (рис. 8.1). Мы не просто лишены в настоящее время какой-либо теории, позволяющей ответить на этот вопрос, но мы вообще не уверены в существовании логической возможности полностью на него ответить. В конце концов, как мог бы звучать удовлетворительный ответ? Как вы объясните слепому от рождения человеку, на что похож красный цвет?
К счастью, наша нынешняя неспособность дать полный ответ не мешает нам давать частичные ответы. Разумные инопланетяне, изучая органы чувств человека, придут, вероятно, к заключению, что цвета — это такие квалиа, которые воспринимаются связанными с каждой точкой на плоской поверхности (нашего поля зрения), в то время как звуки не воспринимаются пространственно локализованными, а боль — это квалиа, которая воспринимается привязанной к определенным частям нашего тела. Открыв, что на нашей сетчатке располагаются три типа светочувствительных колбочек, они могут прийти к заключению, что мы воспринимаем только три основных цвета и что все другие цветовые квалиа возникают в результате их сочетания. Измерив, сколько времени требуется нейронам для передачи информации через мозг, они могут заключить, что мы способны переживать не более десяти осознанных мыслей или чувственных переживаний в секунду и что, когда мы смотрим по телевизору фильмы, кадры которых сменяют друг друга по 24 раза в секунду, мы не видим каждый кадр в отдельности как неподвижную картинку, но складываем их в непрерывное движение. Измерив скорость выделения адреналина у нас в крови и время, которое он способен оставаться там не разлагаясь, они могли предсказать, что мы способны за считанные секунды впадать в гнев, испытывая приступы длительностью в несколько минут.
При помощи аналогичных, основанных на физике соображений мы можем построить некоторые ученые догадки относительно определенных аспектов самочувствия искусственного сознания. Прежде всего, пространство возможных переживаний искусственного интеллекта несопоставимо огромно в сравнении с тем, что можем испытывать мы, люди. У нас есть по одному классу квалиа для каждого из наших чувств, а у искусственного интеллекта может быть значительно больше типов датчиков и способов внутреннего представления информации, поэтому мы не должны попадать в ловушку, предполагая, что чувствовать себя искусственным интеллектом — это примерно то же самое, что чувствовать себя человеком.
Во-вторых, искусственное сознание, упакованное в коробочку размером с мозг человека, может испытывать в миллионы раз больше переживаний в секунду, чем мы, так как электромагнитные сигналы распространяются со скоростью света, — то есть в миллионы раз быстрее, чем распространяются сигналы вдоль нейронов. Однако чем больше искусственный интеллект, тем медленнее должны быть его глобальные мысли, чтобы информации хватило времени достичь каждой из его частей, как мы видели в главе 4. Поэтому мы ожидаем, что у искусственного интеллекта «Gaia» размером с Землю будет только около десяти осмысленных переживаний в секунду, как у человека, а искусственный интеллект размером с галактику может пронзить лишь одна глобальная мысль в 100 000 лет, — то есть не более сотни переживаний за все время существования нашей Вселенной до настоящего времени! Поэтому, казалось бы, у большого искусственного интеллекта должен быть мощный стимул делегировать вычисления маленьким подсистемам, способным выполнять их, чтобы не терять времени, — подобно тому, как наше сознание делегировало моргательный рефлекс в маленькую подсистему, быструю и бессознательную. Хотя мы уже видели, что сознательная обработка информации в нашем мозгу — это всего лишь верхушка нашего в общем-то бессознательного айсберга, мы должны ожидать еще бóльших крайностей у больших интеллектуальных систем будущего: представляя собой единое сознание, они, вероятно, должны будут оставить без внимания почти всю обработку информации, происходящую внутри них. Кроме того, хотя осознанные переживания, которые испытывает такая система, могут быть чрезвычайно сложными, они при этом развиваются черепашьими шагами в сравнении с быстрой деятельностью ее меньших частей.
Неудивительно, что в голову в связи с этим приходит упоминавшаяся выше полемика по поводу того, могут ли части сознательной сущности также обладать сознанием. Теория интегральной информации отрицает такую возможность, и это означает, что если какая-то будущая астрономически большая система с искусственным интеллектом будет обладать сознанием, то почти вся обработка информации внутри нее будет проходить бессознательно. Отсюда следует, что если цивилизация меньших сущностей с искусственным интеллектом в процессе улучшения своих коммуникативных способностей придет к точке, когда возникает единый коллективный обладающий сознанием ум, каждое из их намного более быстрых индивидуальных сознаний внезапно угаснет. Если предсказание теории интегральной информации ошибочно, то, с другой стороны, коллективный разум сможет сосуществовать с целой армией обладающих сознанием меньших умов. Тогда мы даже можем себе представить иерархию вложенных друг в друга сознаний всех уровней, от микроскопического до космического.
Как мы видели выше, бессознательная обработка информации в нашем человеческом мозгу представляется связанной с легким, быстрым и автоматическим способом мышления, что психологи называют «системой 1»
. Например, система 1 может сообщить вашему сознанию, что проведенный ею сложный анализ визуальной информации, полученной от органов чувств, выявил в приближающемся человеке вашего лучшего друга. При этом она никоим образом не сообщает, какие вычисления ею проводились. Если такая связь между системами и сознанием подтвердится, то возникнет соблазн распространить эту терминологию на искусственный интеллект, называя системой 1 все быстрые рутинные задачи, делегированные бессознательным модулям. Трудоемкая, медленная, требующая усилий и глобального контроля со стороны всего искусственного интеллекта — это система 2. У нас, людей, также есть осознанные переживания, связанные с тем, что я называю «системой 0»: никак не обрабатываемое пассивное восприятие происходит вокруг вас, когда вы сидите не двигаясь и даже не думаете, а просто наблюдаете. Системы 0, 1 и 2 кажутся непрерывно усложняющимися, и даже поразительно, что только та, что посередине, представляется бессознательной. Теория интегральной информации объясняет это тем, что пассивная сенсорная информация в системе 0 хранится в решетчатых структурах с очень высокой интеграцией, в то время как система 2 имеет высокий уровень интеграции из-за петель обратной связи, где вся информация, которой вы располагаете сейчас, может повлиять на будущие состояния вашего мозга. С другой стороны, именно предсказание сознания в решетчатых структурах вызвало критику Скотта Ааронсона в эпизодах, о которых шла речь выше. Подводя итог, можно сказать, что если теория, дающая решение довольно трудной проблемы сознания, сможет в один прекрасный день пройти через строй строгих экспериментальных проверок так, что мы начнем серьезно относиться к ее предсказаниям, то тем самым будет значительно сужен круг возможных вариантов решения еще более сложной проблемы — относительно того, что может испытывать в будущем обладающий сознанием искусственный интеллект.
