На мой взгляд, квалиа, а следовательно, и феноменальное сознание существуют у любого животного, которое может реагировать на мир, проявляя чуть больше нейрохимических реакций, чем требуется для выживания: борьбы, бегства, поиска пищи, сна и секса. Например, собака не может воспринять красный цвет розы (собаки – дихроматы, и фоторецепторы их сетчатки воспринимают только желтый и синий цвета), но при этом у собак наблюдается широкий спектр весьма эмоциональных реакций на звук голоса хозяина, запах желез под хвостом другой собаки или вид белки. Я считаю, что это квалиа.
Несмотря на то что в этих предположениях присутствует элемент дилеммы яйца и курицы, они дают повод задуматься: будут ли эмоции обязательным компонентом, если искусственный разум обретет самосознание? Возможен ли настоящий самоанализ в отсутствие эмоций? Я полагаю, что процессы восприятия в феноменальном сознании не вполне реализуемы, и даже совершенно нереализуемы без эмоций.
Природу и основу переживания ощущения – будь то красный цвет розы или переливы смеха, или запах океанских волн – сложно объяснить и доказать.
Рассмотрим трагическую историю Эллиота (см. главу 3) с опухолью мозга. После операции Эллиот утратил значительную внутреннюю и эмоциональную часть себя из-за того, что опухоль и операция повредили в его мозге область, отвечавшую за феноменальное сознание. Фактически можно утверждать, что его сознание-доступ не было повреждено, и ему осталась доступна большая часть прежнего знания и опыта. Но значительная часть феноменального сознания Эллиота перестала функционировать. Он мог узнавать красный цвет заката, но вид его больше не вызывал у него эмоционального отклика, ассоциаций, и все связанные с ним значения перестали существовать. Возможно, у него могла в какой-то мере остаться способность к саморефлексии (не в последнюю очередь потому, что его мозг был мозгом взрослого человека), но из исследования Дамасио очевидно, что по большей части Эллиот лишился ее навсегда.
Поскольку то, что произошло с Эллиотом и его товарищами по несчастью, невозможно проверить под надлежащим контролем (не ставя над ними полностью противоречащих всякой этике экспериментов), сложно обоснованно объяснить, что именно произошло. Что разрушило его личность – утрата способности испытывать эмоции или другие процессы, происходившие в тех же областях мозга? С другой стороны, существуют ли случаи, когда человек, способный мыслить рационально, чувствовал бы себя лучше, полностью лишившись связи с собственными эмоциями?
Есть множество интерпретаций и объяснений нашего долгого пути к обретению сознания и самосознания. Теорий на этот счет огромное количество. Декарт считал, что основа сознания (и душа) находится в шишковидной железе, причем только у людей. Стивен Джей Гулд считал, что самосознание – свойство, присущее исключительно людям9. Джулиан Джейнс придерживался мнения, что сознание – недавний, хотя и случайный, продукт цивилизации, и отрицал его существование у наших предков, по крайней мере до древних греков. Дэниел Деннет в своей модели множественных проектов рассматривает подобное сознание как артефакт непрерывного повествования и интерпретации событий. (Хотя, на мой взгляд, модель Деннета заслуживает критики по ряду пунктов, она описывает некоторые циклические аспекты разума, которые могут оказаться неотъемлемым свойством того, что мы называем сознанием.)
Странно, что мы, люди, приложили столько усилий, чтобы оказаться единственными, кто обладает самосознанием. Пришло ли это понимание к нам свыше, как в мифе о Прометее, или с помощью эзотерических практик или метафизических процессов, но мы абсолютно уверены в том, что истинное самообращенное сознание не будет даровано никогда и никому, кроме нас.
Как уже говорилось раньше, чтобы стать крайне опасным, искусственному разуму не нужно достигать человеческого уровня сознания. Немного отойдем от самосознания и рассмотрим идею о том, что интроспективное самосознание – необходимое условия для волеизъявления. Я бы сказал, что это предположение весьма далеко от истины. У большинства животных нет подобного сознания, в том смысле, что лишь немногие из них способны по-настоящему осознавать себя. Но волеизъявление, желание и даже в некоторой степени самоопределение присутствуют у довольно многих животных. Такое поведение далеко не полностью предопределенное и целиком зависит от особенностей самого животного. Таким образом, не следует рассматривать самосознание как необходимое условие для существования машинного разума. Любое существо, будь это животное или машина, обладает набором внутренних поведенческих установок, которые влияют на его действия или даже их диктуют. Чем они сложнее, особенно те элементы, которые закрыты в черном ящике, тем больше потенциальная угроза.
Что я имею в виду, говоря «закрыты в черном ящике»? Практически любая достаточно сложная система в итоге достигает той стадии, когда ее решения или их последствия больше не могут объективно определяться информацией, заданной на входе. Конечно же, сознание в данный момент соответствует этому определению, равно как и разум многих животных, не обладающих самосознанием. Различные искусственные нейронные сети (ИНС) тоже соответствуют этому определению. Некоторые ИНС, по сути, черные ящики с точки зрения того, как они преобразуют входные данные в приемлемые выходные. Из этих систем можно логически вывести и экстраполировать «правила» – в некоторой мере и с большими усилиями, – но они все равно останутся черными ящиками. Такие ведомства, как Управление перспективных научных исследований и разработок МО США, предпринимали попытки убедиться в том, что ИИ может «объяснить» свои мотивы, но вопрос, можно ли считать такой подход успешным, остается спорным10.
Кроме того, ведутся дискуссии о сложности и невозможности создания ИИ полностью эквивалентного человеческому разуму. Это общее предположение и общая ошибка. Многие люди смешивают понятия человеческого разума и искусственного интеллекта равного человеческому, а также машинного разума, эквивалентного человеческому. Хотя по определению эти понятия различны.
По-настоящему человеческий, искусственно созданный разум не сможет существовать вне биологического субстрата. Даже если сможет, он просуществует недолго. Равно как и эквивалентный человеческому искусственный интеллект. ИИ, думающий в точности как люди, будет крайне сложно создать, а на его реализацию уйдет огромное количество времени.
Однако почему мы вообще должны пытаться копировать людей, создавая мыслящую машину? Если рассматривать аналогии, если бы братья Райт настаивали на создании самолета с теми же механизмами, которые использует птица, мы бы, скорее всего, так и не дождались полетов с работающими двигателями, а коммерческих авиаперевозок наверняка бы не существовало. (Конечно, в авиации предпринимались попытки копировать полет птиц, когда машина в буквальном смысле взмахивала огромными крыльями. Но стоит ли говорить о том, что эти попытки потерпели сокрушительный провал.)
Вместо того чтобы копировать полет птиц, преодолевая силу гравитации, в успешных летательных аппаратах применялись конструкционные материалы, за счет которых можно было управлять теми же силами и по тем же принципам, что и птицы, делающие это естественно: тяга, подъем, сопротивление воздуха и т. д. В конце концов был создан летательный аппарат, который превзошел пернатых по скорости, высоте подъема и продолжительности полета. Конечно, этим машинам не были доступны некоторые возможности ускорения и воздушной акробатики, которые есть у птиц, но в том и суть. Полет человека – не то же самое, что полет птицы, и он даже не эквивалентен птичьему. Тем не менее во многом машинный полет достиг «птичьего» уровня и даже в некотором отношении превзошел естественные образцы.
