В таком случае, что касается тех, кто привержен практическому проекту создания подлинного искусственного интеллекта, построенного на компьютерных моделях мышления, то их предприятие крайне безнадежно. Когда в 1997 году Гарри Каспаров, наконец, проиграл шахматный матч компьютеру Deep Blue, возбуждение охватило сообщество искусственного интеллекта и прессу; за рубежом оповестили, что компьютер, мол, победил шахматного мастера и сделал это, «думая» с большей гибкостью, чем его человеческий противник. Но дело обстояло совсем по-другому, как стало ясно в 2003 году, когда Каспаров столкнулся с гораздо более грозным Deep Junior и сыграл вничью. Это озадачило многих истинно верующих в искусственный интеллект. Компьютерная программа могла обрабатывать три миллиона возможных стратегий каждую секунду, в то время как Каспаров мог рассмотреть только несколько на любом данном этапе; но, как заметил Каспаров, какие бы варианты он ни рассматривал, именно они были лучшими из мыслимых. Это все потому, что Каспаров делал именно то, чего компьютер, прогоняя миллионы и миллионы бессознательных вычислительных конфигураций, не делал даже на мгновение: он думал. Ни одна мысль не прошла через маленькую монтажную плату компьютера. И у него не было интенций или чего-то даже отдаленно похожего на интенции. Он и в шахматы не играл. Все его мнимые умственные действия были на самом деле производными следствиями сознательных интенций его программистов, использовавших его схему для запуска алгоритмов, которые были в значительной степени дистилляцией обширного архива прошлых шахматных матчей, в том числе собственных матчей Каспарова; компьютер был просто перегонным кубом, через который тек дистиллят. Когда Каспаров проиграл свою партию в 1997 году, он был побежден не машиной, а огромной командой людей, в которую входил невольно и сам. И нигде в этом процессе не было какой-то разумной сущности под названием Deep Blue. И наоборот, когда Каспаров размышлял и делал ходы по доске, он мог производить в своем мозгу определенные функции, аналогичные функциям компьютера, но его сознательный акт мышления сам по себе не был компьютерным вычислением. Его разум не просто механически повторял каждую мыслимую конфигурацию шахматной доски, а затем автоматически выбирал те ходы, которые статистически наиболее вероятны для успеха; скорее, он понимал, чтó он делает, субъективно и интенционально, и его способность понимать – сразу схватывать принципы шахматной стратегии – и его память о своем предыдущем опыте, его волевые намерения и множество других вещей – позволили ему достичь целей, которые бессмысленное устройство, такое как компьютер, никогда бы не смогло достигнуть. Подобно тому как, вероятно, никогда не будет разработана компьютерная программа, чтобы, скажем, адекватно перевести стихотворение с одного языка на другой, ни одна программа никогда не будет «играть» в шахматы, даже если синтез навыков ее изобретателей окажется непобедимым для блестящего мастера шахматной игры. Рациональное мышление – понимание, интенция, воля, сознание – это вовсе не разновидность вычислений, подобных компьютерным.
Представьте, что это связано с ошибкой, касающейся не только того, что делает ум, но и того, что делает компьютер. Одним из предположений, лежащих в основе теории искусственного интеллекта, является то, что мозг, подобно компьютеру, использует алгоритмы в виде сложных нейронных событий, которые переводят нейронную информацию в репрезентативные символы. Если бы мы должны были провести «гомункулярную декомпозицию» разума в вычислительных терминах, то предположительно мы спустились бы через символический уровень операций к уровню чего-то наподобие двоичных функций, а затем – дальше, пока не достигли бы простых «переключателей» в мозгу, где и заложены эти функции. Но это переворачивает порядок каузальности на обеих сторонах нашей аналогии. Ни мозги, ни компьютеры, рассматриваемые исключительно как физические системы, не содержат алгоритмов или символов; только сознанию репрезентируется, что физическое поведение этих систем выдает какой-либо интенциональный контент. Именно в сознании человека, который программирует или использует компьютер, и в сознании, которое действует через физический аппарат мозга, эти символы и находятся. Фактически только по этой причине символический перевод возможен, потому что перевод данных в значение или одного вида значения в другой – это работа интенциональной субъективности, которая уже превосходит разницу между оригинальным «текстом» и его переводом. Компьютерный программист может переводить значения или функции в алгоритмы, потому что, будучи интенционально сознательным, он (или она) способен репрезентировать операции компьютера не просто как физические события, а как понятные символические транскрипции чего-то еще; именно в его (или ее) сознании, в любом направлении этого процесса, физическое служит целям ментального. Если мозг производит «символы» мира, воспринимаемого чувствами, например, то это не физическая транзакция, а ментальный акт репрезентации, который уже предполагает восприятие как опыт мира, находящегося снаружи. И только там, где существует символическое значение, происходит то что-то, что мы могли бы назвать мышлением. Таким образом, даже если бы мы могли вообразить или дедуктивно сойти с уровня сознания вниз через слои символов, простые нотационные функции и нейронные механизмы, мы не смогли бы тогда вернуться назад тем же путем, каким туда пришли. Опять-таки, физическая редукция какого-либо феномена до чисто материальных сил ничего не объяснит, если не удастся затем реконструировать этот феномен из его материальной основы, не прибегая к каким-либо более высоким причинам; но никакое компьютерное представление мысли никогда не сможет этого сделать. Символы существуют только «наверху», как бы в сознании, глядящем вниз по пути этого «спуска», действуя всегда как высшая причина по отношению к материальной реальности. Взглянув в противоположном направлении, «снизу вверх», можно найти только непреодолимую бездну, отделяющую интенциональную пустоту материи от интенциональной полноты разума. Абсолютная ошибка состоит в представлении, будто электрическая активность компьютера и есть само вычисление; и когда верующий в искусственный интеллект утверждает, что электрохимические операции мозга являются своего рода вычислением и что сознание возникает из этого вычисления, он (или она) говорит нечто, совершенно лишенное смысла. Попросту говоря, всякое вычисление онтологически зависит от сознания, и поэтому вычисление не может обеспечить того основания, на котором покоится сознание. Можно, конечно, пытаться объяснять существование солнца как результат тепла и яркости летних дней.
Это также означает, кстати, что глупо говорить о разумах как о собраниях «мемов», составляющих «виртуальную машину» или «программу», которая работает в структуре мозга, как это делают Деннетт и другие. Этот термин «мемы» – словцо, придуманное Ричардом Докинзом и облюбованное узким кругом когнитивных и эволюционных теоретиков, – относится к своего рода культурному аналогу генов: предположительно мем является единицей общего поведения или мысли, как стиль одежды или архитектурной моды, или мелодии, или идеи, или фразы, которая передается от одного человека другому путем имитации и вариации. Более того (и тут – аналогия между генетикой и «меметикой»), мемы, по-видимому, в какой-то мере копируют самих себя, колонизируя экологию мозга, адаптируя, выживая, вытесняя менее прочные меметические популяции и тем самым создавая и определяя контенты сознания. Теперь, в качестве иронической метафоры, подразумеваемой как слегка едкий комментарий к человеческой тенденции к конформизму, разговоры о «мемах» могут быть досадно симпатичным и притягательным способом описания генеалогии популярной культуры. В смысле серьезной гипотезы того, как работает сознание – как оно приобретает свои «программы» или свои ментальные интенция, – все это псевдонаучная и псевдофилософская болтовня. Было бы, конечно, удобно для компьютерно-вычислительной модели разума, если бы можно было обнаружить какую-то предсознательную форму интенционального контента, который распространяется сам по себе, который расположен в мозге так, как ДНК находится в клетках тела, и который таким образом составляет «информацию» сознания, в чем-то подобно тому, как генетические коды вносят «информацию» в организмы. Однако эта идея абсурдна. Генетические материалы размножаются физическими транзакциями, потому что они сами являются физическими реальностями; на их уровне нет необходимости в сознательных действиях. Однако, каких бы ни было еще «мемов», если бы такие вещи действительно существовали, они определенно были бы составлены из интенционального контента и существовали бы только как объекты ментальной репрезентации. Поэтому они не были бы метафорически «выбраны» природой в том смысле, в каком говорят о единицах биологической эволюции, но буквально были бы выбраны (пускай часто несколько пассивно) сознательным разумом. Они могут быть объектами интенциональности, но они, безусловно, не могут объяснить интенциональность; существование причины не может быть объяснено ее собственными контингентными следствиями. Как таковое, словцо «мемы» – это просто причудливый жаргон, некое драгоценное имя для капризов человеческого вкуса, любопытства, воображения и тоски по общению. Более того, если использовать его в этом контексте, то, возможно, нет более заметного примера аналогии, которая должна объяснять сознание, но которая сама по себе понятна только в свете реальности сознания (во всей его вечной необъяснимости).
