— Ну… да.
— А собака Павлова? В основе ее действий разве не запрограммированный алгоритм «стимул — ответ»? А муравей? А растения? А саранчовые?
— Пожалуй… да, но это… совсем другое.
— Никакое это не другое. Если изучить программу саранчи, узнать, что ее привлекает и что отпугивает, что мотивирует ее действия, можно полностью предугадать ее поведение. У саранчи программа относительно простая. Если происходит событие X, саранча реагирует по модели А. Если происходит событие Y, она реагирует по модели В. Словно машина, созданная человеком.
— Но саранча — это, так сказать, машина природная, естественная, натуральная. А компьютеры — машины, искусственно созданные.
Мануэл огляделся по сторонам в поисках подходящего примера. Внимание его задержалось на окне, за которым, в аллее напротив, поднималось высокое дерево, и в его кроне с ветки на ветку порхал воробей.
— Посмотри на птиц. Гнезда, которые они вьют на деревьях, естественные или искусственные?
— Естественные.
— В таком случае все, что делает человек, тоже естественно. Исходя из антропоцентрической концепции природы, мы все предметы разделяем на естественные и искусственные, однако при этом к искусственным относим предметы, сделанные людьми, а к естественным — созданные природой, животными и растениями. Но подобная классификация условна, ибо она есть результат достижения согласия между людьми. А истина состоит в том, что если человек является животным, как и птицы, значит, он дитя природы, а раз так, значит, все, что он делает, естественно. Следовательно, создаваемое нами столь же естественно, как гнездо, свитое птицами. — Отец еще раз кашлянул. — Просто люди согласились меж собой называть создаваемые ими же предметы искусственными, тогда как в действительности они такие же естественные, как то, что создают птицы. Итак, компьютеры, будучи творением природного животного, так же, как и гнезда, естественны.
— Но не имеют рассудка.
— А его нет ни у птиц, ни у саранчи. — Отец поморщился. — Точнее сказать, и у птиц, и у саранчи, и у компьютеров есть ум. Чего у них нет, так это человеческого разума. Однако, например, в случае с компьютерами ничто не гарантирует, что, допустим, лет через сто они не будут обладать рассудком, равным нашему или даже превосходящим его. И если они достигнут нашего уровня, можешь быть уверен, в них разовьется также способность чувствовать и переживать, и они обретут сознание.
— В это я не верю.
На Мануэла Норонью напал кашель — такой глубокий и раздирающий, что у него, казалось, легкие вот-вот разорвутся. Томаш налил ему воды, а когда кашель утих, озабоченно спросил:
— Как ты, отец? Может, тебе полежать?
— Все уже прошло, оставь! — еще не совсем отдышавшись, ответил тот. — На чем мы остановились?
— Я сказал… я не верю, что компьютеры смогут чувствовать, переживать и будут обладать сознанием.
— Ах, ну да! — воскликнул Мануэл, восстановив нить рассуждений. — Ты полагаешь, что у компьютеров не может быть эмоций, не так ли?
— Так. Ни эмоций, ни сознания.
— В таком случае ты ошибаешься. — Он сделал глубокий вдох, нормализуя дыхание. — Видишь ли, эмоции и сознание — результат определенного уровня способности рассуждать. А что такое рассудок?
— Рассудок, думается мне, — это умение составлять сложные суждения.
— Точно. То есть рассудок есть высокая и сложная форма сознания. И для образования сознания не обязательно достигать уровня человеческого рассудка. Например, собаки не обладают таким умом, как люди, но если хозяина собаки спросить, есть ли у его питомца эмоции и сознание, хозяин без колебаний даст тебе положительный ответ. Итак, эмоции и сознание возникают на определенном уровне. В это, конечно, трудно поверить не только тебе, но и большинству людей, которые не знают данной проблематики. Обычным смертным мысль о том, что машина может обладать сознанием, кажется шокирующей. И тем не менее, большая часть ученых, занимающихся этими проблемами, полагают возможным сознание искусственного интеллекта. И потом… — Указательный палец вновь вознесся вверх восклицательным знаком. — Компьютеры уже сейчас пусть не столь разумны, как человеческие существа, но более разумны, чем дождевой червь. А что отличает разум человека от разума дождевого червя? Сложность. Наш мозг устроен намного сложнее, но принципы работы и тут и там одинаковы: в обоих случаях передаются импульсы. — Он постучал себя по виску. — А ведь мозг — это органическая масса, действующая как электрическая схема. Только вместо проводников в мозгу нейроны, а вместо чипов, или интегральных микросхем, серое вещество, но по сути это одно и то же. Нервные клетки «выстреливают» импульс, направляемый, допустим, в руку. В этом импульсе содержится конкретная команда, выраженная электрическим зарядом со стандартными, предопределенными параметрами. Импульс с другими параметрами будет нести уже другую команду В точности как в компьютере… По скорости вычисления компьютеры уже превосходят людей. Где они уступают, так это в креативности. Один из зачинателей информатики, англичанин Алан Тьюринг, утверждал, что наступит время, и мы будем беседовать с компьютером, как с человеком.
— И это действительно возможно?
— Ну… по правде говоря, ученые долго придерживались мнения, что это невозможно. — Мануэл кашлянул. — Знаешь, наш брат-математик всегда был уверен, что Бог — тоже математик и что мироздание устроено в соответствии с математическими уравнениями. И уравнения эти, какими бы сложными ни представлялись, поддаются решению. То есть если это не удается, то не из-за того, что уравнение не имеет решения, а из-за того, что ограниченность человеческого интеллекта не позволяет его решить.
— Не понимаю, к чему ты ведешь…
— Вопрос о том, могут ли компьютеры обрести сознание или нет, связан с одной из проблем математики — с самореференциальными парадоксами. Приведу пример. Вдумайся в слова: «Я всегда лгу». Если я сказал правду, сказав, что всегда лгу, значит, я лгу не всегда. Эта фраза содержит в себе внутреннее противоречие. — Он поиграл бровями, довольный собой. — Раньше думали, что данная проблема чисто семантическая и обусловлена особенностями языка, на котором говорят люди. Однако когда это изречение выразили языком математической формулы, противоречие сохранилось. Математики долго бились над этой задачей, исходя из убеждения, что она разрешима. Но эта иллюзия была развеяна в 1931 году математиком Куртом Гёделем, который сформулировал две теоремы, получившие название теорем о неполноте. Теоремы о неполноте считаются одним из высочайших интеллектуальных достижений XX столетия, и они повергли математиков в состояние шока. — Мануэлом Норонья овладело сомнение. — Мне сложно объяснить тебе…
— Попытайся.
— Ну, не знаю, — покачивая головой, изрек он и тут же вздохнул, будто собираясь с силами. — Гёдель доказал, что в математике не существует одного общего приема для доказательства последовательности. Есть утверждения, которые истинны, но недоказуемы внутри системы. Его открытие, указав на ограниченность математических методов, выявило прежде не явную особенность строения Вселенной.
