— Лично меня привлекает идея ядерной бомбы, — сказал Гарри. — Нужно избавиться от накопившегося грязного прошлого, от старых идей и вещей, стряхнуть с себя коллективный дух. Ты как думаешь, Томас?
— Я хочу понять, чего ищет Стюарт, — настаивала Урсула. — Ты испуган, ты ненавидишь что-то и потому ведешь себя так странно.
— Стюарт считает, что мир — это творение Сатаны, — сообщил Гарри.
— Помоги ему, Томас, — призвала Мидж. — Не сиди как мумия, ты ничем не лучше Эдварда.
— Дьявол сотворил все, кроме одного — того, что он постоянно ищет, но не может найти, — отозвался Томас.
— Очень полезная старая еврейская пословица, — сказала Урсула. — А греки говорили, что Бог всегда занимается геометрией. А современные физики утверждают, что он играет в рулетку. Все зависит от наблюдателя, Вселенная — это сумма наблюдений, это произведение искусства, созданное нами…
— Квантовая физика — язык природы, — сказала Мидж.
— Кто это говорит? — спросил Томас.
— Я. Слышала по телевизору. Мы необходимы миру элементарных частиц, чтобы спасти его от хаоса. Все это похоже на полное безумие. Неудивительно, что существуют террористы. Неудивительно, что нам нужна религия.
— Если бы Ньютон не верил в Бога, он мог бы открыть относительность, — заметила Урсула.
— Неужели! — откликнулся Гарри.
— Теперь машина может быть умнее человека, — сказала Мидж.
— И мудрее, и лучше, — подхватил Гарри. — Это ясно как божий день. Компьютерная эра лишь начинается. Но даже теперь машина способна видеть бесконечно больше нас, она быстрее, она различает больше деталей и связей, она может корректировать и обучать себя, приобретать новые навыки, о которых мы и понятия не имеем. Машина объективна. Мы состоим из крови и плоти, наши реакции зависят от нервных клеток, мы хилые, мы несовершенные, а компьютеры — боги. Компьютер может руководить государством лучше человека…
— А разве мы уже не пришли к этому? — спросила Мидж. — Разве там, на Даунинг-стрит, бюджет составляет не компьютер?
— Компьютеры помогут нам изменить себя, а нам определенно пора меняться! Они предлагают нам новое видение человеческого ума — возвеличенного, очищенного и сильного. Мы можем узнавать о себе, наблюдая за ними, и улучшать себя, подражая им…
— А как по-твоему, Стюарт? — задал вопрос Томас.
— Машина не думает… — сказал Стюарт. — Машина не способна даже подражать человеческому разуму.
— Почему нет? — спросил Гарри.
— Ты хочешь сказать, она не наделена способностью синтаксического и семантического анализа? — поинтересовалась Урсула. — Разве сейчас не об этом говорят? Или ты считаешь, что она наделена разумом, но не сознанием?
— Потому что мы всегда пытаемся провести грань между добром и злом.
— Наверняка не всегда, — не согласилась Урсула, — и даже не часто.
— Кто может оценить мудрость машины — другая машина? Человеческим разумом наделены отдельные личности, и они увязли в оценочных действиях. Само восприятие включает в себя оценку.
— Но разве серьезное мышление не подразумевает объективности? — сказала Урсула. — Мы уходим от личного.
— Серьезное мышление зависит от справедливости и правдивости думающего, от непрерывного давления его разума на…
— Это другой взгляд, — перебила Урсула. — Открытия, конечно, можно использовать правильно или неправильно, но само мышление может быть чистым, без оценки, как истинная наука, как математика, как… В любом случае это нечто идеальное и…
— Это ведь невозможно просто включить, — сказал Стюарт. — По вашим же словам, наука идеальна и частично является иллюзией. Наша вера в науку как в разум есть нечто хрупкое. Витгенштейн
[9]
полагал, что идея человека на Луне не только неразумна, но и запрещена всей нашей системой физики!
— Стюарт презирает эмпиризм, — заключил Гарри, — он голосует за эмоциональную жизнь.
— Ты хочешь сказать, что существуют злонамеренные ученые? — спросила Мидж. — Или что компьютеры могут взбунтоваться?
— Не совсем так, — ответил Стюарт. — Что касается открытий, то тут дело не только в том, для чего они используются, и не в том, что человек должен быть разумным и заставлять себя судить нейтрально и объективно. Объективность — это та же самая правдивость. Вынесение справедливых суждений есть нравственная деятельность, мышление есть функция нравственности, оно осуществляется человеком и просто не может существовать без оценочной стороны. Эмпирическая наука тут не исключение…
— Ну хорошо, — сказала Урсула. — Однако исключение все же есть, и это исключение — математика, и именно поэтому ты и сдаешься! Это единственная вещь, не созданная тем, кто сотворил твой мир и постоянно пытается уничтожить математику, а я выступаю против него! Ты хочешь уничтожить ее…
— Так это все относительно? — спросила Мидж. — Я запуталась.
— Не ты, а он, — уточнил Гарри.
— Понимаете, математика — это некая диковинка, — говорил Стюарт, — хотя она тоже часть нашего мышления, более запутанная, чем думают люди посторонние. Математика впечатляет нас, нам кажется, будто она ясна и не может ошибаться, мы называем ее языком… Но она не может быть моделью для разума. Идеальных моделей нет и быть не может, поскольку разум — это человек, а человек пронизан нравственностью и духовностью. Идея машины неуместна, «искусственный разум» — это ошибочный термин…
— Ну вот, теперь он завел про духовность! — воскликнул Гарри. — Ты хочешь все наделить нравственностью, это твоя разновидность религии. Ты хочешь загнать в угол то, что на самом деле объективно и имеет собственное место. Но наша эпоха учит как раз противоположному. Современная наука уничтожила различие между добром и злом, там нет никакой глубины. Таково послание современного мира: глубина есть только в науке. И Урсула права, математика — чистый пример. В этом-то все и дело, потому что математика повсюду, она уже сорвала банк, и биология стала математикой наших дней. Разве не так, Урсула? Язык планеты — математика…
— Ты пьян, — сказала Урсула.
— Чего ты боишься? — спросил Томас Стюарта. — Ты можешь определить?
— О, всего того, о чем мы говорили.
— Но мы говорили всякую чушь, — сказала Урсула. — Обычная застольная болтовня.
— Я боюсь, что мы можем потерять наш язык и вместе с ним потерять наши души, наше ощущение правды и реальности, наше чувство направления, наше представление о добре и зле.
— Сейчас определенно конец эпохи, — проговорил Гарри. — Энергия, доставшаяся нам от греков и Ренессанса, полностью израсходована. Новые технологии — это жизненная сила.
