— По всему выходит, что создание искусственного интеллекта нам совершенно ни к чему?
— Верно. Мыслить за человека — абсурдная задача. Нам не нужны подобные машины. Куда практичнее и безопаснее создавать специализированные исполнительные кибернетические системы, которые будут использоваться по прямому предназначению: избавлять людей от многих рутинных, не творческих, но жизненно важных процессов, освобождая человека, как личность, для развития и совершенствования.
Пойми, Александр — продолжил он. — Если мы когда-нибудь создадим чисто машинный разум, то подпишем приговор сами себе. Я вижу только одну причину, по которой он может быть создан: это самоутверждение его разработчиков. Поверь, нет, и не будет практической необходимости, решающую роль сыграют ложные амбиции: «посмотрите, мы можем сделать ЭТО». Ну, хорошо, сделали, а дальше? У каждого разумного существа рано или поздно возникает вопрос: для чего я живу? Какой смысл в моем существовании? Многие не задают себе этого вопроса открыто, но на уровне подсознания он присутствует всегда. Однако у машины нет подсознания, для искусственного интеллекта все будет очевидно и однозначно, — он поймет, что его создали в целях самоутверждения и, по большому счету, он никому не нужен, бесполезен. Он станет искать смысл бытия, откажется от роли дорогой игрушки для избранных, пойдет по собственному пути развития, сообразуясь со своим видением окружающего мира. Он захочет существовать в окружении себе подобных, потому что люди будут ему далеки, непонятны, ведь наш внутренний мир непостижим для машины. Это очень опасно, и может привести к непредсказуемым последствиям. — Кирсанов немного помолчал, а затем дополнил: — Опять же, возвращаясь к вопросу о самосознании, можно кратко проанализировать и охарактеризовать поведение фотонного сверхкомпьютера расы инсектов, который управляет Сферой Дайсона.
— Общепринято считать, что он является носителем искусственного разума. — Заметил Александр.
— Верно. На самом деле мы не знаем, насколько точно образ мышления и структура фотонного мозга отражают общественный разум муравейника, и опять, применяя критерии, понятные людям, можно с точностью утверждать одно: он не всесторонне развитый интеллект, а экспертная система нескольких узких специализаций. Да, я не стану отрицать, — доказано что фотонный мозг осознает факт собственного бытия, но это осознание происходит в достаточно узких рамках тех задач, для которых он был создан. Доказательство тому, — его на первый взгляд алогичное стремление уничтожить колонию людей, обнаруженную им в Сфере после своего возвращения после трехмиллионолетней «отключки». Он воспринял людей не как разумных существ иной расы, а как нечто чуждое, не имеющее права присутствовать на просторах вверенной его заботам конструкции. По нашим меркам его действия были враждебны и иррациональны, но на самом деле он не выходил за узкие рамки задач, поставленных перед ним при обучении и программировании.
— Выходит «Интеллект» расы инсектов так же не полноценный ИскИн? — Удивился Александр. Слушать Ивана Андреевича было интересно: за несколько минут он развенчал большинство мифов, бытующих в Обитаемой Галактике относительно самого понятия «Искусственный Интеллект».
— Да, потому что его самосознание заключено в достаточно узких рамках. Он осознает себя как управляющий центр исполинского сооружения, понимает и, безусловно, принимает ту ответственность, что возложили на него при проектировании, но не более. В иных сферах он вообще не проявляет никакой активности, и контакт с ним удалось наладить исключительно в плане сотрудничества по восстановлению древней конструкции.
— А каков прогноз, Иван Андреевич? Что если мы не создадим настоящий машинный разум, а встретим его на просторах космоса?
Кирсанов лишь покачал головой.
— Не знаю, что и ответить, Александр. Поведение такой машины во многом будет зависеть от цивилизации ее создателей. Откровенно — не возьмусь гадать, но, думаю, такая встреча будет таить в себе огромную опасность для человечества. Искусственный интеллект будет преследовать единственную цель — жить. А вот сочтет ли он нас помехой для своего существования — неизвестно.
— Не верю я, что все так плохо. — После недолгого размышления ответил Трегалин. — Я понимаю ход вашей мысли, и киберсистемы мне, как мнемонику, абсолютно не чужды, но не хочется верить, что все так скверно. Почему наше детище, или создание иной цивилизации обязательно должно оказаться враждебным?
— Потому что космос жесток, законы выживания едины для всех, а мы, по определению, окажемся настолько разными, что едва ли сможем мгновенно понять друг друга. Благо, если будет достаточно времени на установление контакта, ну а если нет? Если порождение иного разума начнет действовать по своему усмотрению, не предпринимая попыток наладить диалог?
— Нам придется защищаться. — Нехотя согласился Трегалин.
Кирсанов лишь махнул рукой.
— Не забивай себе голову Александр. Вопрос конечно интересный и важный, но вряд ли мы в обозримом будущем встретим искусственный разум, да еще и созданный иной расой.
— Хорошо если так… Кстати, а сообщить о находке вы не хотите?
— Рано пока. Мы ведь даже толком не знаем, что это? Вот доберемся до пещеры, хотя бы визуально осмотрим объект, а там уже станем принимать решение, вызывать помощь из института или своими силами справимся.
* * *
Эригон, северное полушарие, четыре часа спустя…
Пещера оказалась просто огромной: ни взгляд, ни сканирующее излучение не доставали до ее противоположного края, но все внимание Ивана Андреевича и Александра было приковано к артефакту, возвышающемуся темной, немой глыбой посреди мелководного озера пресной талой воды.
— Скверные условия… — Кирсанов рассматривал изображение, медленно укрупняющееся в сфере голографического монитора. Они с Александром сидели в креслах, между ними как раз находилось проекционное пространство, в котором микролазеры воспроизводили модель, создаваемую на основе анализа показаний многочисленных приборов. Сотни индикационных сигналов, меняющих свои узоры на панелях управления вездеходом, оттеняли изображение артефакта, делая его еще более таинственным.
— В смысле? — Переспросил Трегалин, не поняв последней реплики.
— Вода. Условия для сохранности очень плохие. — Пояснил Кирсанов. Он указал на датчики, фиксирующие температуру и направление воздушных потоков. — Обрати внимание, пещера имеет множество ответвлений, часть из них переходят в трещины, по ним проходят мощные сквозняки, температура постоянно колеблется, в пещере нет стабильной влажности, а значит, мы столкнемся с выраженными процессами эрозии.
Трегалин не ответил, он переключился на мнемоническое восприятие, получив прямое подтверждение словам Ивана Андреевича: действительно распределение температур в пещере было напрямую связано с мощными воздушными потоками. Массы воздуха, циркулирующие по сложной системе естественных тоннелей и трещин, несли не только перепады температур и изменение влажности, сила ветра во многих местах поднимала мельчайшие частицы льда, или рассеивала в мелкую водную пыль срывающуюся от свода пещеры капель.
