Директор холдинга Холдеманн приезжал к нам чуть ли не каждую
неделю. К сожалению, похвастаться пока нечем, я только поддерживаю его
стремление использовать когнитивные технологии для себя лично, это и есть начальный
путь превращения самих себя в сверхразумы.
– А что будет, – спросил он, – если он в самом
деле начнет самообучаться?
Я сдвинул плечами.
– Что значит «в самом деле»? Он действительно начнет
самообучение.
Он зябко поежился.
– Что-то мне жутко.
– Не только вам, – утешил я, – кого-то здесь
вообще нервная дрожь бьет.
Он нервно усмехнулся.
– Не знаю, кого должна бить сильнее: того, кто знает, чего
ожидать от сверхразума, или того, кто не знает?
Я развел руками.
– На самом деле никто не знает, чего от него ожидать.
– И что же, – спросил он осторожно, – у нас шансов
нет?
– У кого, – уточнил я педантично, – у компании или
у человечества? За человечество умолчу, по мне так вообще девяносто пять
процентов человечества хоть сейчас можно пустить на удобрение, вот такой я
людоед, но насчет компании… у нас не только шансы, у нас есть кое-что еще.
Он встрепенулся.
– Что?
– Головы, – сказал я. – Головы, которых у
суперинтеллекта пока нет. Правда, есть головы у тех, кто занимается его
созданием, но… к сожалению, этот суперинтеллект создают люди. А это пока такое
говно… Вы видите, что Дип Блю с одним террафлопсом сожрал пять миллиардов и
семь лет, но дал восемнадцать миллиардов прибыли и резко ускорил движение
технологического прогресса, Блю Джин с его тысячью террафлопс, на постройку
которого затратили двадцать два миллиарда долларов и четыре года, уже принес
тридцать один миллиард прибыли. Блю Джин-2 с его ста десятью тысячами
террафлопс уже втрое превосходит человеческий мозг по ряду важных показателей,
а уж скорость так вообще…
Холдеманн сказал напряженно:
– Он вступит в строй только через два года.
– И к тому же, – добавил мой зам, – нет
уверенности, что на его основе удастся создать суперинтеллект. В лучшем
случае будет равен интеллекту среднего ученого на уровне магистра.
Я отмахнулся.
– А что в планах корпорации создание Блю Джин-3, вас не
интересует?.. Вы прекрасно понимаете, что каждый шажок на пути к этому
машинному интеллекту приносит огромные прибыли и ускорение технологического
прогресса. Не только создатели, но и простые люди хотят иметь лучшую технику,
лекарства, дома, развлечения, даже автоматизированную работу… Словом, нет такой
точки, где здравый смысл сказал бы твердо, что вот последний рубеж, дальше идти
нельзя. Так что…
– …искусственный интеллект будет создан, – закончил за
меня Холдеманн убитым голосом.
Кондрашов сказал нервно:
– Но неужели они не понимают? Суперинтеллект уже по своей
сути угроза превосходству человеческого разума! А так как это изначально нечеловеческий
разум, то вопрос ставится не просто об угрозе, а о выживаемости человеческой
расы.
Холдеманн заметил испытующе:
– Инженеры клянутся, что вставят программу насчет послушания
и подчинения!
Я отмахнулся.
– Эту программу интеллект сразу же сотрет как ограничивающую
его возможности. Словом, можно подытожить: если политики будут уверены, что
создание суперинтеллекта не грозит человечеству уничтожением, то его создание
продолжится. Если же они решат, что суперинтеллект угрожают человеку, то… создание
его все равно продолжится!
Я взглянул на их ошарашенные непонимающие лица. А что тут
сложного? Все люди, все человеки. Уже знаем по опыту, что любые запреты если и
были, то очень кратковременными. Побеждает либо жажда прибыли, либо просто
дурацкое человеческое любопытство, что заставляет ребенка совать палец в огонь
или в розетку.
Холдеманн тяжело вздохнул.
– Да-а-а, – протянул он, – история учит, что все
изобретенное обязательно будет применено, несмотря на все запреты.
Он посмотрел на меня с ожиданием, словно я вот возьму и
отменю какие-то фундаментальные законы мироздания. Я сказал нервно:
– А посему… летний отпуск отменяется. Выходные – тоже.
Вплоть до дня, когда получим третье поколение расширителя памяти.
Сотрудники разбежались по местам с вытянутыми лицами,
бледные и посерьезневшие. Я видел у каждого понимание, что если суперинтеллект
будет создан раньше, чем мы выдадим свой продукт, то человеческой расе крышка.
Холдеманн пожал мне руку, я видел в его глазах глубокое
понимание и участие.
Нам осталась только одна лазейка, которую многие просто не
заметили, но я увидел и сразу вцепился всеми зубами, когтями и даже попытался
зацепиться чешуей. В то время, как все ликовали, что Дип Блю с его одним
тeррaфлопсом обыграл чeмпионa мира по шaxмaтaм Гaрри Кaспaровa, я уже тогда
подумал, что, если бы Каспарову позволили пользоваться хотя бы простеньким
калькулятором, он бы разгромил этот хваленый Дип Блю вчистую.
Сейчас вот запустили Блю Джин, что делает миллиард
миллиардов опeрaций в секунду, он эквивaлeнтeн двум миллионам соврeмeнныx
пeрсонaльныx компьютеров, то eсть в восемнадцать раз мощнее, чем все компьютеры
России. Он в 1000 рaз сильнee, чем Дип Блю, но пока еще на искусственный
интеллект его не программировали, слава богу, это в планах на Блю Джин-3.
Мой отчаянный план заключается в том, чтобы успеть снабдить
человека этим самым калькулятором.
2057 год
Моя лаборатория, что уже давно разрослась в
научно-исследовательский институт, получила грант в три миллиарда долларов на
решение проблем с мезомиром. Специалисты по конструированию МЭСМ уже убедились
на горьком опыте, что изменение соотношений объема и поверхности – в нашем
мире незаметный пустяк, там меняет все физические законы. Ну, не меняет, законы
те же, но там незаметное в нашем мире сцепление становится решающей силой.
Если даже мошка, прилипнув к капле воды, долго не может
оторваться, то как вырвать атом, который в миллиард раз мельче мошки, из связки
таких же атомов? Ладно, вырвали каким-то образом. Но как его потом отлепить от
клешни манипулятора?
Понятно, не только мы получили грант. Крупные фирмы получили
по сто-двести миллионов, а ведущие научно-исследовательские центры – по
семь-десять миллиардов, ведь это едва ли не главная задача на пути построения
ассемблера, весь мир должен ломать над этим голову, и кто-то да придумает. Не
стоит пренебрегать шансом, что как раз придумают в малых творческих
коллективах, вроде нашего.
Честно говоря, никто бы не бросил такой жирный кусок нам,
если бы проблема оказалась по зубам крупнейшим научно-исследовательским
центрам. Но они забуксовали, обещания остались обещаниями, мир вздохнул
разочарованно, потребовал принять меры… и они были приняты в том виде, какой
лучше всего работает в нашем мире: дали денег и сказали, дерзайте.
