Посмотрим, как можно применить закон Мура к интеллектуальному взрыву. Если считать, что УЧИ достижим, то, согласно закону Мура, для получения ИСИ, или сверхчеловеческого интеллекта, не потребуется, возможно, даже рекурсивного самосовершенствования, о котором обычно говорят в контексте интеллектуального взрыва. Дело в том, что меньше чем через два года после появления УЧИ машины с интеллектом человеческого уровня должны будут удвоить скорость работы. Затем, в следующие два года, нужно ожидать очередного удвоения. Все это время средний человеческий интеллект будет оставаться неизменным, так что очень скоро ИИ человеческого уровня оставит нас далеко позади.
Что произойдет, если интеллект начнет принимать участие в собственной модификации? Елиезер Юдковски ясно объясняет, как быстро после появления УЧИ технический прогресс может выскользнуть из наших рук.
Если сегодня скорость компьютеров удваивается каждые два года, как будут развиваться события, когда ИИ, использующий эти вычислительные мощности, начнет принимать участие в исследованиях?
Скорость компьютеров удваивается каждые два года.
Скорость компьютеров удваивается каждые два года исследований.
Скорость компьютеров удваивается каждые два субъективных года исследований.
Через два года после того, как искусственный интеллект достигает человеческого уровня, скорость его работы удваивается.
Еще через год его скорость вновь удваивается. Полгода — три месяца — 1,5 месяца…
Сингулярность.
Кое-кто возражает, что закон Мура перестанет действовать еще до 2020 г., когда запихивать все больше и больше транзисторов в интегрированные микросхемы станет физически невозможно. Другие думают, что закон Мура сменится еще более стремительным удвоением, когда процессоры пройдут техническую модернизацию и станут использовать для вычислений еще более мелкие компоненты, такие как атомы, фотоны света и даже ДНК. Не исключено, что первыми преодолеют закон Мура 3D-процессорные чипы, разработанные Федеральной политехнической школой Лозанны (Швейцария). Эти процессоры еще не производятся массово. Компонуются они не горизонтально, а вертикально и будут работать быстрее и эффективнее традиционных чипов; кроме того, они готовы к параллельной обработке информации. Компания, одним из основателей которой был Гордон Мур, возможно, уже превзошла количественные показатели его закона, создав первый 3D-транзистор. Припомните, транзисторы — это электрические ключи. Традиционные транзисторы работают, направляя электрический ток по одному из двух путей. Новые транзисторы Tri-Gate фирмы Intel могут направлять ток по трем путям, что дает 30 %-ное увеличение скорости и экономию энергии до 50 %. По миллиарду таких транзисторов будет в каждом из чипов следующей линейки процессоров Intel.
Размещение транзисторов на кристаллах кремния играет важную роль во многих информационных технологиях от фотокамер до медицинских датчиков, так что закон Мура применим и к ним. Но Мур рассуждал об интегральных схемах, а не о множестве взаимосвязанных миров информационных технологий, включающих и продукты, и процессы. Так что более общий закон Курцвейла — Закон прогрессирующей отдачи — подходит больше. К тому же сейчас многие технологии становятся информационными, по мере того как компьютеры и даже роботы все более плотно вовлекаются во все аспекты разработки, производства и продажи новых продуктов. Ведь каждый производитель смартфонов — а не только их процессоров — воспользовался плодами цифровой революции. Прошло всего шесть лет с выхода первой модели iPhone, a Apple выпустила уже шесть версий. За это время фирме удалось более чем удвоить скорость их работы и вдвое или даже больше снизить цену для большинства потребителей. Дело в том, что скорость блоков конечного устройства все это время исправно удваивалась. Но ведь удваивалась и скорость каждого звена производственного конвейера.
Перспективы, которые прогнозирует Закон прогрессирующей отдачи, выходят далеко за рамки компьютерного бизнеса и производства смартфонов. Не так давно один из основателей Google Ларри Пейдж встретился с Курцвейлом, чтобы обсудить глобальное потепление, и расстались они на оптимистичной ноте. Через 20 лет, утверждают они, нанотехнологии позволят использовать солнечную энергию эффективней экономически, чем нефть или уголь. Эта индустрия сможет обеспечить Землю энергией на 100 %. Пока солнечная энергия обеспечивает всего 0,5 % мировых потребностей, но они утверждают, что эта доля в течение последних двадцати лет удваивается каждые два года. Так что еще через два года солнечная энергия будет составлять 1 % мирового потребления, через четыре — 2 %, а еще через 16 лет и 8 удвоений — 256 % мировых энергетических нужд. Даже с учетом роста населения и энергопотребления через 20 лет солнечной энергии должно с избытком хватать на все. Кроме того, если верить Курцвейлу и Пейджу, будет решена и проблема глобального потепления.
Ну, и, скажем так — проблема смертности. По Курцвейлу, средства продления жизни (практически до бесконечности) уже почти готовы.
«Теперь мы имеем реальные средства разобраться в программировании жизни и начать ее перепрограммировать; мы уже умеем выключать гены без всякого вмешательства, мы можем добавлять новые гены и целые новые органы с применением стволовых клеток, — сказал Курцвейл. — Дело в том, что медицина сегодня — это информационная технология, и ее мощность будет удваиваться каждый год. Через двадцать лет эти технологии станут в миллион раз мощнее за те же деньги».
Курцвейл считает, что кратчайший путь к созданию УЧИ — обратное проектирование мозга, то есть тщательнейшее его сканирование и построение набора точно таких же схем. Эти схемы, представленные в виде алгоритмов или реальных физических контуров, нужно подключить к компьютеру как единый синтетический мозг и научить всему, что ему необходимо знать. Несколько организаций работают над подобными проектами создания УЧИ. Чуть позже мы поговорим о некоторых подходах и препятствиях в этом деле.
Скорость развития элементной базы, необходимой для построения виртуального мозга, требует более тщательного рассмотрения. Начнем, пожалуй, с человеческого мозга, а затем перейдем к компьютерам, способным его смоделировать. Курцвейл пишет, что в мозгу около 100 млрд нейронов
[21], причем каждый из них связан примерно с тысячей других нейронов. Все вместе это составляет около 100 трлн межнейронных соединений. Каждое соединение способно производить порядка 200 расчетных действий в секунду (электронные схемы работают по крайней мере в 10 млн раз быстрее). Курцвейл умножает число межнейронных связей в мозгу на число действий в секунду и получает 20 квадриллионов, или 20 000 000 000 000 000 действий в секунду.
