Нетрудно понять, для чего нужно оптимизировать душ. Вы можете задавать нужную температуру и напор воды. Но для чего оптимизировать рынок? В абстрактном смысле – для достижения эффективности, но идея эффективности рынка субъективна.
Когда речь заходит о серверах-сиренах, эффективность отражает то, насколько успешно сервер влияет на мир людей, сопоставляя его со своей собственной моделью мира. Именно так большие массивы данных констатируют двойственную природу искусственного интеллекта. Нельзя сказать, насколько успешность работы алгоритмов ИИ обусловлена тем, насколько меняются сами люди, чтобы создать впечатление этой успешности. Люди уже не раз доказывали, что вполне способны адаптироваться к снижению требований, лишь бы программа выглядела умной.
Если мы собираемся придерживаться чистейших абстракций, таких как эффективность с точки зрения сервера-сирены, то более «эффективная» экономика быстрее пойдет на спад по сравнению с менее эффективной. Если когда-нибудь возникнет идея о том, что роботы эффективно управляют миром, то деньги будут крайне редко переходить из рук в руки, а инвестиции почти исчезнут.
Этот экономический тупик обернется стагнацией на одном из пиков энергетического ландшафта – на вершине жалкой кочки. Если поверить иллюзии, что вершина может быть только одна или что существует лишь один вариант равновесия, то мы сможем поверить и в то, что любое отклонение от вершины этого холмика означает отрицание эффективности и рациональности. Но это станет проявлением той же самой математической безграмотности, которая уже успела отравить политику.
Какого бы результата работы рыночных механизмов мы ни ожидали, нам не найти самых высоких вершин, если мы организуем рынки так, чтобы они направляли риск вовне, а вся власть окажется в руках небольших, но влиятельных узлов компьютерной сети. Этот процесс не научит нас почти ничему.
Четвертая интерлюдия
Ограничения для маглов
[75]Бесконечный разговор о сердечном картеле
Тридцать лет назад мне невероятно посчастливилось встретиться с Марвином Минским, профессором Массачусетского технологического института и одним из основателей подхода к информатике с точки зрения искусственного интеллекта. Марвин был удивительно добр и великодушен по отношению ко мне, очередному юному чудаку, которого он взял под крыло. Сидя с ним за одним столом, я слышал первые проблески настроений, которые спустя десятки лет будут господствовать в Кремниевой долине.
В начале восьмидесятых Кембридж, штат Массачусетс, был захолустьем, как и большинство американских городов, которые начали загибаться в семидесятые. Здания, выглядевшие так, словно пережили бомбежку, и почти безлюдные мрачные улицы резко контрастировали с корпусами Массачусетского технологического института. Внутри этих корпусов зарождалась и ждала своего часа новая интеллектуальная жизнь. Умники только-только начали штурмовать реальность.
Как-то раз за ужином Марвин завел длинный разговор об экономических последствиях изобретения искусственного сердца. Мы находились в его огромном доме в Бруклайне, элегантном, как и все загородные дома, где царил просто очаровательный хаос. Книги и научные журналы громоздились беспорядочными кучами повсеместно, в том числе и на огромных пианино, о существовании которых можно было лишь догадываться по форме бумажных гор. Кое-где в этих завалах виднелись забавные артефакты науки двадцатого века… тут были и детали от известных роботов, и телескопы, и несколько самых первых цифровых музыкальных инструментов. Пахло старой бумагой и машинным маслом. Некогда просторный дом превратился в настоящий лабиринт. Иногда сквозь завалы проглядывали красивые деревянные стены.
Надеюсь, мне простят такую вольность, если я, спустя несколько десятков лет, перефразирую одну из провокационных фраз Марвина: «Каждый миллиардер, страдающий от кардиологических заболеваний, должен потратить миллиард долларов на разработку искусственного сердца. Исследования стоит сосредоточить на гигантском проекте вроде полета на Луну или Лос-Аламоса. Заселите маленький городок ведущими учеными и инженерами, которые сделают первые действительно качественные искусственные сердца для кучки богатеев. Конечно, некоторые интересные проекты уже запущены… но усилия в таких малых масштабах требуют слишком много времени. Не жалейте средств! Добейтесь цели! Если есть единая рабочая модель, цены рухнут, как это обычно бывает. В итоге выиграют все. Миллионы людей умирают из-за того, что мы с таким негодованием относимся к чьему-то богатству». Когда Марвин злился, глаза его забавно сверкали.
Возможно, в те времена какой-нибудь длинноволосый студент с левыми взглядами резко возразил бы ему:
– А не возникнет ли тогда картель искусственных сердец? Как остановить сердечный шантаж? Так ведь можно и в раба превратиться, лишь бы выжить.
– Нет, этого не случится, причем ровно по той же причине, почему этого не случилось с появлением доступных компьютеров. Куда больше денег можно заработать, продавая миллионы дешевых вещей, чем что-то дорогое, но в небольшом количестве.
– Но деньги всего лишь средство достижения власти. Контроль над производством и продажей искусственных сердец поможет достигнуть этой цели более прямым путем.
– То же самое можно было бы сказать о компьютерах, и такие разговоры действительно были. Если появится одно искусственное сердце, за ним появятся и другие, так что не переживай насчет картелей. Рано или поздно появятся дешевые искусственные сердца, точно так же как это было с компьютерами.
– Но если бы правительство не профинансировало информатику на заре ее появления, первые компании взяли бы компьютеры под куда более тщательный контроль.
– Слушай, даже если бы картель и возник, долго он не протянул бы. Короче говоря, чем скорее создадут технологию, позволяющую выпускать качественные искусственные сердца, тем скорее от этого выиграют люди, особенно рядовые граждане. Пока ты морщишь нос в сторону богатых, ты теряешь драгоценное время, за которое сердечный картель может распасться. Почему ты хочешь позволить миллионам людей умереть только ради того, чтобы ты жил в идеальном обществе? Оно правда того стоит?
Разговоры повторялись снова и снова. И, высказав свое мнение, мы не ложились спать, а до утра писали код.
Неспособные прикидываться рискуют жизнью
Мы не знаем наверняка, чего можно достичь с помощью технологий. Из-за горизонта нам открывается сияющий фантастический вид райского будущего, где можно добиться всего, чего пожелаешь. Нельзя сказать, насколько эта картина реальна. Мысль о том, что какую-то задачу просто невозможно решить, способна сама по себе помочь найти решение. Мы не должны мириться с ограничениями. Ограничения убивают.
Ощущение себя технарем, который вот-вот перешагнет через эти границы, сродни мании и экстазу; ему невозможно сопротивляться. Я не только в полной мере ощущал это сам, но и научился делиться этим чувством с другими. В восьмидесятые я делился мнением о перспективах виртуальной реальности на своих лекциях и бормотал об этом себе под нос, когда мы работали над демонстрационными проектами в лаборатории. Я мог внушить людям трепет предвкушения.
