Что делать, если инструменты становятся смыслом, как это уже произошло с Facebook? Что, если они настолько неотразимы и удобны, что мы даруем им собственную волю? Что, если эти смартфоны и смарт-экраны, умные часы и очки виртуальной реальности станут когнитивными сами по себе и выйдут за рамки просто наших инструментов? Что, если наш «внешний мозг» сможет напрямую соединиться с нашим собственным неокортексом?
У технологий нет этики, они существуют в облаке нигилизма, в пространстве без убеждений
Как бы многие из нас ни любили технологии, сейчас нам нужно признать тот факт, что они не учитывают, никогда не будут, да и не должны естественным образом учитывать наши ценности, убеждения и этику. Они будут рассматривать наши ценности только как каналы данных, объясняющие наше поведение.
Боты и интеллектуальные цифровые помощники (IDA) будут все больше высасывать, читать и анализировать десятки миллионов каналов данных обо мне и пережевывать каждую цифровую крошку, которую я бросаю. Однако независимо от того, сколько данных о расходах на исследования и разработки они соберут и проанализируют, программное обеспечение и машины никогда не смогут по-настоящему понять мои ценности или этику, потому что они не могут быть такими же людьми, как я. Они всегда будут приближениями, моделями и упрощениями. Полезными – да. Реальными – нет.
Давайте я приведу несколько примеров этических проблем, связанных с технологическим прогрессом.
Многие физики-ядерщики не предполагали, что будет создана атомная бомба, когда впервые работали над фундаментальными научными и математическими проблемами. Эйнштейн считал себя пацифистом, но все же призвал правительство США создать бомбу раньше Гитлера. Как уже было сказано выше, Дж. Роберт Оппенгеймер, широко известный как отец атомной бомбы, сожалел о своем изобретении после Хиросимы и Нагасаки174. Однако этика военно-политического комплекса, в котором они эффективно функционируют, сделала их обоих причастными к созданию оружия массового уничтожения.
Интернет вещей является еще одним прекрасным примером: он, несомненно, принесет большую пользу в сборе, подключении и объединении огромных объемов данных из сотен миллиардов объектов, подключенных к сети. Таким образом, он может стать потенциальным решением многих глобальных проблем, таких как изменение климата и мониторинг окружающей среды.
Идея заключается в том, что, когда все будет продумано и взаимосвязано, мы сможем сделать многие процессы более эффективными, сократить издержки и добиться больших успехов в защите окружающей среды. Хотя речь идет об умных идеях, нынешние схемы реализации интернета вещей почти полностью лишены внимания к человеческим соображениям, проблемам и этике.
Совершенно неясно, как будет сохранена конфиденциальность в этом глобальном мозге в облаке, как будет предотвращен тотальный контроль и кто будет отвечать за все эти новые данные. В настоящее время внимание в основном уделяется чудесам производительности и гиперкоммуникабельности, в то время как нежелательные и негативные последствия, похоже, никого не беспокоят.
В сфере здравоохранения эксперт Кремниевой долины по экспоненциальному изобилию Питер Диамандис (чью работу я в целом оцениваю очень высоко) позитивно высказывается о Human Longevity, Inc. – его новом стартапе, созданном с пионером генома человека Крейгом Вентером, и о том, как он позволит нам жить гораздо дольше – возможно, вечно175. Однако он, кажется, абсолютно игнорирует большинство этических или моральных вопросов, связанных со спорами вокруг старения, долголетия и смерти.
Кто сможет позволить себе эту терапию? Только богатые будут жить больше 100 лет? Что значит покончить со смертью? Действительно ли смерть является болезнью, как говорит Диамандис, или она является неотъемлемой и неизменной частью человеческого бытия? Вопросов предостаточно, но, точно так же как и в первые дни исследований ядерного оружия, многие инженеры-технологи Кремниевой долины, похоже, предпочитают продолжать разработки в этих направлениях настолько быстро, насколько это возможно, не особенно рефлексируя на тему последствий применения их открытий.
Я считаю, что смерть – это великая трагедия… глубокая потеря… Я не принимаю ее… Я считаю, что люди обманывают себя, когда говорят, что им комфортно со смертью.
– Рэй Курцвейл176
Ключевой посыл здесь заключается в том, что технологии, как и деньги, не могут быть ни хорошими, ни плохими. Они просто существуют как средство. В 1950-х годах Октавио Пас, великий мексиканский поэт, хорошо резюмировал:
Нигилизм технологий заключается не только в том, что они являются наиболее совершенным выражением воли к власти… а также в том, что им не хватает смысла. «Почему?» и «С какой целью?» – вопросы, которыми не задаются технологии177.
Интересно, будет ли нигилизм экспоненциальных технологий таким же экспоненциальным? Тысячу раз таким же нигилистическим, и, возможно, таким же эгоистичным? В конечном счете будем ли мы видом, полностью лишенным сознания, тайны, духовности и души, просто потому, что для этих андроритмов в этой грядущей эпохе машин нет места?
В связи с этим важно рассмотреть две вещи:
1. По-настоящему великие технологии всегда должны в первую очередь быть направлены на дальнейшее счастье человека, т. е. не просто привести к росту и прибыли, потому что одно только стремление к экспоненциальному росту и прибыли, скорее всего, превратит нас в машины слишком скоро. Эта новая парадигма будет представлять собой радикальный сдвиг для каждого бизнеса и каждой организации.
2. Технологии с потенциально катастрофическими последствиями, такие как геоинженерия или всеобщий искусственный интеллект, должны управляться и контролироваться теми, кто доказал, что обладает житейской мудростью, то, что древние греки называли фронезисом. Управление этими технологиями не должно зависеть от разработчиков технологий, корпораций, военных бюрократов, венчурных капиталистов или крупнейших в мире интернет-платформ.
Каким будет технологический прогресс, если мы как биологический вид не будем процветать, если мы не достигнем чего-то, что действительно поднимет всех нас на другую ступень счастья? Следовательно, при оценке новых технологий или последних достижений науки, технологий, инженерного дела и математики (STEM) мы всегда должны задаваться вопросом о том, действительно ли конкретное нововведение будет способствовать коллективному благосостоянию большинства сторон, участвующих в его реализации.
Будут ли более дешевые и быстрые технологии, растущие удобства и изобилие, более легкое потребление, сверхчеловеческие силы или дальнейшие экономические выгоды действительно делать нас счастливыми? Будут ли лучшие приложения, боты, интеллектуальные цифровые помощники, мощная дополненная и виртуальная реальность или мгновенный доступ к глобальному мозгу через новый нейрокомпьютерный интерфейс (BCI) в действительности означать, что мы как биологический вид и каждый по отдельности действительно процветаем? Или пожинать плоды в первую очередь будут те, кто создает и продает инструменты и платформы, а также те, кто владеет ими?
