Это, безусловно, будет огромной задачей и, естественно, чревато неопределенностью относительно того, сможем ли мы договориться даже о самых элементарных правилах для человечества.
Тем не менее, если мы хотим справиться с неизбежными столкновениями между людьми и машинами, описанными в этой книге, нам понадобится новый вид глобального управления, подкрепленный все более дальновидными прогнозами. Нам нужно, чтобы основополагающие правила были решительными, но достаточно гибкими, чтобы не препятствовать прогрессу. Пугающе? Да. Невозможно? Нет. Есть ли альтернативы? Нет.
Девять принципов
Для того чтобы способствовать обсуждению наилучших путей продвижения вперед, я сформулировал девять принципов. Они отражают суть основных аргументов, которые я представил на страницах этой книги, но все еще находятся в стадии разработки и далеки от полного или окончательного варианта.
1. Нам необходимо лучше понимать экспоненциальность и ее значение для будущего человечества. Мы должны представлять экспоненциальные и комбинаторные изменения и учиться жить с ними. В нашем ближайшем будущем «поживем – увидим» будет так же опасен, как «просто сделаем это». «Постепенно, а затем внезапно» – это действительно новая норма, и мы не должны упускать возможность воспользоваться взлетно-посадочными полосами в будущее, пока они все еще перед нами. Также необходимо напомнить себе, что наше будущее – это то, что мы постоянно сами определяем и создаем, а не то, что просто происходит с нами.
Для того чтобы достичь этого, нам необходимо быть любознательными и открытыми, представлять себе свою жизнь при различных вариантах развития событий, понимать, каково было бы на самом деле жить в этом будущем… Связаться с людьми, которые делают будущее возможным, повысить нашу общую осведомленность о духе времени, окружающем нас, меньше предполагать, больше узнавать и отказаться от тех токсичных предположений, которые так хорошо работали в прошлом, принять резкий прогресс науки, но всегда видеть его в контексте общей человеческой цели. Технологии могут быть раем, или адом, или и тем и другим (#hellven), поэтому мы должны быть активными и осторожными в зависимости от того, что, где и когда поставлено на карту.
2. Самые сложные задачи часто являются самыми невероятными возможностями (и наоборот). Наше будущее во многом зависит от этого разумного баланса магического и маниакального (но, надеюсь, не токсичного) использования технологии. Потому что, как предполагает Уильям Гибсон, технологии являются морально нейтральными до тех пор, пока мы не применяем их201. Достижение баланса будет больше связано с управлением приложениями и воплощением технологий, чем с предотвращением или даже регулированием самих изобретений. Будущее не скажет нам «да» или «нет», оно ответит нам «по-разному». Я уверен, что, если мы можем позволить чаще озвучивать вопросы «почему?» и «с какой целью?», появится сбалансированный подход.
3. Нам необходимо гораздо лучше распоряжаться будущим человечества. Каждый бизнес-лидер, пионер технологий и государственный чиновник должен взять на себя ответственность за формирование будущего человечества и действовать в соответствии с ней. Гражданские и политические лидеры должны выработать глубокое понимание технологий и личную технологическую перспективу в контексте человечности и самим распоряжаться нашим общим будущим. Во всех секторах всех отраслей нам потребуется новый вид сверхвзаимодействия, а не сверхконкуренции, и нам нужно будет думать целостно обо всех этих традиционно отдельных областях.
4. У технологий нет этики, но общество без этики обречено. Мы находимся на пути к будущему, где буквально на все вокруг нас обрушится цунами технологических достижений. Однако то, как мы создаем мир, как мы оцениваем, что правильно или неправильно, как мы решаем, использовать ли определенные технологии или нет, все еще основано на прошлом опыте, на старых стандартах и, что хуже всего, на линейном мышлении.
Наша этика – и многие наши законы и правила в том числе, – по-прежнему создавалась в мире, развивающемся линейно, и основывалась на «том, что раньше работало», прежде чем мы достигли точки поворота на экспоненциальной кривой. С тех пор как интернет стал обладать значительной коммерческой силой, мы, кажется, сосредоточились в основном на использовании его экономического и коммерческого потенциала. Мы слишком мало времени уделяли рассмотрению его влияния на наши ценности и этику – и это в конце концов становится очевидным, когда мы вступаем в эпоху искусственного интеллекта (ИИ), робототехники и редактирования генома человека.
В последнее время все чаще обсуждается концепция создания думающих машин, которые могли бы воспроизводить человеческую этику. При том что это интересный поворот, он поражает меня, потому что это еще один шаг к полностью смоделированной эпохе машин, и еще одна причина, по которой нам необходимо создать Глобальный совет по вопросам цифровой этики. По мере того как мы движемся к сингулярности и точке, в которой компьютеры достигают или превосходят возможности человеческого мозга и связываются посредством гигантской глобальной сети, нам срочно нужен четкий этический контекст, с которым сможет согласиться большинство из нас. Это непростая задача, но тем не менее решаемая.
5. Будьте бдительны! Экспоненциальные технологии часто быстро переходят от магии к маниакальной токсичности – достижение баланса имеет большое значение.
Если вы думаете, что зависимость от интернета, игр, смартфонов или «ловушек удовольствия» социальных сетей уже стала большой проблемой, то вы заблуждаетесь: все только начинается! Просто дождитесь, когда мы сможем полностью погрузиться в технологии, пока технологии захватят нас дополненной и виртуальной реальностью, интерфейсами «мозг – компьютер», имплантатами и нейронными интерфейсами.
Небо – буквальный предел с точки зрения того, что экспоненциальный прогресс может сделать возможным. Поэтому теперь мы должны научиться использовать технологии целостно и с гораздо большим уважением к человеческой жизни и потребностям. Нам также необходимо, чтобы те, кто изобретает, продает и продвигает новые заманчивые технологические решения, отвечали за новые экосистемы, которые они наделяют полномочиями, и искали эффективные способы обуздать или ограничить непреднамеренные последствия. Поставщики технологий должны начать включать внешние факторы в свои бизнес-модели и помогать формированию новых социальных контрактов, которые смогут устранить токсичные последствия.
6. Мы должны обучать как базовым естественнонаучным/техническим знаниям, так и ГЛАВНЫМ человеческим навыкам (состраданию, оригинальности, взаимности и сопереживанию). Технологии и человечество должны быть включены в учебную программу; действительно, наука и философия должны находиться в одном классе. Сбалансированное общество потребует опыта в обеих областях; в противном случае мы продолжим «наклонять игровое поле» в сторону машинного мышления.
Кроме того, все больший объем научной работы в конечном итоге будет выполняться ИИ и умными машинами, поэтому мы должны сконцентрироваться на развитии только человеческих навыков и возможностей. Творчество, понимание, переговоры, вопросы, эмоции, интуиция и воображение будут играть более важную роль, чем когда-либо прежде: все, что не сможет быть оцифровано, автоматизировано или виртуализировано, станет чрезвычайно ценным.
