Мой ответ всегда одинаков: технологии не являются злом или благом, они просто есть. Это мы должны определить, здесь и сейчас, как можно использовать технологии во благо и как избежать их использования во зло.
Пока вы это читаете, ученые изобретают и тестируют технологии мощнее атомной энергии и ядерного оружия. Резких прорывов не избежать, и прогресс невозможно остановить, просто указав на то, что нам необходимо применить к нему превентивный принцип и убедиться, что все эти новые технологии прежде всего безопасны (см. главу 8).
Главная сложность для меня заключается в следующем: как нам убедиться в том, что эти неизбежные технологические достижения останутся на 98 % волшебными и будут использоваться на благо человечества, а не перейдут вдруг на темную сторону? Подумайте о таких достижениях, как редактирование генома в целях предотвращения развития раковой опухоли. А теперь представьте эти же технологии, работающие на создание человеко-животных созданий и приводящие к активному появлению киборгов (человеко-машинных существ). Или людей, использующих эти технологии для внесения изменений в свой генетический код.
Эти устремления вполне могут сравниться с использованием ядерной энергии для создания атомных бомб и в будущем смогут привести к многочисленным «цифровым Хиросимам».
Какими будут этические нормы по использованию технологий? Можем ли мы вообще прийти к единому мнению относительно их этической основы? Каким образом можно склонить все страны к согласию на определение и сдерживание темных сторон технологического прогресса? Кто будет следить за нарушениями этих договоренностей? Как избежать вступления на тот путь, который приведет нас к «нашим последним изобретениям»111, по Джеймсу Баррату? Ввиду этих вопросов споры вокруг цифровой этики представляются делом первостепенной важности (см. главу 10).
Экспоненциальный рост данных, информации, возможностей подключения к сети и интеллекта представляет собой новый двигатель цифрового мира, способный привести к кардинальным изменениям во всех сферах нашей жизни. Мы сейчас в шаге от того, чтобы перейти от использования компьютеров только для выполнения некоторого набора математических вычислений и алгоритмов к возможностям, по мощности сравнимым разве что с атомной энергией.
Компьютер на основе одного кубического дюйма нанотрубок
[83] в своем завершенном виде может быть в сто миллионов раз более мощным, чем человеческий мозг.
– Рэй Курцвейл. «The Singularity is Near: When Humans Transcend Biology»112
Наука и технологии уже наделили нас огромной властью. Через 20–30 лет мы сможем наблюдать точки поворота на кривой во многих сферах, которые приведут, например, к повсеместным квантовым вычислениями и возникновению так называемой сингулярности. Пока мы стремительно движемся вверх по кривой, мы будем становиться все более властными, открывая для себя новые ранее невообразимые возможности. Но, как говорили многие исторические фигуры, от Вольтера до отца Супермена: «С великой силой приходит большая ответственность»113.
Для начала: как мы сможем использовать огромную мощь экспоненциальных технологий, чтобы приблизить человеческое счастье? Как нам удостовериться в том, что мы тратим достаточно усилий для разработки правил и соглашений, которые спасут нас от пагубных последствий? Как нам определить, где заканчивается волшебство?
Поприветствуем магический взрыв?
Вместе с экспоненциальным увеличением того, что я называю магическим коэффициентом, проблемы, касающиеся использования технологий во зло, также будут постепенно обостряться, пока не достигнут критической отметки.
Несмотря на то что я в общем придерживаюсь оптимистичного взгляда на наши способности управляться с мощью экспоненциальных и комбинаторных изменений, я осознаю, что в отдельных случаях мы рискуем перейти от магии к мании и вреду в достаточно короткие сроки.
Поэтому мы просто не можем себе позволить следовать за плохими проводниками. Каждый день человечество сталкивается с новыми вызовами, магический коэффициент ускорения развития технологий вот-вот начнет стремительно расти и до мании останется рукой подать.
Вопрос не «что, если» и «как», а «почему»?
Как уже упоминалось, мы сейчас находимся у поворотной точки на кривой экспоненциальных и комбинаторных изменений, где все человеческое благосостояние может быть либо значительно улучшено благодаря технологиям, либо значительно ухудшено. Скоро вопрос уже будет не в том, может ли (и если да, то каким образом) магия технологий быть реализована – ответ всегда будет положительным. Вопросы, которые мы начнем себе задавать, будут следующими: «Почему это нужно делать?», «Кто будет нести за это ответственность?» и «Что это может значить для будущего человечества?»
Чтобы сохранить среду, благоприятную для процветания человека, нам придется думать о незапланированных последствиях и считаться с издержками. Нам нужно будет приглядываться даже к тем из них, которые изначально не входят в бизнес-модель, как, например, глобальное потепление вследствие нашей зависимости от ископаемых видов топлива. Мы должны включить эти потенциальные проблемы в нашу повестку, и целостное мышление должно стать нашим главным подходом к их решению.
Магический взрыв вот-вот случится на фоне супермощных и супербыстрых технологий, которые наделяют нас божественными полномочиями. Умные цифровые помощники скоро станут суперумными, вездесущими, невидимыми, дешевыми и внедренными во все, что можно, включая нас самих.
То место, которое мы занимаем сейчас, в смысле технологического прогресса кардинально отличается от предыдущих фаз развития технологической магии. Экспоненциальные и комбинаторные изменения произведут магические манипуляции другого масштаба – большего, чем мы можем себе вообразить. Забронировать отель через поисковик – это одно дело, но, когда умный помощник (Siri от Apple, Cortana от Microsoft, M от Facebook или Amelia от IPSoft) планирует за нас все путешествие от начала до конца – это уже совсем другой уровень. И это все – учитывая тот факт, что современные умные помощники в будущем можно будет сравнить с фордовским Model T
[84], на смену которому пришли Ferrari и Tesla. То ли еще будет!
Технологии проникают внутрь нас, отчуждая нас от мира и человеческого опыта
Привычная поисковая система представляет собой инструмент, и мы просто пользуемся им, как пользуемся молотком при строительстве дома. В случае с умными помощниками все наоборот – как если бы мы позволили молотку самостоятельно разработать его дизайн. Становится все труднее определить, где заканчиваются инструменты и начинаемся мы.
