В этом и заключается разница между полноценным, телесным, контекстуальным человеческим опытом и машинной симуляцией. Тем не менее хорошо смоделированная реальность не наносит вреда, пока мы отдаем себе отчет в том, что она собой представляет, и не подменяем понятия. В этом случае мы даже сможем использовать ее во благо.
Технологии визуализации уже в ближайшем будущем станут намного совершеннее, выйдут на новый уровень и продолжат стирать границы между человеком и машиной. В момент, когда мы сможем попасть внутрь фильма с помощью ВР, способности нашего воображения будут навсегда побеждены технологиями38. И это одновременно восхищает и беспокоит меня. Можно ли нам это делать? Подготовлены ли мы к такой виртуальности? Изменятся ли в результате наши «настройки», и что мы будем с этим делать? Нужны ли нам новые небиологические надстройки, чтобы уверенно существовать в новой реальности?
Неважно, как мы ответим на эти вопросы: если экспоненциальный технологический прогресс означает, что наши тела перестанут быть центром нашей идентичности, то мы неизбежно перешагнем тот порог, который отделяет нас от машин. Уменьшит ли нашу человечность тот факт, что наши биологические особенности придется регулярно обновлять, чтобы они нормально функционировали? К этому моменту мы откажемся от 95 % нашего потенциала в пользу того, чтобы «стать теми инструментами, которые мы создали»39.
Искусственный интеллект и стирание границ
Принимая во внимание масштаб возможного влияния ИИ, мы должны также рассмотреть его вклад в стирание границ между человеком и машиной. Возьмем, к примеру, компанию DeepMind, ведущую фирму ИИ в Лондоне, приобретенную Google в 2015 году. В феврале 2016 года в интервью для The Guardian гендиректор DeepMind Демис Хассабис следующим образом отозвался о потенциале ИИ:
В мире сейчас такой переизбыток информации, что даже умнейшим людям становится сложно овладеть ею в течение жизни. Как же нам не утонуть во всех этих данных и прийти к правильным выводам? ИИ можно рассматривать как процесс по переработке неструктурированной информации в практическое знание. То, над чем мы работаем, станет ключом к решению любой проблемы40.
Как будет реализовано это громкое заявление на практике? Представьте себе общество, где технологии, в особенности ИИ, могут решить любую серьезную проблему человечества, начиная от болезней, старения и смерти и заканчивая изменением климата, глобальным потеплением, производством энергии и продуктов питания и даже терроризмом. Представьте машинный интеллект, который сможет обработать большее количество информации, чем мы когда-либо сможем воспринять, и считывать всю информацию в мире в режиме реального времени, где угодно и когда угодно. Это устройство (и его владельцы и разработчики) станет чем-то наподобие глобального мозга, невероятно мощного, за гранью человеческого понимания. К этому ли хотят нас подвести компании типа DeepMind и Google? И как нам удастся сохранить наши человеческие качества при таком раскладе?
Приписывание разума машинам, скоплениям фрагментов или другим божествам умников скрывает больше, чем показывает. Когда людям говорят, что компьютер разумен, они склонны изменять себя, чтобы казалось, будто компьютер работает лучше, а не требовать изменения компьютера для улучшения его работы.
– Джарон Ланир
[35]. «Вы не гаджет»41 Могут ли технологии отличить то, что действительно важно?
Давайте представим, что такое устройство, ИИ-в-облаке, уже существует (мы и сейчас не так далеки от запуска первых пробных версий). Сможет ли оно считывать, понимать и ценить те взаимодействия между людьми, которые нельзя представить в виде данных? Сможет ли оно понять dasein, бытие?
Несмотря на будущий экспоненциальный технологический прогресс, человеческий способ существования и переживания опыта кардинально отличается от того, как технологии его воспринимают. Даже лучшие фотографии, видео и цепочки данных только примерно передают, как это было на самом деле: контекст, воплощение, переживание этого уникального момента.
Некоторые философы утверждают, что мы сами не в состоянии запечатлеть, удержать и воспроизвести то, что действительно важно. Если это правда, то как мы можем надеяться уловить какую-то смоделированную человечность внутри машины? Не повлечет ли это за собой высокий риск потери 95 % того, что составляет нашу человеческую сущность, если мы решимся «превзойти биологические ограничения», как предлагают трансгуманисты?
«Википедия» определяет трансгуманизм так:
…международное интеллектуальное движение, целью которого является трансформация человека путем создания широкодоступных современных технологий, которые смогут значительно усилить интеллектуальные, физические и психологические способности людей42.
Это зловещее обещание «значительно усилить» больше всего настораживает меня в трансгуманизме. Какой бы заманчивой ни представлялась перспектива увеличения способностей, мне все же кажется, что больше всего от этого выиграют компании, платформы и технологии, которые предоставят нам эти возможности. Эти компании действительно усилят свои мощности и позицию на рынке, расширят сферу охвата, пока обыватели будут пытаться успеть за своими переразвитыми братьями. Бизнес, построенный на том, чтобы заменить андроритмы и человеческие переживания алгоритмами, ИИ и программным обеспечением, безусловно, обречен на успех. Но будет ли это преимуществом, по сути своей? Должны ли мы предоставить будущее в распоряжение тех, кто хочет превратить его в огромную облачную операционную систему (ОС), только потому, что это выгодно?
Мы стали почти богами и просто обязаны в совершенстве освоить божественные функции.
В качестве основания многие евангелисты трансгуманизма утверждают, что человек – это просто тело, и его необходимо усовершенствовать. Они заключают, что мы недостаточно умные, недостаточно быстрые и недостаточно ловкие. Людям необходимо обновить программное и аппаратное обеспечение – в основном потому, что эти меры приведут к ликвидации старения и, быть может, даже смерти.
Является ли наше превращение в машины, полностью или частично, закономерным этапом эволюции? Суждено ли нам оставить в прошлом свои биологические ограничения и возвыситься с помощью технологий?
Идея отождествления живых существ с машинами не нова. Еще в XVI веке Рене Декарт, великий философ-рационалист, сравнивал животных с очень сложными машинными аппаратами44. Сегодня многие технические специалисты возрождают эту идею, которую я условно обозначил как «машинное мышление», в том смысле, что все вокруг нас и внутри нас можно рассматривать как аппараты, которые можно изменять, чинить и воспроизводить. Для них все человеческое существование представляет собой не что иное, как очень причудливую науку.
