Благодаря ИИ перед нами открываются широкие горизонты. Пределы человеческого разума ограничивали нашу способность собирать и анализировать данные, фильтровать и обрабатывать новости и разговоры, вести социальную жизнь в цифровой среде. ИИ позволяет нам более эффективно ориентироваться в этих сферах. Он может расширить наше видение, снабжая нас информацией и показывая нам тенденции, которых не могли так же изящно и эффективно выявить традиционные алгоритмы. ИИ может более тесно связать нас с этими сферами, предоставляя нужный нам контент – близкую нам информацию и соответствующие нашему мировоззрению материалы. ИИ не только расширяет наше понимание физической реальности – он позволяет нам организовать и освоить растущий цифровой мир.
Одновременно ИИ ослабляет нас. Из-за него постепенно исчезает человеческий разум в том виде, в каком мы привыкли к нему в современную эпоху. Социальные сети лишают человека пространства для размышлений, поиск в интернете отменяет потребность в организации знаний, а ИИ усиливает обе эти тенденции. Алгоритмы и раньше бесперебойно снабжали людей затягивающим контентом, а ИИ делает это еще эффективнее. Время, необходимое для внимательного чтения или глубокого анализа, сокращается, снижается мотивация к размышлению, становится все труднее отказаться от преимуществ цифровой среды, при этом растет ее способность развлекать и отвлекать. Как следствие, роль человека в анализе, проверке и осмыслении информации снижается – человеческий анализ все чаще дополняют или вытесняют системы с ИИ.
Если романтики утверждали, что субъективные человеческие эмоции – достоверный и важный источник опыта, а постмодернисты поставили под сомнение саму возможность видения объективной реальности через фильтр субъективного опыта, то ИИ идет еще дальше. Открывая нам новые объективные факты, такие как медицинские диагнозы, прогнозы промышленных и экологических катастроф, угрозы безопасности и т. п., ИИ будет перестраивать информацию в сфере СМИ, политики, общественной дискуссии и развлечений в соответствии с нашими предпочтениями, подтверждая предубеждения, усугубляя субъективность опыта и сужая доступ к объективной реальности. Таким образом, в эпоху ИИ человеческий разум будет не только дополнен, но и ослаблен, причем совершенно новыми способами.
По мере того как эти технологии вплетаются в ткань нашего повседневного существования, расширяют и трансформируют его, человечество, естественно, будет сталкиваться с противоречивыми импульсами. Найдется круг людей, которые, столкнувшись с ИИ, поддадутся искушению рассматривать его суждения как проявления божественного. И такие побуждения, пусть ошибочные, не будут совсем лишены смысла, ведь если «интеллект», не поддающийся пониманию или контролю, будет делать полезные выводы, почему бы не подчиниться его суждениям – даже если они могут показаться чуждыми? Так может возникнуть новая глобальная «религия» с ИИ в роли прорицателя, которому некоторые будут доверять, не имея разумного и глубокого понимания.
Такой культ принизит роль человеческого разума. И так же, как некоторые отказываются от социальных сетей, ограничивают для своих детей время пользования гаджетами или отказываются от продуктов питания с ГМО, найдутся люди, которые попытаются отказаться от пользования благами ИИ или ограничить влияние ИИ-систем на свою картину мира. В либеральных странах такой выбор, хотя бы на уровне отдельного человека или семьи, наверное, будет возможен – но он будет равносилен отказу не только от таких удобств, как рекомендации фильмов к просмотру или прокладывание маршрутов, но и от огромных массивов данных, сетевых платформ и прогресса во всех областях – от здравоохранения до финансов, которыми нас все больше и больше обеспечивает ИИ.
Отказ от ИИ на уровне цивилизации будет, скорее всего, невозможен, и руководителям государств придется противостоять негативным последствиям внедрения этой технологии.
Исключительно важно разработать этический кодекс для эпохи ИИ, и это задача не для какой-то одной сферы. Компьютерные ученые и руководители компаний – разработчиков технологий, внедряющие эти технологии военные стратеги, политические лидеры как их заказчики и пользователи, философы и богословы в поисках глубинных смыслов этих технологий – все они видят свою часть картины, и все они должны вести диалог, в ходе которого им придется отказаться от предубеждений.
У человечества будет три основных варианта действий: ограничить ИИ, сотрудничать с ним или отступить перед ним. Эти варианты отражают как философские, так и практические аспекты применения ИИ в конкретных задачах или областях. Например, что делать в критической ситуации при управлении самолетом или автомобилем – должен ли ИИ-пилот подчиниться человеку или наоборот? Людям в каждом случае придется отвечать на эти вопросы, некоторые ответы будут меняться по мере развития возможностей ИИ и тестирования машинного обучения. Иногда будет уместно послушаться ИИ – раз уж он может раньше и точнее диагностировать рак груди по маммограмме, нужно использовать это для спасения жизней. Иногда лучшим вариантом будет партнерство – например, автопилоты автомобилей, скорее всего, будут функционировать аналогично автопилотам современных самолетов. Наконец, для критических условий, например войны, важно выработать строгие и четкие ограничения, которые будут беспрекословно выполняться.
Появление ИИ изменит наше понимание того, что мы знаем, как мы это узнали и что еще доступно нашему знанию. В Новое время ценились знания, полученные человеческим разумом в процессе умозаключений, сбора и изучения данных, на основе наблюдений. Идеальным видом истины было уникальное проверяемое знание, доказанное проверяемыми способами. В век ИИ мы принимаем концепцию знания как результата партнерства между людьми и машинами. Люди создают и запускают компьютерные алгоритмы, которые исследуют данные гораздо быстрее и систематичнее, чем человек, и делают выводы, которые могут отражать особенности мира, находящиеся за пределами нашего понимания.
Таким образом, люди и ИИ вместе проверяют на прочность и раздвигают границы человеческого знания о нашем физическом мире. ИИ уже вышел за пределы человеческого восприятия. В одних случаях это обусловлено тем, что алгоритмы и вычислительная мощность позволяют ИИ быстро проходить путь обучения, на который у человеческого разума ушли бы десятилетия или столетия, но в других случаях сами по себе скорость и вычислительная мощность не объясняют достижений ИИ.
Верно ли, что люди и ИИ подходят к одним и тем же явлениям с разных точек зрения и с разными взаимодополняющими возможностями? Или же существуют две пересекающиеся реальности: одну развивают люди с помощью своего разума, а другую – ИИ с помощью его алгоритмов? Если верно второе, то мы не можем воспринять то, что воспринимает ИИ, не только потому, что у нас не хватает на это временнóго ресурса, но и потому, что эти вещи существуют в сфере, в принципе недоступной нашему разуму. Это изменит наш процесс познания – мы смиримся с тем, что получение определенных знаний нам придется доверить ИИ. В любом случае, по мере того как ИИ будет решать все более сложные и объемные задачи, люди все чаще будут воспринимать его как особую сущность, испытывающую и познающую мир, – не просто инструмент, а нечто живое и разумное.
