Переход от карт, отпечатанных на бумаге, к онлайновым навигационным сервисам оказался настолько удобным, что мало кто оценил революционность этого изменения и задумался о его последствиях. Человек и общество пользуются плодами нового типа отношений с сетевой платформой и ее оператором – а именно доступом к постоянно развивающемуся массиву данных, который они дополняют своими данными (включая собственное местоположение), доверяя результатам, которые выдает ИИ. В некотором смысле человек, пользующийся такой услугой, становится частью системы, в которой человеческий и машинный интеллекты сотрудничают, чтобы направлять совокупность людей по их индивидуальным маршрутам.
Скорее всего, таких постоянных ИИ-компаньонов будет становиться все больше. Благодаря сетевым платформам меняются и здравоохранение, и логистика, и розница, и финансы, и связь, и СМИ, и транспорт, и развлечения. Меняется наше восприятие мира в целом.
Когда пользователи обращаются к услугам сетевых платформ, в их распоряжении оказываются такие возможности сбора и обработки информации, каких никогда не было в истории человечества. Благодаря масштабу, мощи и способности таких платформ находить новые решения мы получаем невероятное удобство и возможности – и участвуем в совершенно беспрецедентном диалоге между человеком и машиной. Способ, которым сетевые платформы меняют человеческую деятельность, нам непонятен и не поддается четкому определению или выражению. В связи с этим возникают важные вопросы: какие задачи имеет такой ИИ? По чьему замыслу и в рамках каких нормативных параметров он работает?
Кто управляет этими процессами, кто их регулирует, какое влияние они могут оказать на социальные нормы и институты, кто вообще имеет доступ ко всем этапам процесса? Если человек никогда не сможет охватить своим пониманием все данные или получить доступ ко всем этапам – значит ли это, что роль человека теперь будет сводиться к проектированию, мониторингу и установке параметров для ИИ? Хорошо это или плохо? Ответы на эти и подобные вопросы могут оказаться любыми – и они будут определять жизнь и общество.
Компании и государства
Сетевые платформы с поддержкой ИИ возникли случайно, по мере того как отдельные компании, инженеры и их клиенты пытались решить определенные проблемы. Целью операторов сетевых платформ было связать покупателей и продавцов, потребителей и поставщиков информации, а также людей, объединенных общими интересами или целями. Они применяли ИИ для улучшения своих продуктов, для оказания услуг, для повышения удовлетворенности пользователей и комплаенса.
По мере роста и развития сетевых платформ, управляемых ИИ, некоторые из них стали оказывать влияние, выходящее далеко за рамки их первоначального назначения. И, как уже отмечалось ранее, люди стали доверять определенным сетевым платформам информацию, которую они вряд ли показали бы друзьям или представителям власти, – включая исчерпывающие данные о том, где они были, что (и с кем) делали, какую информацию искали и просматривали на своем телефоне или компьютере.
Доступ к персональным данным обеспечил сетевым платформам такую динамику развития, что они сами, их операторы и используемые ими ИИ стали пользоваться реальным общественным и политическим влиянием. Это стало особенно заметно в эпоху пандемии, когда в условиях социальной дистанцированности и удаленной работы сетевые платформы стали важнейшим ресурсом общества – вроде социального клея, благодаря которому люди могли и дальше самовыражаться, делать покупки, получать продовольствие и пользоваться транспортом. Эти изменения происходят в таких масштабах и с такой скоростью, что общество и государства попросту не успевают осознавать степень расширения роли сетевых платформ.
Как показали недавние события, связанные с распространением политической информации и дезинформации через социальные сети, некоторые сетевые платформы взяли на себя настолько значительные функции, что потенциально могут влиять и на государственное управление. Но и эта их способность возникла фактически случайно, без соответствующих изысканий и необходимой подготовки. В правительственной сфере и в мире технологий ценятся совершенно разные умения, навыки и опыт. У них разные языки, структуры, движущие принципы и основные ценности, им не понять друг друга без переводчика. При этом сетевые платформы, функционирующие в соответствии со своими собственными коммерческими целями и для удовлетворения своих пользователей, вполне могут работать в сфере управления и национальной стратегии, и традиционным игрокам будет сложно понять мотивы и тактику платформы в отношении национальных и глобальных целей.
К тому же ИИ действует в соответствии со своими собственными процессами, которые отличаются от психических процессов человека и зачастую опережают их. ИИ разрабатывает свои собственные подходы к выполнению тех или иных задач. Результаты работы ИИ не характерны ни для человека, ни для каких-либо национальных или корпоративных культур. Благодаря всеобщему проникновению цифрового мира и способности ИИ сетевых платформ глобально контролировать, блокировать, адаптировать, производить и распространять информацию эти сложности распространяются и на информационные пространства отдельных государств.
Постоянно совершенствуясь, ИИ сетевых платформ продолжают создавать общественные и бизнес-механизмы в национальном и мировом масштабах. Сами по себе платформы социальных сетей (и их ИИ) обычно независимы от контента, но стандарты сообщества, а также способы фильтрации и представления информации вполне могут влиять на то, как эта информация создается, агрегируется и воспринимается. Поскольку работа ИИ – рекомендовать контент и связи, классифицировать информацию и концепции, а также предсказывать предпочтения и цели пользователей, он может непреднамеренно усиливать определенный индивидуальный, групповой или общественный выбор, а по сути – стимулировать распространение определенных типов информации и формирование одних типов связей за счет других. Независимо от намерений и понимания операторов платформ это потенциально влияет на социальные и политические процессы. Отдельные пользователи и группы пользователей постоянно взаимодействуют друг с другом, это происходит быстро и в огромных масштабах. Поскольку это взаимодействие зависит от сложнейших рекомендаций ИИ, сами операторы сетевых платформ могут не особенно хорошо понимать, что именно происходит на самом деле.
Итак, все эти проблемы, безусловно, существуют. Но правительства, которые пытаются реагировать на происходящее, должны делать это с большой осторожностью. Любой государственный подход к процессам сетевых платформ, будь то запрет, ограничение или одобрение, будет результатом волевого решения, выбранного оценочным путем. Требуя от платформ маркировать определенный контент как тенденциозный или вовсе блокировать его, требуя от ИИ выявлять предвзятую или ложную информацию и понижать ее рейтинг, правительства могут сильнейшим образом влиять на социальную политику. Вопрос, как решать эти проблемы, стал предметом жарких дебатов во всем мире – особенно в технологически развитых свободных странах. Любой подход гарантированно будет работать в масштабах, значительно превосходящих почти любое прошлое правовое или политическое решение, – с потенциально мгновенным воздействием на повседневную жизнь миллионов или миллиардов пользователей в многочисленных государственных юрисдикциях.
