Критики сердито ворчат по поводу этой защиты. Одна из таких критиков, Карол Кадуолладр, была возмущена тем, что функция Google Suggest предлагала такие результаты, как «евреи – это зло», в качестве автозаполнения поиска для «евреи – это…». Когда она кликнула на него, то обнаружила, что в топе поисковой выдачи оказалась статья под названием «Топ 10 причин, почему люди ненавидят евреев». Страница с неонацистского сайта Stormfront стала третьим результатом, дополнительные пояснения, почему евреи – это зло, появились в качестве пятого, шестого, седьмого и десятого результата. Когда она забила в поиск «был ли холо…», Google предложил в качестве автозаполнения вопрос «был ли холокост на самом деле?», и ей был представлен список сайтов, отрицающих холокост, опять же с сайтом Stormfront в топе поисковой выдачи.
Ее вывод таков: Google должен немедленно прекратить предоставлять ссылки на эти страницы. «Бизнес-модель корпорации Google строится вокруг идеи о том, что она является нейтральной платформой. Что ее магический алгоритм размахивает волшебной палочкой и выдает магические результаты без какого-либо человеческого вмешательства, – писала она в яростной редакционной статье для газеты The Guardian. – Она отчаянно не хочет, чтобы ее воспринимали как медиакомпанию, как контент-провайдера, как новостной и информационный носитель, который должен подчиняться тем же правилам, которые действуют для других средств массовой информации. Но это именно то, чем она является».
Я разделяю негодование Кадуолладр и ее убежденность в том, что Google (как и все СМИ)«структурирует, формирует или искажает то, как мы воспринимаем мир». Я согласен с тем, что корпорация Google должна вплотную заняться этими проблемами, так же как они вплотную занялись другими проблемами для улучшения качества результатов поисковой выдачи. Но Кадуолладр не учла масштаб, в котором работает Google, и то, как этот масштаб в корне меняет природу решения.
Google, Facebook, Twitter и подобные им компании необходимо воспринимать как новое явление, которое не вписывается в старую карту. Это новое явление функционирует по другим правилам – не из-за прихоти или нежелания брать на себя расходы на курирование, а в силу своей специфики.
Нежелание Google и Facebook вводить операции, выполняемые вручную, – это не просто вопрос ухода от ответственности за удобной правовой оговоркой. Эти сайты выдают свои результаты поиска не после некого собрания редакторов, такого как собрание редакторов газеты New York Times в старые времена, в ходе которого те решали, какие истории будут размещены на первой странице и где именно. К 2015 году практика проведения таких собраний постепенно сошла на нет даже в Times. Результат любого поискового запроса в Google является результатом огромных усилий по поиску и ранжированию каждой страницы в Интернете – а их 30 триллионов, принадлежащих 250 миллиардам уникальных доменов, согласно данным вице-президента отдела поиска компании Google Амита Сингхала, – и по их обслуживанию в ответ на более чем 5 миллиардов запросов в день. Многие из этих поисковых запросов – довольно распространенные, но по крайней мере десять миллионов из них представляют собой довольно редкие сочетания слов и фраз. Оскорбительные результаты запроса «Холокост», на которые жаловалась Кадуолладр, это результат поискового запроса, который, согласно данным Google, выполняется всего около 300 раз в день. Из 5 миллиардов. Это 0,000006 % ежедневных поисковых запросов, несколько миллионных долей процента.
Объем информации, обрабатываемой Facebook, также огромен. В 2013 году социальная сеть сообщила, что ежедневно публикуется около пяти миллиардов единиц контента. Сейчас эта цифра намного больше, так как сейчас у сайта более 1 миллиарда активных пользователей в день, по сравнению с 700 миллионами в 2013 году.
Идея о том, что Google или Facebook могут решить проблему, просто наняв команду редакторов или фактчекеров или воспользовавшись услугами внешних медиаорганизаций для борьбы с фальшивыми новостями, ненавистническими высказываниями или другими нежелательными результатами, удаляя их или понижая их в поиске один за другим, указывает на то, что люди не имеют представления о масштабах или о сущности проблемы. Это похоже на ярмарочную игру «Поймай крота», за исключением того, что кротов миллиарды, а молотков лишь сотни. Человеческий контроль и вмешательство, безусловно, необходимы, но они мало что изменят, если будут реализованы так, как представляют себе такие критики, как Кадуолладр. Чтобы поймать миллиарды кротов, вам нужны гораздо более быстрые молотки.
Мы должны отказаться от представления о том, что человеческая роль в этом цикле подобна нажатию на аварийный выключатель человеком, принимающим окончательное решение. Известная статья в журнале Harvard Business Review под названием «Кому достанется обезьяна?» объясняет, почему всякий раз, как у подчиненного появляется проблема, которую сравнивают с обезьяной, сидящей на его или на ее спине, менеджер должен предложить свой совет, а затем отправлять подчиненного восвояси вместе с его обезьяной. В противном случае все обезьяны множества подчиненных окажутся на спине у менеджера. Насколько это верно в эпоху алгоритмов? На спине у менеджера оказывается миллион обезьян. Хороший менеджер всегда играет роль учителя. Насколько это справедливо в отношении могущественной, но, в сущности, глупой расы джиннов, которые делают большую часть работы на наших огромных онлайн-платформах?
У Google нет сомнений в том, что группы разработчиков, менеджеры цифровых работников, генерирующих индекс и формирующих результаты поисковой выдачи, трудятся в поте лица, обучая своих шустрых бездушных джиннов тому, как смягчить эту проблему. Я был бы очень удивлен, если бы к тому времени, как будет издана эта книга, не произошло бы всеобъемлющего пересмотра выявления фальшивых новостей, подобного обновлениям Panda и Penguin 2011 года, которые касались контент-ферм. И действительно, в течение нескольких недель после выхода редакционной статьи Кадуолладр результаты поискового запроса по слову «холокост» были улучшены. Но первоначальная корректировка не сработала системно, и Google по-прежнему изо всех сил пытается придумать комплексное решение для борьбы с фальшивыми новостями, но механизмы, при помощи которых они отражают атаки на эффективность работы поисковой системы, определены четко.
Проблемы Facebook не идентичны проблемам Google. В то время как Google проводит оценку и дает ссылки на контент сотен миллиардов внешних сайтов, контент социальной сети Facebook публикуется ее собственными пользователями на ее собственной платформе. Большая часть этого контента представляет ссылки на внешние сайты, но часть этого не делает. Даже когда контент поступает с внешних сайтов, зачастую он переделывается в мем, что в настоящее время означает графическое изображение или видеоизображение ключевого момента или цитаты, которое отделяется от исходного контекста и скорее предназначено оказывать воздействие на пользователей, чтобы они им делились, нежели для более глубокого диалога или понимания.
В мае 2016 года, задолго до избрания Трампа, Майло Яннопулос в своей статье для новостного ресурса Breitbart News предсказал, что способность Трампа создавать интернет-мемы и апеллировать к людям, которые делятся ими, сыграла решающую роль в его успехе. «Различные учреждения, без сомнения, считают, что это все ерунда, глупые приколы для школьников, – писал он. – И так оно и есть. Но в то же время это эффективно… У противников Трампа, оказавшихся между молотом его медиамашины и наковальней в виде армии его онлайн-троллей, не было ни единого шанса. Трамп понимает, как работает Интернет, и Интернет может запросто протолкнуть его в Белый дом. Магия мемов – это реальность».
