Но продукт – это другое; это сведение всего к простейшим доступным вариантам, убеждение пользователя купить что-то, сделать что-то или во что-то поверить.
Детишки из Македонии, публиковавшие грязные лживые истории о Хилари Клинтон, получили с этого какие-то деньги, потому что продавали сырье, которое еще не стало продуктом
[169]. Они гнали трафик. Компании, у которых вы в конце концов покупаете обувь или кофе, были первыми, кто заплатил компаниям – разработчикам технологий, сыграли роль привратника, потому что ваше внимание направляли в определенные ворота. Совершение вами покупки под их руководством и было продуктом.
И снова, я не говорю, что у социальных сетей напрочь отсутствует положительная ценность. Возможно, компании – владельцы социальных сетей создают дополнительную ценность, чтобы оправдать свои гонорары. Однако их доход растет не от того, что определенное время они удерживают внимание пользователя, словно вышедшие из моды газеты, а от продолжительности этого времени
[170].
Из реального источника новостей, например «New York Times», я получаю новости, и на этом все. Если бизнес-модель «Times» подразумевает, чтобы я попутно просматривал и рекламу, и, возможно, она в чем-то меня убедит, замечательно. Но если бизнес-модель заключается в том, чтобы заставлять меня управлять своим выбором весь день часами напролет, то реальные новости не особенно имеют смысл. Их прочитывают – с концами – слишком быстро.
В отличие от обычных новостей новостным лентам выгодно, чтобы я был нервным, перепуганным, лишился ощущения безопасности или сердился. Именно это и будет удерживать меня в ящике Скиннера, где система решит, на какую кнопку мне легче всего нажать.
Актуальная бизнес-модель социальных сетей требует, чтобы они стали частью жизни пользователя на протяжении всего времени, которое он проводит бодрствуя, даже посреди ночи, если ему не спится. Реальные новости и взвешенные мнения не особенно хорошо служат этой цели
[171]. Трезвое размышление о реальности не занимает слишком много времени.
Вместо этого компании – владельцы социальных сетей поддерживают в людях гнев, страх и ощущение незащищенности. Или же сервис может вытеснять из жизни пользователей друзей и членов семьи, возможно внушая пользователям чувство вины. Самая эффективная ситуация – та, в которой пользователь постоянно вовлечен в странные спирали коллективного согласия или несогласия с другими пользователями. Они никогда не закончатся, в чем и смысл.
Компании ни планируют эти схемы использования сервисов, ни воплощают их. Вместо этого они платят за грязную работу третьим лицам. Например, таким, как те македонские подростки, готовые за деньги публиковать мерзкие фальшивки. Или даже американцы, готовые на то же самое за несколько лишних баксов
[172].
Компании – разработчики технологий не требуют от пользователей становиться тонкокожими дергаными параноиками или жить в отрыве от реальности; такие хрупкие снежинки лишь часть быстрого решения абсолютно математической головоломки, сформулированной весьма открыто: как выдать вовне наибольший объем трафика, чтобы завладеть наибольшим объемом времени и внимания пользователей?
Если пользователи рассматривают соцсети не как нечто, не имеющее веса, а как источник своей профессиональной ценности, тогда соцсети ничего этого не стоят, и мусорный постинг там встречается намного реже, как в случае с LinkedIn. Отсутствие веса легко и забавно, но некоторое количество весомости не помешает для того, чтобы отыскать в природе пользователей хоть что-то светлое.
Завершая картину взаимодействия двух полубогов, стоит отметить, что ориентированная на невесомость бизнес-модель социальных сетей – лишь один пример тенденции, при которой компании используют мощные компьютеры для управления процессами обмена, в которых они отделяют риск от выгоды. В качестве еще одного примера: владельцы грязных ценных бумаг, обеспеченных пулом ипотек, которые привели к Великому экономическому спаду, не хотели знать, что именно они продавали, точно так же как компания Google не хотела знать, что ее страница поиска сообщала о том, кто победил в результате голосования избирателей на президентских выборах 2016 года. (Основными новостями через некоторое время после выборов были фальшивые сообщения о том, что Трамп получил больше голосов, чем Хилари Клинтон.) Знать – это принимать на себя обязательства, в то время как не знать – это держать казино, где рискуют все остальные.
Требование от искусственного интеллекта чинить самого себя абсурдно
Что, если новый полубог не одолеет старого? Возможно, компаниям – владельцам соцсетей стоит пересмотреть способ получения прибыли. Может быть, что-то близкое к этому – лишь попытка поддерживать на плаву алгоритмы, которые всегда будут пытаться рухнуть под напором финансовых поощрений.
Внесу ясность: я не думаю, что этические фильтры сработают, учитывая современный уровень научного понимания. Подобные решения будут лишь обходить, и они погрязнут в еще большем количестве манипуляций, коррупции и абсурда. Если способ защитить людей от искусственного интеллекта сам больше похож на искусственный интеллект, как в случае предполагаемых алгоритмов с этикой, с тем же успехом можно сказать, что сделано ничего не будет, поскольку сама идея несет в себе абсурд. Это фантазия о фантазии.
На сегодняшний день не существует научного описания идеи в мозге. Возможно, оно еще появится, но сейчас у нас его нет; так что нет возможности даже сформулировать, как примерно будет выглядеть встраивание этики в алгоритм. Все, что сейчас могут алгоритмы, – это суммировать, чем занимаются люди по данным нашего впечатляющего режима глобальной слежки через интернет. И мы превращаем многих из этих обычных людей в уродов.
Но, ради продолжения спора, предположим, что попытки компаний – разработчиков технологий противодействовать мусорному постингу с помощью так называемого искусственного интеллекта будут иметь впечатляющий успех. Предположим, алгоритмы фильтрации мусорных постов настолько безупречны, что им начнут доверять все без исключения. Но даже тогда лежащие в их основе экономические выгоды останутся неизменными.
