Какой-то негодяй может создать новый подкаст «с искусственным интеллектом», в котором будут сочетаться мелкие фрагменты множества чужих подкастов. Сортировка будет идти по, например, набору ключевых слов. Можно будет сказать: «Я хочу услышать мнения о политике X» – или какой-нибудь знаменитости.
После чего вы услышите, как люди безостановочно говорят на заданную тему. Фразы будут вырваны из контекста. Фрагменты будут сменяться так быстро, и их будет так много, что даже если компьютерный голос определит, откуда был взят каждый кусочек, вы не сможете этого понять.
Подкастеры начнут выпускать такие записи, чтобы их можно было отшлифовать и скатать в колбасу. В них появится много глупой ругани, неожиданных провокаций, странных выкриков и смешков, по большей части бессмысленных.
Исследователи искусственного интеллекта будут с гордостью демонстрировать, что могут заставить голос одного подкастера произносить сказанное другим. Вы сможете выбрать актера, который будет читать все подкасты, которые вы хотите услышать. Слова Эзры Клейна вложат в уста Гилберта Готфрида.
Чтобы повысить уровень вашей вовлеченности, в очередь включат личные сообщения голосовой почты. Возможно, это станет единственным способом прослушать свои сообщения.
Ах да, и, конечно же, в новом подкасте будут рекламные вставки. Голос вашего спутника жизни будет рассказывать о различных товарах, а скрытые сенсоры будут считывать вашу позу и передавать данные неизвестным сервисам таргетированной рекламы. Посреди мешанины фрагментов политических подкастов вдруг попадется информация о том, что такой-то политик содержит в подвале пиццерии притон, в котором в качестве секс-работников эксплуатируют детей.
Полчища троллей и лжетроллей начнут играть с системой и добавят в подкаст столько жестоких фрагментов, что вы не сможете переварить информацию. Даже самые замечательные кусочки чужих выступлений станут лишь украшением в этом жестоком, параноидальном, бесящем и сводящем с ума звуковом супе.
А может быть, такой подкаст-мозаика станет информационным пузырем. В нем будут звучать голоса только тех, с кем вы согласны. Правда, вам преподнесут отнюдь не мнения реальных людей, и весь контент будет собран в виде потока фрагментов, этакой пародии на сообщество подкастеров. Возможно, вы будете жить в разных мирах с кем-то, кто слушает другую подборку.
Приложение-агрегатор подкастов будет носить какое-нибудь горделивое название, превозносящее мощь искусственного интеллекта, вроде Podcast Meta-genius, а может, наоборот, ребячески-игривое, к примеру Poddytraining.
Если моя идея кажется вам нелепой и странной, посмотрите на то, что уже происходит с текстовым, визуальным, а также видеоконтентом. Так ли придуманный мной подкаст отличается от того, что считают приемлемым люди, полагающиеся на ленты соцсетей как на средство связи с миром?
Подкасты все еще рассчитаны на магазины и подписки, а потому сохраняют свою структуру и ориентируются на взаимодействие людей друг с другом, избегая мешанины отдельных людей, широких масс, алгоритмов и скрытых манипуляторов.
Наслаждайтесь подкастами, пока можете. Но пожалуйста, оставайтесь начеку, и если подкасты сдадут позиции, перестаньте их слушать и записывать. Помните, что вы не можете контролировать то, что монстр, имя которому ОБЛОМ, сделает со смыслом ваших слов.
Аргумент шестой. Социальные сети убивают в вас Способность к сопереживанию
Этот аргумент – оборотная сторона предыдущего. По мере того, как социальные сети обессмысливают вас, вы все меньше понимаете, что происходит с окружающими вас людьми.
Вспомните третий компонент ОБЛОМа – агрессивное навязывание нам ощущений. Суть его такова: алгоритмы решают, что вам нужно увидеть и прочитать. А это значит, вы не знаете, что видят другие люди – для них программы высчитывают другие результаты. Страшно даже представить, скольким людям ОБЛОМ изменил и переформировал картину мира. В основе этой проблемы лежат индивидуальные настройки поисковых систем, лент новостей, видеопоказов и тому подобного.
Давайте представим себе, как в давние времена исследователь-бихевиорист расставлял в лаборатории клетки с собаками. Каждому животному давали угощение или били током в зависимости от его действий. Эксперимент проходил удачно, только если каждая собака получала стимул, привязанный к ее конкретным действиям. Если прямой связи не было, и собаки получали стимулы бессистемно, эксперимент не удавался.
То же самое делают с людьми ОБЛОМ-платформы.
Однако возможные последствия для людей куда серьезнее, чем для собак, потому что люди не сидят в клетках и, следовательно, в значительной степени полагаются на социальное восприятие.
Мы чутко отслеживаем реакции друг друга, и они помогают нам ориентироваться в жизни. Если все ваше окружение из-за чего-то беспокоится, вы сами начнете нервничать, потому что дыма без огня не бывает. Когда все спокойны, вы тоже будете стараться успокоиться.
В детстве мы с друзьями часто приходили в какое-нибудь людное место и дружно начинали смотреть в небо, чтобы разыграть окружающих. Вскоре все вокруг задирали головы, даже если наверху не было ничего примечательного.
Особенно хорошо социальное восприятие можно прочувствовать на себе, если приехать в страну, языка которой не знаешь. Вы внезапно обнаружите, что подстраиваетесь под действия других людей и отслеживаете, на что они обращают внимание, так как это единственный способ понять, что происходит. Как-то раз в джунглях Таиланда я заметил, что люди внимательно смотрят в одном направлении. Я тоже взглянул в ту сторону и успел вовремя убраться с дороги колонны армейских джипов, которые мчались на полной скорости. Социальное восприятие спасло мне жизнь. Оно всегда служит выживанию человечества.
Но если все мы видим разное, живем в обособленных мирах, то наши сигналы, отправленные друг другу, теряют смысл. Страдает наше восприятие объективной реальности, даже той, что лежит вне ОБЛОМ-платформы.
Свежих примеров хватает. Например, человек устроил стрельбу в пиццерии, про которую в сети написали, что в ее подвале находится притон, где растлевают детей
[59]. Ложные убеждения, как следствие социального безумия, распространялись еще до появления ОБЛОМа. Например, они спровоцировали салемскую охоту на ведьм. Однако внезапные вспышки такой агрессии возникали реже, чем сейчас. Скорость, глупость и масштаб ложного социального восприятия разрослись до такой степени, что создается впечатление, будто люди живут не в одном реальном мире, а в миллионах разных.
Вот еще одна из тех проблем, что подкрались к нам незаметно. Общественное пространство потеряло в размерах, да и сами границы общности сильно сузились.
Мысленный эксперимент поможет проиллюстрировать, насколько странной стала наша ситуация. Можете ли вы представить себе, что Википедия составила секретный профиль каждого из вас и начала показывать разные версии статей, опираясь на него? Посетители, поддерживающие Трампа, увидят статью, радикально отличающуюся от той, которую покажут посетителям, настроенным против Трампа. И вы ни за что не найдете в ней пометок, указывающих на то, чем именно она отличается от противоположной версии самой себя.
