Видео с Хейли разобрали на кусочки в поисках следов подделки и цифровых манипуляций. Цитировались анонимные одноклассники, называвшие Хейли отъявленной лгуньей, обманщицей, истеричкой.
Фрагменты видео вперемешку с "разоблачениями" набирали популярность. Кто-то при помощи программ заставлял Хейли изрыгать проклятия в новых клипах, цитировать Гитлера и Сталина, хихикая и маша рукой на камеру.
Я удалила все свои аккаунты и сидела дома, не находя сил, чтобы выбраться из постели. Родители предоставили меня самой себе; они сражались в собственных битвах.
Сара Форт
За десятилетия цифровой эпохи искусство троллинга эволюционировало и заполнило все ниши, открывая новые горизонты технологий и дозволенного.
Издалека я наблюдала, как тролли роятся вокруг семьи моего брата с хаотичной точностью, с бесцельной злобой, со злобным весельем.
Конспиративные теории сливались с откровенными выдумками – и превращались в мемы, которые выворачивали сочувствие наизнанку, абстрагировали боль в приколы.
Мамочка, на пляже в аду так тепло!
Обожаю эти новые дырки во мне!
Поисковые запросы с именем Хейли начали приводить на порносайты. Производители контента – большинство которых являлось рассадниками ИИ-ботов – ответили генерацией фильмов и ВР-погружений с моей племянницей. Алгоритмы использовали находящуюся в публичном доступе видеозапись с Хейли и умело вставляли ее лицо, тело и голос в фетиш-видео.
СМИ отреагировали на такое развитие событий возмущением – быть может, даже искренним. Это привело к росту числа запросов – и генерации нового контента…
Мой долг и привычка как исследователя – оставаться в стороне, наблюдать и изучать явления с клинической отстраненностью, быть может, даже увлечением. Считать троллей политически мотивированными – упрощение, по крайней мере в том смысле, который обычно вкладывают в этот термин. Хотя абсолютисты Второй поправки
[53] способствовали распространению мемов, у зачинщиков в большинстве своем не было никаких политических убеждений. Анархистские сайты вроде 8taku, duang-duang и alt-web, появившиеся после буйного деплатформинга прошлого десятилетия, служат домом этим жукам-навозникам Интернета, иду нашего коллективного онлайн-подсознания. Получая удовольствие от нарушения табу и законов, тролли не имеют общей цели, помимо того, чтобы произносить непроизносимое, издеваться над искренним, играть с тем, что другие считают запретным. Упиваясь возмутительным и грязным, они одновременно оскверняют и определяют технологические связи в обществе.
Но будучи человеком, я не могла смотреть на то, что они творили с образом Хейли. Я связалась со своим чужим братом и его семьей.
"Позвольте мне помочь".
Хотя машинное обучение дало нам возможность с неплохой точностью предсказывать выбор жертвы – тролли не столь внезапны, как хотят казаться, – мой работодатель и другие крупные социальные ресурсы прекрасно понимают, что нужно шагать по тонкой границе между цензурой пользовательского контента и снижением "пользовательской активности", той самой метрики, которая определяет курс акций, а значит, и все решения. Агрессивная модерация, особенно на основе пользовательских отчетов и человеческих суждений, – процесс, в котором жульничают обе стороны, и нет такой компании, которую не обвиняли бы в цензуре. В конечном итоге эти компании просто разводят руками и выбрасывают свои правоприменительные руководства. У них нет ни умений, ни желания становиться поборниками истины и благопристойности во всем обществе. Разве могут они решить проблему, которую не в состоянии решить даже демократическое государство?
Со временем большинство компаний пришли к единому решению. Вместо того чтобы сосредотачиваться на оценке поведения ораторов, они начали создавать ресурсы, позволяющие слушателям защитить себя. Разработка алгоритма, способного отличить легитимную (пусть и эмоциональную) политическую речь от организованного оскорбления всех сразу, – непростая задачка; то, что одни превозносят как правду, сказанную в лицо властям, другие часто считают выходящим за всякие рамки. Намного проще построить и обучить индивидуально настроенные нейронные сети, отсекающие контент, который не хочет видеть данный конкретный пользователь.
Новые защитные нейронные сети – известные на рынке как "броня" – отслеживают изменение эмоционального состояния каждого пользователя в ответ на поток данных. Оперируя векторами, которые охватывают текст, аудио, видео и ДР/ВР
[54], броня учится распознавать контент, особенно огорчающий пользователя, и отсекать его, оставляя лишь мирную пустоту. Смешанная реальность и погружение набирают популярность, и лучший способ облачиться в броню – надеть очки дополненной реальности, которые фильтруют все источники зрительных стимулов. Подобно прежним вирусам и червям, тролли – проблема техническая, и теперь у нас есть техническое решение.
Чтобы воспользоваться самой мощной, персонифицированной защитой, нужно заплатить. Операторы социальных сетей, которые также обучают броню, утверждают, что это решение позволяет им не заниматься цензурой пользовательского контента, не решать, какое поведение неприемлемо на виртуальных городских площадях; что оно освобождает всех от всевидящего ока Большого Брата. То, что этот моральный идеал свободы слова также приносит больше доходов, – без сомнения, лишь побочный эффект.
Я отправила брату и его семье самую лучшую, самую продвинутую броню, которую можно купить за деньги.
Эбигейл Форт
Представьте себя на моем месте. Тело вашей дочери превратили в цифровой объект жесткой порнографии, ее голос заставили повторять слова, полные ненависти, ее образ изуродовали с невыносимой жестокостью. И это произошло из-за вас, из-за вашей неспособности постичь низость человеческого сердца. Вы бы остановились? Вы бы остались в стороне?
Броня держала кошмары в узде, а я продолжала писать и делиться, возвышать голос, чтобы перекричать волну лжи.
Мысль, что Хейли не умерла, а была актрисой, участвовавшей в правительственном заговоре против оружия, казалась настолько абсурдной, что даже не заслуживала ответа. Но когда моя броня принялась отфильтровывать заголовки, оставляя пустые места на новостных сайтах и в многоадресных потоках, я осознала, что ложь каким-то образом переросла в настоящую дискуссию. Журналисты начали требовать, чтобы я предъявила чеки, дабы отчитаться за потраченные деньги, которые собрал фонд, хотя мы не получили ни цента! Мир сошел с ума.
Я выложила фотографии с трупом Хейли. Должна ведь была в этом мире остаться хотя бы крупица достоинства, думала я. Никто ведь не станет отрицать то, что увидит собственными глазами?
