Что станет с моей волей к воле существовать от первого лица, когда окружающий рыночный космос будет притворяться моим зеркалом, меняя форму в соответствии с тем, что, по его мнению, я чувствую, или чувствовал, или буду чувствовать – игнорируя, подстрекая, упрекая, подбадривая или наказывая меня? Надзорный капитал не может удержаться от того, чтобы хотеть меня всего, так глубоко и так далеко, насколько сможет зайти. Одна фирма, специализирующаяся на «человеческой аналитике» и аффективных вычислениях, предлагает своим маркетинговым клиентам такой заголовок: «Стань ближе к истине. Узнай подлинную причину». Что произойдет, когда они придут за моей «истиной», не прошеные, но полные решимости пройтись по моему «я», забирая все то, что будет питать их машины для достижения их целей? Загнанному в угол своего «я», человеку уже некуда бежать
[799].
Похоже, что подобные вопросы могли все же беспокоить Пикард. В лекции «На пути к машинам, которые отрицают своего создателя», которую она прочитала в 2016 году в Германии, на смену успокоительным заверениям книги 1997 года, что «могут быть разработаны защитные меры», что новые технологии и технические методы могут решить любую проблему и что «носимые компьютеры» будут «собирать информацию исключительно для вашего собственного использования», будучи «инструментами расширения ваших возможностей, а не подчинения враждебным силам»
[800], пришли новые размышления. «Некоторые организации хотят прощупывать человеческие эмоции, оставляя людей в неведении об этом и не спрашивая их согласия, – говорит она. – Некоторые ученые хотят создать компьютеры, которые будут намного превосходить людей и будут способны не только воспроизводить себе подобных <…> Как сделать так, чтобы новые аффективные технологии меняли человеческую жизнь к лучшему?»
[801]
Пикард представить себе не могла, что рыночные силы превратят оцифровку эмоций в прибыльный излишек, в средство для достижения чужих целей. То, что ее видение реализовано сегодня в тысячах видов деятельности, должно было быть триумфом, но триумф ослабляется тем фактом, что многие из этих видов деятельности связаны с проектом коммерческого надзора. Неспособность установить ориентиры раз за разом способствует привыканию, нормализации и в конечном итоге легитимации. Подчиненный более широким целям надзорного капитализма, смысл аффективного проекта изменился, как будто исказился в кривом зеркале парка развлечений.
Этот цикл заставляет вспомнить слова другого профессора Массачусетского технологического института, специалиста по компьютерной науке и гуманиста Джозефа Вейценбаума, который не раз красноречиво говорил о непреднамеренном сговоре ученых-компьютерщиков, направленном на создание ужасающих систем вооружений. Я полагаю, что он метал бы молнии в адрес сегодняшних иногда невольных, а иногда добровольных торговцев личностью, так что уместно будет закончить главу его словами:
Я не совсем понимаю, вся ли компьютерная наука в целом или только ее раздел, занимающийся искусственным интеллектом, проявляет столь безграничное пристрастие к эвфемизмам. Мы так эффектно и с такой готовностью говорим о компьютерных системах, которые понимают, видят, решают, выносят суждения <…> не сознавая свою собственную поверхностность и неизмеримую наивность в отношении этих концепций. И в процессе подобных разговоров мы притупляем свою способность <…> осознавать их конечное назначение <…> Нельзя выйти из этого состояния, не спрашивая снова и снова: «Что я на самом деле делаю? Каково окончательное применение и использование плодов моего труда?» и в конечном счете: «Устраивает ли меня то, как они применяются, или мне стыдно за это?»
[802]
Глава 10
Пусть они попляшут
Но вот чей-то плач.
Ах, причина известна —
Растление душ и паденье столиц,
Ибо зло неизбывно, ибо даже сам принц,
Ко лжи прибегая, царит в Поднебесной.
У. Х. Оден, Сонеты из Китая, XI
[803] I. Экономия за счет действия
«Сегодня сила – действие, – сказал мне один старший инженер-программист. – Интеллект, присущий „интернету вещей“, означает, что датчики могут быть также активаторами». Директор по разработке программного обеспечения для компании, которая играет важную роль в «интернете вещей», добавляет:
Речь идет уже не просто о повсеместной компьютеризации. Настоящая цель сегодня – повсеместное вмешательство, действие и контроль. Настоящая власть в том, что теперь вы можете изменять действия в реальном времени в реальном мире. Подключенные к сети интеллектуальные датчики могут регистрировать и анализировать любое поведение, а затем вычислить, как его изменить. Аналитика в реальном времени превращается в действие в реальном времени.
Ученые и инженеры, с которыми я беседовала, называют эту новую способность «активацией» (actuation) и описывают ее как критический, хотя и почти не обсуждаемый поворотный момент в эволюции аппарата повсеместности.
Способность к активации определяет новый этап развития императива прогнозирования, на котором важнее всего экономия за счет действий. На этом этапе в арсенал добавляются новые способы изменения поведения, что представляет собой решительный и необходимый шаг в развитии «средств производства» надзорного капитализма в направлении к более сложной, многослойной и могущественной экономической системе. Это важнейшее достижение в погоне за гарантированными результатами. При надзорном капитализме цели и операции автоматической модификации поведения разрабатываются и контролируются компаниями, стремящимися достичь своих собственных целей с точки зрения прибыли и роста. Один старший инженер сказал мне:
C помощью датчиков изменять поведение людей так же легко, как и поведение устройств. Благодаря «интернету вещей» можно сделать много хороших вещей, например снизить температуру во всех домах на вашей улице, чтобы не перегружать трансформатор, или оптимизировать весь промышленный техпроцесс. Но на индивидуальном уровне это также означает способность принимать меры, которые могут перевесить то, что вы делаете, или даже заставить вас приняться за то, о чем вы и не помышляли.
Ученые и инженеры, с которыми я беседовала, выделили три ключевых подхода к экономии за счет действия, каждый из которых направлен на изменение поведения. Первые два я называю «подстройка» (tuning) и «понуждение» (herding). Третий – известное явление, которое психологи-бихевиористы называют «обусловливанием» (conditioning). Стратегии, применяемые для экономии за счет действия, различаются тем, как именно сочетаются эти подходы и какое место отводится каждому из них.
