Можно ли этого избежать? В отличие от прямого взаимодействия, жестокое обращение с помощью технологии, в том числе эмоционального интеллекта, можно отслеживать и сообщать о нарушениях.
Возможно, такую функцию обязательно придется встроить в само устройство. Сначала эта идея встретит сопротивление, связанное с нарушением личных границ. Возможно, удаленное наблюдение и сообщение потребуется только в тех случаях, когда использование устройства будет выходить за рамки предусмотренных параметров применения.
Чем сложнее будут становиться аффективные интерфейсы, тем важнее гарантировать защиту при их использовании. Каким бы ужасным ни было физическое насилие, обнаружить его гораздо проще, чем насилие эмоциональное. Постоянный страх, тревога и прочие разновидности стрессовых переживаний могут привести к ПТСР и нервным срывам, значительно ухудшив качество жизни. Таким образом, с нашей стороны будет большим упущением, если мы допустим неправомерное использование технологий эмоционального программирования, когда они станут доступными.
Эмоциональная манипуляция не менее коварна, чем эмоциональное насилие. Множество выдуманных и реальных историй рассказывают об одиноких пожилых людях, за которыми ухаживали недобросовестные поклонники и поверенные – охотники за наследством. Упоминание в завещании или дарственная на ценный предмет могут напомнить эпизод из готического романа или историю из бульварной газеты, но, будьте уверены, такое случается каждый день.
Согласно докладу компании MetLife за 2011 год, пожилые люди в США потеряли в 2010 году 2,9 миллиарда долларов из-за финансовых махинаций, что на 12 % больше, чем в 2008 году10. Исследование 2015 года, проведенное компанией True Link Financial при содействии бывшего аналитика компании Forrester, установило, что реальные цифры значительно выше. Из-за финансовых махинаций пожилые люди теряют 36 миллиардов долларов каждый год; 37 % пожилых людей стали жертвами финансовых афер на протяжении последних пяти лет11. Хотя в последнем исследовании изначально присутствует конфликт интересов (True Link продает технические решения для защиты от подобных махинаций), оно предполагает, что мы недооцениваем масштаб проблемы.
В интерфейсе робота необходимо реализовать эмоциональную обратную связь и способность действовать с учетом эмоционального контекста, насколько позволяет современный уровень развития технологии.
Основная причина в том, что пожилые люди более уязвимы в эмоциональном и психологическом плане, а также мало осведомлены об угрозах современности12. Мошенники знают об этом, когда выбирают жертву. Добавьте к этому потенциал для манипуляций, предоставляемый эмоциональным программированием, и вы поймете, что подобные проблемы будут очень распространены в будущем.
Как такое возможно? Ведь манипуляции другими людьми и прогнозирование их действий с применением новейшей технологии – очень сложный процесс и требует специальных знаний. И да и нет. Разумеется, потребуется развитая технология. Наподобие мгновенного звонка человеку, который находится на другой стороне земного шара. Нажимая кнопку на смартфоне, мы не задумываемся о сложной сети спутников, подводных кабелей, вышек сотовой связи и суперкомпьютеров. Несколько уровней абстракции скрывают этот процесс от нашего сознания. Мы не задумываемся об электричестве, когда щелкаем выключателем. (И тоже абстрагируемся от сложных процессов, чтобы не утруждать себя размышлениями.)
То же произойдет с технологиями эмоционального программирования. Разработчики постараются сделать устройства максимально дружественными к пользователю. Появятся хакеры, предприниматели и изобретатели-самоучки, которые будут стремиться раскрыть секреты технологии и выдать тайны их невероятной мощи всем желающим, в том числе и технически неграмотным.
Может показаться смешным, но именно это мы наблюдали в последние годы: то, что раньше требовало сложных знаний и навыков, хакеры сделали всеобщим достоянием и по весьма умеренным ценам. Распределенные атаки типа «отказ в обслуживании» (DDOS-атаки), внедрение SQL-кода, взлом паролей методом грубой силы, сервисы ботнета и уязвимости нулевого дня считаются методами компьютерного взлома, некогда требовавшими высокого уровня специальных навыков. Сегодня практически любой, у кого есть деньги и доступ к интернету, может найти в «темной паутине» средства для взлома – с дружественным интерфейсом и в свободной продаже. В будущем подобных программ станет больше, и среди них будут средства эмоционального программирования.
Социальная инженерия – одна из основных хакерских практик, позволяющая получить электронный или физический доступ к защищенным данным и средствам аппаратного обеспечения. К инструментам социальной инженерии относятся и психологическое манипулирование людьми ради получения информации, и использование распространенных когнитивных искажений в корыстных целях13. И здесь способность быстро считывать эмоциональное состояние жертвы и реагировать на него может стать основным инструментом.
Какая ирония скрыта в этой трагической ситуации! Самые сложные из когда-либо изобретенных технологий, попав в руки преступников, позволят обманывать самых уязвимых членов общества. Технологии, о которых во времена молодости потенциальных жертв никто даже не мечтал. Это неправильно, несправедливо, и стремление защитить потенциальных жертв будет целиком зависеть от остальных членов общества. Едва ли не единственная причина сделать это – надежда, что кто-то защитит нас самих, когда придет наше время состариться.
С биологической точки зрения от защиты пожилых людей и заботы о них проку мало, а это значит, что подобное поведение не объясняется генетическими факторами. Очевидно, что культурное развитие происходило независимо от биологического, благодаря чему человечество осознало, что заботиться о предках и почитать их полезно.
Естественно, забота распространяется не только на пожилых людей. Семьи и учреждения предоставляют множество видов ухода тем, кто в нем нуждается. Иногда это кратковременный курс восстановительной физиотерапии или долговременный уход, например за людьми с ограниченными физическими возможностями или тяжелыми психическими заболеваниями. В любом случае технические решения, облегчающие уход за пациентами, в частности требующие некоторой степени эмоционального интеллекта, принесут огромную пользу нуждающимся.
В некоторых областях новые технологии будут встречать сопротивление. Например, уход за детьми – младенцами и младшими дошкольниками – люди не сразу решатся доверить машинам. Возможно, причина в эмоционально заложенных инстинктах, которые гарантируют защиту потомства любой ценой, чтобы передать свои гены14.
Сама идея о том, чтобы поручить машинам даже частичное воспитание детей, многим покажется верхом расчеловечивания, но они будут отнюдь не правы. Веками человечество использовало различные приспособления, чтобы укачать засыпающих младенцев, следить за тем, что они делают, или развлекать их. Какой современный родитель хоть раз не включал своим детям телевизор, чтобы их отвлечь, а сам не шел смотреть любимый фильм или сериал с видеокассеты, DVD-диска или онлайн? С социальными роботами и эмоциональным программированием все будет абсолютно так же, но в большем объеме. Уследить за физическим и эмоциональным состоянием ребенка в любую минуту не под силу никому, особенно в семьях, где оба родителя работают. Применение средств, позволяющих убедиться в том, что дети здоровы и в безопасности, станет самым естественным вариантом технологии из всех, которые только можно представить.
