А может, вы много лет проработали в компании, а прибавки к зарплате все нет и нет. Вы договариваетесь о встрече и формулируете причину для прибавки, но вместо интервью с человеком специалист из кадровой службы предлагает вам пообщаться с программой обсуждения заработной платы. Вы излагаете свои причины для повышения, включая собранные вами показатели пользы, которую вы принесли компании. Однако программа не только имеет мгновенный доступ к данным о вашей результативности, из которых можно выбрать информацию о ваших неудачах, но и мгновенно и точно считывает ваш уровень уверенности в себе, неуверенности, смущения и расстройства. И это лишь немногие чувства из всех, что вы испытываете. Добьетесь вы заслуженной прибавки к зарплате или программа в очередной раз окупит стоимость своей лицензии?
А как насчет более уязвимых членов общества? Пожилые люди часто становятся жертвами мошенников, в то время как более молодые и здравомыслящие люди лишь укоризненно качают головой. Конечно, нейробиологическое исследование старения показывает, что у пожилых людей снижается восприимчивость к сигналам, относящимся к доверию, но нельзя сбрасывать со счетов и то, что они не так хорошо понимают дивный новый мир, в котором живут1. В среднем пользователи гораздо лучше разбираются в тех технологиях, с которыми они выросли, чем их родители, бабушки и дедушки. Из-за этого пожилым людям нужно проявлять здравый смысл. Рассматривая сценарии будущего развития технологий, подобных эмоциональному программированию, можно представить, что старшее поколение будет взаимодействовать с ними намного естественнее, чем их дети. При возможности мгновенно считывать и интерпретировать ощущения пожилых людей для жуликов и аферистов наступит полное раздолье. Навязывание пенсионерам сомнительных покупок, чтобы вытянуть из них все накопления, и манипуляции одинокими пожилыми людьми, чтобы заставить их написать завещание на имя мошенника, могут оказаться лишь верхушкой айсберга.
Если вы сейчас спрашиваете, как такое возможно, подумайте над одной поучительной историей. В 2006 году разведенный мужчина средних лет по имени Роберт зарегистрировался на интернет-сайте знакомств, чтобы общаться с женщинами. Обменявшись с некоторыми из них сообщениями в чате и несколькими письмами по электронной почте, он познакомился со стройной привлекательной брюнеткой по имени Светлана, в чьем профиле было сказано, что она живет в Калифорнии недалеко от него. По-английски она говорила не слишком хорошо, но ее письма были теплыми и задушевными. Вскоре Светлана призналась, что живет не в Калифорнии, а в России, в Нижнем Новгороде. Поскольку все бабушки и дедушки Роберта переехали в Соединенные Штаты из России, его это абсолютно не смущало, наоборот, было еще одной общей чертой.
Несколько месяцев Роберт и Светлана переписывались по электронной почте, и Роберт понял, что влюбляется. Однако Светлана постоянно отказывалась поговорить с ним по телефону. Наконец, на пятый месяц переписки Роберт решил выкроить время и приехать к ней в гости. Но с приближением дня отъезда у Роберта появились нехорошие предчувствия. Что-то не давало ему покоя. Письма Светланы были какими-то странными, и дело было даже не в ее плохом владении английским. Роберт решил отправить ей для проверки письмо:
asdf; kj as; kj I; jkj; j; kasdkljk; klkj
'klasdfk; asjdfkj. С любовью, /Роберт
Светлана написала в ответ длинное письмо о своей матери, ни разу не упомянув абракадабру из его прошлого сообщения. Роберт был ошеломлен: все это время он общался с чат-ботом, компьютерной программой, написанной для поддержания бесед с людьми.
Доверчивость Роберта вполне простительна. В конце концов, любой из нас может принять желаемое за действительное и попасть в ловушку собственных эмоций, гормонов или одиночества. Кроме того, Роберт – бывший главный редактор журнала Psychology Today Роберт Эпштейн, написавший множество книг об отношениях и любви и один из ведущих экспертов в области общения человека с машинами – в частности чат-ботами. На самом деле в 1990-х годах Эпштейн руководил конкурсом на премию Лёбнера в области искусственного интеллекта. В этом соревновании жюри определяет самую удачную попытку отличить беседу с компьютерной программой от бесед с настоящими людьми.
Ко всему прочему Роберт признается, что совсем скоро после этого случая его обманул еще один чат-бот. Роберту даже не пришлось убеждаться в этом самому. Ему написал программист из Великобритании, который знал, кто такой Роберт, и посчитал нужным предупредить его, что он общается с компьютерной программой.
Никто не знает наверняка, сколько ботов на сайтах знакомств и в социальных сетях, эксперты говорят, что их несколько миллионов. В последние годы таких программ стало больше, и они стали сложнее. По оценкам исследования 2014 года, 56 % интернет-трафика исходит от ботов – программ, предназначенных для выполнения часто повторяющихся операций2. В исследовании сообщалось, что половина этого трафика исходит от полезных ботов, но примерно 30 % – от вредных: агрегаторов, хакерских программ, спамеров и имитаторов. Отмечалось, что 20 % интернет-трафика исходит от имитирующих программ, в том числе чат-ботов. Такие программы используются для совершения разного рода киберпреступлений, число которых постоянно растет.
В определенных сферах эмоциональный интеллект задействуется постоянно: при оценке рисков, взаимодействии с гражданскими с обеих сторон конфликта и при поддержании тесных связей между боевыми товарищами.
Итак, по мере того как искусственный интеллект становится все сложнее, и его способности считывать, интерпретировать и реагировать на эмоции и невербальные сигналы развиваются, насколько уязвимыми становимся мы все?
Когда технологии эмоционального программирования найдут применение в различных сферах, мы, скорее всего, столкнемся с множеством неприятностей. Чтобы понимать и предсказывать поведение преступников и личностей, представляющих интерес для следствия, будет полезно использовать технологии эмоционального программирования в работе правоохранительных органов и при сборе разведывательных данных. Могут ли эти технологии изменить или усугубить нарушения наших гражданских свобод со стороны служащих госаппарата? По всей видимости, такая ситуация будет распространенной.
Конечно же, есть определенная польза в том, что люди, которые нас защищают, используют технологии эмоционального программирования. Полицейские, агенты разведки и сотрудники таможенных служб регулярно сталкиваются с обманом. В конце концов, обман – основа преступления. Без него большинство правонарушений были бы невозможны или неудачны. Обман определяется как намеренное сообщение информации, чтобы создать или поддержать ложное восприятие или убежденность3. Работа правоохранительных органов основана на раскрытии совершённых преступлений и на проверке прошлых, настоящих и будущих намерений. В этой сфере технология, способная измерять или считывать эмоции, станет отличным инструментом.
Для успешного взаимодействия внутри вида нужна система, основанная на взаимном альтруизме, в которой ни одна из особей не получает нечестного преимущества над другими в рамках ячейки общества4. Благодаря этому становятся возможными общение и социальная сплоченность. Большую часть времени мы проводим, общаясь с другими людьми, и считаем, что все, что нам говорят, правда5. Без этой уверенности общение становится не только неэффективным, но даже хуже, чем бесполезным. Психологи определили, что в основном мы действуем на основании склонности к правде, то есть предпочитаем считать правдой все, что нам говорят. Такое исходное предположение повышает эффективность общения.
