RoboThespian и Джуди Норман в пьесе «Осколки: история любви»
Я задал Уиллу вопрос, не вызывает ли робот у людей беспокойство. «Да, конечно, – ответил он. – Но скука – это единственное, что гарантирует вам провал». Он полагает, что зрители получают мощные, пусть и не совсем понятные переживания, потому что в глубине души они знают, что робот – это просто механическая игрушка, но ведь он ведет себя как живой. Они начинают вкладывать смысл в то, что делает робот, возможно основываясь на его движениях, внешности и речи. Короче говоря, они его очеловечивают.
Главная героиня пьесы – Салли, вдова, у которой развивается деменция. Игра Джуди Норман захватывает, она абсолютно убедительна, и поэтому на это мучительно смотреть. Умирая от смертельной болезни, муж Салли, Рэймонд, создает робота-компаньона для жены. Андроид должен постоянно находиться с Салли, чтобы она могла с ним разговаривать, а он мог ее подбадривать и оживлять воспоминания, когда Рэймонда не станет. «Осколки» поднимают множество вопросов о роли социальной робототехники в обществе и о том, стоит ли использовать технологии в качестве замены человеческих взаимоотношений. Но робот также проливает свет на то, что значит быть человеком. В качестве сиделки мы несовершенны, наше терпение не безгранично. Иногда RoboThespian тоже бывает плохим компаньоном, потому что демонстрирует человеческие недостатки, запрограммированные мужем Салли. Однако поражает то, что возникают ситуации, когда хорошо запрограммированный робот оказывается лучше и терпеливее компаньона-человека.
Я спросил сценариста Джона Уэлша, можно ли написать пьесу, в которой роботы не просто будут играть себя, но сыграют роли традиционного театрального репертуара, обычно исполняемые людьми. Он принялся очень подробно описывать все составляющие, которые в таком случае должны соответствовать идеалу: голос, выражение лица, темп и т. п. «Конечно, в некоторой степени это святотатство, – говорит Джон, – но если со всем этим повозиться, то я не вижу причин, почему это не может быть занимательно или даже трогательно». Мы знаем, что люди-актеры притворяются, но когда они делают это хорошо, мы забываем об этом и погружаемся в сюжет. Джон уверен, что этого можно достигнуть и игрой роботов: зрители станут их очеловечивать, начнут за них переживать и будут захвачены сюжетом.
Однако это приведет к тому, что роботы будут использоваться в качестве сложных и сложно запрограммированных марионеток, копирующих то, что люди-актеры и так делают с легкостью. Кроме того, им будет не хватать непосредственности. Джон объясняет так: «Актеры могут действовать спонтанно, потому что в этом тоже состоит удовольствие: есть моменты, когда нельзя точно предсказать, что произойдет, на сцене возникает момент волшебства, который может быть и просто результатом ошибки. Ошибки часто приносят хорошие плоды». Ну и потом, зачем зрителям сыгранная роботом пьеса, в которой нет волнения и непредсказуемости живого спектакля?
Более серьезный вызов нашей человечности был бы брошен, если бы роботы стали более независимыми и начали вести себя не совсем как марионетки. Для этого им пришлось бы обзавестись эмоциями и успешно их использовать с помощью устройств для синтеза речи. Существующие в настоящее время синтезированные голоса недостаточно похожи на человеческие. Проблема здесь кроется в интерпретации и разметке сценария так, чтобы он объяснял, как нужно произносить каждое слово. Если бы ученым удалось решить проблему убедительности в произнесении реплик, искусственный интеллект поднялся бы на уровень способности понимания текста. На этом этапе, вероятно, не понадобится даже сценарист, потому что искусственный интеллект смог бы сам написать пьесу. Но хотя заголовки и пестрят новостями о том, что искусственный интеллект завоевывает мир, нам еще далеко до этого. Только подумайте о многообразии жизненного опыта, на который опирается сценарист! Джон Уэлш лаконично выразил эту мысль: «У сценариста целый мир в голове, и пока мы не запихнем этот мир в голову робота, нам даже не стоит задумываться об искусственном интеллекте». Но все же это не останавливает людей, и я вернусь к этой теме в последней главе. Однако сначала давайте посмотрим, может ли компьютер быть хорошим слушателем.
7
Берегитесь: у компьютеров есть уши
Сколько еще потребуется времени, чтобы мы перестали отдавать компьютерам ненужные приказы и начали вести с ними осмысленные беседы? Чтобы это произошло, компьютеры должны стать хорошими слушателями. Им придется выйти за рамки алгоритмического декодирования речи и настроиться на тон нашего голоса. Каждый испытывал ужасное чувство, когда любимый человек обижался не на то, что мы сказали, а на то, как мы это сказали. Хорошо это или плохо, но тонкие оттенки голоса могут сказать очень многое: будь то возбуждение, с которым мы рассказываем смешной анекдот, скука от надоевшей беседы или ужас, если мы сообщаем подробности трагедии. Человек, умеющий вести разговор, улавливает эти тонкости независимо от того, чей голос он слышит – человека или микросхемы. Может ли компьютер стать хорошим слушателем?
Самая спорная из всех технологий, позволяющих компьютеру воспринимать речь, связана с распознаванием лжи. Многие из нас почувствуют себя не в своей тарелке при мысли о том, что их разоблачит мощь аналитики, принадлежащая холодной бездушной машине. И все же надежда на то, что технологии помогут отличить правду от лжи, делает технологии исключительно привлекательными для полицейских и политиков, которые стремятся защитить людей от убийц, сексуальных маньяков, финансовых мошенников и других преступников. Детектор лжи стал звездой бульварных телешоу и авторитетным судьей супружеской верности. И все это несмотря на множество примеров, указывающих на несостоятельность данного устройства.
Убийца с Грин-Ривер получил свое прозвище по названию реки к югу от Сиэтла, на берегу которой он в 1980-х и 1990-х годах оставлял тела своих жертв. Одним из инструментов, которым пользовалась полиция во время охоты на серийных убийц, был полиграф. Эта машина проверяет, говорит ли человек правду, опираясь на физиологические признаки, такие как скорость биения сердца, потоотделение и дыхание. В 1984 году Гэри Риджуэй, женатый человек, работавший в окрасочном цехе, добровольно вызвался пройти испытание на полиграфе и успешно его прошел. Девятнадцать лет спустя Риджуэя посадили за решетку за 48 жестоких убийств первой степени, после того как результаты теста ДНК неопровержимо доказали его связь с жертвами этих убийств [1]. Понятно, что полиграф не смог идентифицировать убийцу с Грин-Ривер.
Проверка на детекторе лжи на Клинтонском инженерном заводе, 1944
Научное исследование полиграфа, предпринятое Британским психологическим обществом, показало, что в уголовных делах правильность результатов теста составляет от 83 до 89 %, если он проверяет действительно виновных людей. Но если тест проходит невиновный человек, то правильность результатов составляет от 53 до 78 % от общего числа тестов [2]. Несмотря на это, в 2014 году британское правительство ввело обязательную проверку на полиграфе опасных преступников, совершивших сексуальные преступления. Судебные разбирательства показали, что проверка на полиграфе заставляла таких преступников с большей вероятностью признаваться в рискованном поведении, например рассматривании порнографических изображений или знакомстве с детьми. Но на самом деле эти признания не были получены на полиграфе: преступники признавались сами, потому что верили в возможности аппарата разоблачать ложь.
