Дело в том, что чем выше интеллект, тем сильнее необходимость в управляемом и контролируемом обучении, если мы хотим добиться положительного результата. И хотя интеллект этих программ уступает человеческому, очень хочется применить аналогии с тем, что мы узнали, воспитывая человеческих детей. Нельзя позволить юному впечатлительному созданию оставаться без присмотра и ожидать, что с ним все будет в порядке. Это не самая лучшая стратегия для юного человека, и нет оснований полагать, что она будет эффективной для продвинутого, но необученного искусственного интеллекта.
Однако с учетом того, как большинство людей общается с ИИ, недостаток внимания не будет проблемой.
В ноябре 1996 года японский производитель игрушек компания Bandai запустила в продажу тамагочи – электронного питомца первого поколения. Планировалось, что небольшая игрушка в форме яйца должна научить маленьких девочек заботиться о детях. Но очень скоро игрушка стала настоящим хитом продаж. У питомцев была шкала, на которой отображались их уровни счастья, сытости, воспитанности и общего здоровья. Их требовалось регулярно кормить, играть с ними и убирать за ними. Без регулярной заботы тамагочи мог заболеть и умереть. Игрушка понравилась детям, особенно маленьким девочкам, но они очень огорчались из-за смерти своих электронных питомцев. Для «умерших» игрушек сделали специальные кладбища. Сообщают даже о трагическом случае, когда девочка совершила самоубийство из-за смерти тамагочи. Множество версий игрушки, в том числе онлайн, существуют и сейчас.
Повальное увлечение тамагочи во многом похоже на преходящую причуду, тем не менее оно по максимуму использовало некоторые аспекты человеческих реакций и поведения. В книге «Одиноки вместе» (Alone Together) Теркл сравнивает игрушку с Бархатным Кроликом из знаменитой детской книги о мягком игрушечном кролике, которого оживила детская любовь. В случае с тамагочи идея переосмысливается: игрушка постоянно требует заботы и умирает без внимания ребенка. Теркл объясняет: «При таком агрессивном требовании заботы вопрос биологической одушевленности практически отпадает. Мы любим то, о чем заботимся. Если тамагочи заставляет вас полюбить его, а вы чувствуете, что он любит вас взаимно, значит он достаточно живой для того, чтобы считаться живым существом. Он достаточно живой, чтобы разделить с ним часть своей жизни»3.
Когда появились более сложные виртуальные питомцы, тенденция сохранилась. Например, Фёрби, аниматронная игрушка, созданная в 1998 году. Напоминает нечто среднее между некрупным млекопитающим и пухлой птичкой и может показывать некоторые признаки эмоций, в том числе открывать и закрывать клюв и глаза. По этим признакам можно предположить, что игрушка обладает зачатками эмоционального искусственного интеллекта, хотя на самом деле это не так. Самый яркий признак состоит в том, что робот умеет говорить. Вначале он воркочет на своем языке, но по мере того как ребенок с ним играет, в речи Фёрби мало-помалу появляются человеческие слова. Игрушка всего лишь запрограммирована, чтобы со временем ее словарный запас увеличивался. Это сделано достаточно тонко, чтобы убедить маленьких детей в том, что Фёрби узнает новые слова от них, а значит, они ее учат. Взаимные отношения помогают установить эмоциональную связь между ребенком и «питомцем», а у некоторых детей связь перерастает в привязанность. Подобное поведение наблюдается по отношению к другим социальным игрушкам-роботам, нажимающим наши дарвиновские кнопки. С помощью распознавания голоса и выражения лица, голосовых сигналов и других средств нас стремятся убедить в том, что перед нами живые существа, а не просто машины. AIBO, собака-робот компании Sony, реалистичная кукла Му Real Baby (созданная при партнерстве компаний Hasbro и iRobot), похожая на настоящего младенца, и еще множество детских игрушек стремятся вызвать у нас эмоциональную реакцию и реализовать стратегию – установить контакт с юными умами и продать продукт.
Весьма возможно, что это лишь начало тенденции, и в дальнейшем появятся еще более реалистичные и эмоционально вовлеченные устройства. Они станут частью нашей жизни, домашней атмосферы и даже наших семей. Некоторые бездетные люди, в основном женщины, уже покупают реалистично выглядящих кукол ручной работы, чтобы унять эмоциональную боль. В предыдущей главе говорилось о людях, которым нужны секс-боты в качестве компаньонов, чтобы избежать сложностей и возможных неприятностей, неизбежных в человеческих отношениях. Но по мере того, как эмоциональный искусственный интеллект становится все более реалистичным, в какое будущее мы можем шагнуть?
У всех видов есть основной сексуальный инстинкт, но мы – единственный вид, чей разум способен осмыслить влечение, изучить его, построить на него планы, окружить его ритуалами и зациклиться на нем. В этом мы уникальны.
На начальном этапе, который продлится примерно десять-пятнадцать лет, мы станем свидетелями того, как уровень эмоциональной вовлеченности этих устройств будет повышаться. Вспомним, что большинство достижений в аффективных технологиях относятся к распознаванию эмоций, а их имитация все еще отстает. Но ситуация изменится. Как только удастся интерпретировать нюансы в различных выражениях человеческих лиц, мы найдем массу способов применить это знание. Возможно, процесс начнется с распознавания голоса, как в сценарии с Абби и ее персональным цифровым помощником в начале главы 1. Такой обмен потребует минимальных доработок в области механики и материалов и будет напоминать разговор по телефону со старым другом. Это точка входа, в которой многие люди начнут принимать персонифицированный эмоциональный искусственный интеллект по своим причинам и для своих целей.
В тот же период появятся эмоционально грамотные физические аватары, которые будут общаться с пользователями и игроками в различных виртуальных мирах. Разновидностями таких миров станут дополненная реальность и гибридная реальность, в которых объекты виртуальной реальности добавляются к реальному миру физических объектов. Еще одной разновидностью станет виртуальная реальность с максимальным эффектом присутствия. Дистанционное присутствие, все чаще применяемое в бизнесе, – еще одна область применения. Хотя большинство технологий уже достаточно развиты, интерпретация и создание выразительной оживленной реакции в режиме реального времени требуют большой загрузки процессора. Аватары действительно могут общаться и обладают некоторым набором выражений лица, но все еще примитивны и запрограммированы, и им недостает выразительной человеческой мимики. Однако по мере совершенствования аппаратного и программного обеспечения проблема будет решена.
Когда мы перейдем к физической реализации эмоционального искусственного интеллекта, то с развитием робототехники и снижением цен на технологии, скорее всего, у человекоподобных роботов появятся живые выражения лиц. В зависимости от того, какого уровня достигнут технологии и материалы, а также от преодоления эффекта зловещей долины, возможно, вначале роботам не будут придавать человеческий облик. Но со временем роботы станут все больше напоминать людей, поскольку человеческое общение – наше основное средство взаимодействия друг с другом. Сначала технология будет доступна только очень состоятельным людям и, возможно, будет одним из способов показать высокий социальный статус среди миллиардеров. Затем она придет и в молодежную культуру, возможно благодаря моде; в этом случае лица роботов будут более карикатурными, а не реалистичными, или будут напоминать персонажей мультфильмов. Из-за высокой цены вначале такие технологии могут быть атрибутом молодых звезд, зарабатывающих популярность (или предоставляться корпоративными спонсорами).
