Это меня беспокоит. Могу ли я ответить, что я думаю о мыслящих машинах? Да, меня это беспокоит, но машины неспособны беспокоиться (ведь неспособны же?). О’кей, «беспокоиться» — значит быть не в состоянии подумать о чем-то еще, отвлечься от фокуса беспокойства. Результат — черная пелена! Пустота, чистый лист. Но с этого чистого листа я, возможно, вдруг переключусь на некую продуктивную тему (с какой конечной целью и обязательна ли она?). Машина способна вот так вдруг переключиться на другую тему? Будет ли это мышлением?
То, что мы обычно называем «мышлением», прямо-таки мучительно целенаправленно. Но есть ли какая-либо цель, не связанная с определенным результатом, и только ли человеческий мозг способен ухватить подобную извращенную идею, которая может завести неизвестно куда? О’кей, теперь уже совершенно ясно, зачем мне ходить кругами, чтобы высказать очевидное утверждение о том, что мыслящие машины — это современный Троянский конь. Все (включая меня) хотят получить от них многочисленные сладкие плоды, хотя с помощью этих плодов машины лепят нас по своему образу, уничтожая глубинную пустоту внутри каждого из нас, в которой скрывается наше творческое начало. И зачем мне было ходить кругами, чтобы дойти сюда, где я высказываю мнение, не стоящее даже ритма моих кружений… это дыра. Да, я попался в ловушку, которую сам построил, — как и любой другой. Но не так, как мыслящие машины! Ловушка, в которую они попадают, — ну, они же не могут «знать»!
Кто боится искусственного интеллекта?
Ричард Талер
Основоположник поведенческой экономики; директор Центра по исследованию решений, Школа бизнеса им. Бута при Чикагском университете; автор книги «Новая поведенческая экономика: Почему люди нарушают правила традиционной экономики и как на этом заработать» (Misbehaving: The Making of Behavior Economics)
[114]
Мои краткие замечания по этому вопросу построены на двух коротких шутках, которые в свое время были произнесены выдающимися израильтянами. Первая принадлежит моему другу, соратнику и наставнику Амосу Тверски. Когда я как-то спросил его, что он думает по поводу искусственного интеллекта, Амос съязвил, что не очень хорошо в этом разбирается, поскольку специализируется на тупости. (Спокойно! Амос на самом деле, конечно, не думает, что люди тупые.)
Вторая шутка взята у Аббы Эвена, который был наиболее известен в Соединенных Штатах, когда служил послом Израиля в ООН. Эвена однажды спросили, думает ли он, что Израиль перейдет на пятидневную рабочую неделю. Формально она начинается там в воскресенье утром и продолжается до полудня в пятницу, хотя значительная часть «работы», выполняемой в ходе этих пяти с половиной дней, похоже, делается в кофейнях. Эвен ответил так: «Не всё сразу. Давайте начнем с четырех дней, а там видно будет».
В этих шутках ухвачено многое из того, что я думаю об угрозе захвата машинами важных социальных функций и о восстании машин. Как и Тверски, я больше знаю о природной тупости, чем об искусственном интеллекте, так что мне не на чем построить свое мнение о том, могут ли машины мыслить, и если так, то могут ли их мысли быть опасными для людей. Оставлю этот вопрос кому-нибудь более компетентному. Как любой из тех, кто следит за финансовыми рынками, я осведомлен о таких инцидентах, как «мгновенный обвал» в 2010 году, когда несовершенные биржевые алгоритмы неожиданно вызвали быстрое падение котировок, а через несколько минут уже работали нормально, как ни в чем не бывало. Но этот пример иллюстрирует скорее искусственную тупость, а не сверхинтеллект. Если люди продолжат писать программы, всегда останется риск, что какие-то важные меры безопасности окажутся упущены. Поэтому да, компьютеры могут все испортить, прямо как люди со «слишком толстыми пальцами» могут случайно дать ошибочную команду совершить покупку или продажу на гигантскую сумму денег.
Тем не менее страхи по поводу того, что компьютеры захватят мир, преждевременны. Меня больше беспокоит упрямое нежелание многих сегментов общества позволить компьютерам взять на себя задачи, которые простые модели выполняют заметно лучше, чем люди. В работах по этой теме, где пионерами были такие психологи, как недавно почивший Робин Доуз, описывается, что практически с любой стандартной задачей — обнаружить мошенничество, оценить степень злокачественности опухоли, нанять сотрудников — лучше справляется простая статистическая модель, а не ведущие эксперты в той или иной сфере. Позвольте привести два наглядных примера: один из области управления персоналом, а другой из мира спорта.
Давайте сначала рассмотрим досадно вездесущие собеседования, считающиеся важным, часто самым важным фактором, определяющим, кого именно возьмут на работу. В школе бизнеса имени Бута при Чикагском университете, где я преподаю, рекрутеры посвящают бесчисленные часы собеседованиям со студентами из кампуса и в результате отбирают тех немногих, кто получит приглашение встретиться с работодателем, чтобы пройти через еще одну серию продолжительных собеседований. Однако проведенные исследования показывают, что собеседования практически бесполезны в плане прогнозирования того, насколько хорошо кандидат будет справляться со своей работой.
В сравнении со статистической моделью, основанной на объективных показателях, таких как оценки за учебные курсы, имеющие отношение к рассматриваемой работе, собеседования преимущественно замутняют картину и привносят фактор предубежденности. (Статистические модели не отдают предпочтения определенной альма-матер или этнической группе, а также не обращают внимания на привлекательную внешность.)
Эти факты известны уже более четырех десятилетий, но методы найма почти не изменились. Причина проста: каждый из нас знает, что если мы проводим собеседование, то мы много узнаем о кандидате. Вполне возможно, что другие люди тут не очень хорошо справляются, но я-то не такой! Эта иллюзия, находящаяся в прямом противоречии с практическими исследованиями, означает, что мы так и будем выбирать сотрудников по старинке, как всегда делали. Мы их оцениваем, сравниваем с собой.
Одна из областей, где есть кое-какой прогресс в плане более научного подхода к подбору кандидатов для работы, — это спорт, что отражено в книге и фильме Майкла Льюиса «Человек, который изменил все» (Moneyball). Однако было бы ошибкой думать, что в том, как в спорте принимаются решения, произошла революция. Действительно, большинство профессиональных команд теперь нанимают специалистов по анализу данных, чтобы те помогали им оценивать потенциальных игроков, улучшать методы тренировки и разрабатывать стратегии. Но окончательные решения о том, какого кандидата выбрать, с кем подписать контракт и кого выпускать на поле, все еще принимают тренеры и менеджеры — скорее интуитивно, а не полагаясь на мнение штатных зубрил.
В качестве примера можно рассмотреть американский футбол. Дэвид Ромер, профессор экономики в Беркли, в 2006 году опубликовал работу, демонстрирующую, что команды слишком часто решают сделать пант, вместо того чтобы «идти в проход» и получить первый даун или очко
{13}. С момента публикации работы анализ Ромера был не раз воспроизведен и дополнен более точными данными, а выводы подтвердились. У New York Times даже есть онлайн-бот, который вычисляет оптимальную стратегию каждый раз, когда команда сталкивается с ситуацией четвертого дауна.
