Плодовитый изобретатель и футуролог Рэй Курцвейл со своей концепцией суперинтеллектуальных машин бежит в противоположном направлении. Его книга «Сингулярность уже близко» (2005) стала бестселлером. Как и в случае со многими предсказаниями, понятие «близко» подразумевает будущее, которое наступит достаточно быстро, чтобы мы его опасались, но не настолько скоро, чтобы воспринимать его как реальность. Курцвейл рисует почти утопический мир, в котором биологическая природа человека и нанотехнологии объединяются в сингулярность и начинают служить людям, позволяя им достичь чрезвычайно высокого уровня мышления и продолжительности жизни.
Ноэля Шарки больше занимает практическая сторона вопроса. Он разрабатывает этические нормы для использования автономных машин, особенно тех, которые он прямо называет роботами-убийцами. Мы близки к созданию дронов, способных самостоятельно спускать курок, поэтому уже сегодня должны предусмотреть и предотвратить вероятность дистанционных убийств. Фонд ответственной робототехники Ноэля Шарки также пытается обратить наше внимание на социальные последствия автоматизации и ее влияние на человеческую природу. «Настало время остановиться и подумать, каким будет наше технологическое будущее, прежде чем оно подкрадется и обрушится на нас», — говорит профессор. Очень важно, что такие предостережения звучат из уст человека уровня Шарки — ведущего мирового эксперта в области робототехники и исследований ИИ, поскольку это свидетельствует о том, что не все, кто говорит о необходимости сделать паузу, — луддиты и паникеры.
Как объяснил мне Шарки во время нашей встречи в Оксфорде в сентябре 2016 года, мы стоим на пороге революции в робототехнике буквально во всех областях, включая здравоохранение, образование, секс, транспорт, сферу услуг, охрану порядка и военное дело. Однако на государственном и международном уровне эту проблему явно игнорируют. «Кажется, все думают, что надо выждать так же, как было в случае с интернетом, — говорит Шарки. — Сегодня некоторые видные фигуры во все горло кричат о том, что ИИ захватит мир и уничтожит всех нас. Их предсказания вряд ли скоро сбудутся, но они поднимают облако пыли, скрывающее от нас насущные проблемы, с которыми мы можем столкнуться уже в ближайшее время. Пока еще искусственный интеллект остается довольно тупым и ограниченным вопреки всеобщему ажиотажу, но постепенно мы движемся к тому, чтобы позволить ему все больше контролировать нашу жизнь».
Фонд Шарки выступает за принятие международного закона о правах человека в технологическую эпоху, призванного определить и ограничить виды решений, которые могут приниматься машинами в отношении людей и взаимодействия людей с роботами. Это сразу заставляет вспомнить знаменитые три закона робототехники Айзека Азимова
, но в реальной жизни все обстоит гораздо сложнее.
Однажды я спросил у Эндрю Макафи, сотрудника Массачусетского технологического института и соавтора книг «Наперегонки с машиной» (2011) и «Вторая эпоха машин» (2014), что он считает самым большим на сегодняшний день заблуждением, связанным с искусственным интеллектом. Тот лаконично ответил: «Величайшее заблуждение — считать, что наши надежды на сингулярность или страхи перед суперинтеллектом вот-вот станут реальностью». Рассудительное и гуманистическое отношение Макафи к влиянию технологий на общество мне очень близко. Его прагматизм перекликается и с позицией эксперта в области машинного обучения Эндрю Ына, ранее работавшего в Google, а сейчас — в китайской компании Baidu. По меткому замечанию Эндрю, беспокоиться сегодня о сверхразумном злодейском ИИ — все равно что тревожиться о «проблеме перенаселенности на Марсе».
Это не значит, что я не ценю обеспокоенность Бострома и его единомышленников нашим будущим. Просто хочется, чтобы они больше заботились обо мне и о каждом из нас, ведь существует масса насущных проблем, требующих скорейшего решения. Я склонен рассматривать негативные эффекты внедрения новых прорывных технологий как болезнь роста, последствия которой окажутся далеко не так страшны, как это выглядит поначалу. Новое не всегда лучше старого, но неправильно думать, будто новое всегда хуже старого: такой пессимистический взгляд был бы пагубен для развития нашей цивилизации.
Мы не можем в точности знать, чтó принесут с собой новые технологии, но я верю в молодежь, которая развивается одновременно с ними. Не сомневаюсь, что молодые смогут дать технологиям новую, удивительную жизнь — так же, как это сделало мое поколение, использовав технологии для создания спутников и компьютеров, и как это делает каждое поколение на пути к своим самым грандиозным целям.
Как правило, в заключении авторы сбавляют обороты, завершая разговор; я же, наоборот, хочу вас взбудоражить. Надеюсь, что вы воспримете этот раздел как призыв задуматься об очерченных мной проблемах и принять активное участие в создании такого будущего, каким вы хотите его видеть. Эта дискуссия уникальна, поскольку не носит академического характера. Она направлена в грядущее. Чем больше люди верят в позитивное технологическое завтра, тем выше вероятность того, что оно настанет. Мы все формируем наше будущее своими убеждениями и действиями. Я верю, что наша судьба находится в наших руках. Ничто не предрешено. Никто из нас не является просто зрителем. Игра продолжается, и все мы сидим за шахматной доской. И единственный способ победить — мыслить шире и глубже.
Это не выбор между утопией и антиутопией. И не вопрос противостояния технологиям. Да, нам придется очень постараться, чтобы не дать технологиям себя обогнать. Мы прекрасно умеем учить машины выполнять нашу работу вместо нас и будем делать это все лучше и лучше. Единственный путь — постоянно ставить перед собой новые задачи и цели, создавать новые отрасли, даже если пока мы не представляем, как к этому подступиться. Нам нужны новые рубежи и воля, чтобы их штурмовать. Наши технологии избавляют нас от многих трудностей и значительной доли неопределенности, поэтому необходимо применять их для решения все более сложных, сопряженных с высокой степенью неопределенности проблем.
Я утверждаю, что благодаря технологиям, которые высвободят наши творческие способности, наша человеческая сущность проявится еще сильнее. Но человек — это намного больше, чем творчество. Мы обладаем такими возможностями, с которыми никогда не сможет сравниться ни одна машина. У машин есть инструкции, у нас есть цели. Машины не могут мечтать, даже в режиме сна. Люди — могут! И нам нужны интеллектуальные машины, чтобы превращать наши дерзкие мечты в реальность. Если же мы перестанем мечтать, перестанем стремиться к грандиозным целям, мы сами можем превратиться в машины.
БЛАГОДАРНОСТИ
Хочу поблагодарить всех тех в шахматном мире и мире компьютерных наук, кто внес вклад в проведение самого долгосрочного коллективного эксперимента в истории — в создание шахматной машины, способной победить чемпиона мира. Моя жизнь и моя карьера стали неизмеримо богаче благодаря тому, что я мог стоять на плечах этих первопроходцев и вместе с ними участвовать в научном поиске. Многие из них упомянуты в этой книге; некоторые были моими достойными соперниками, другие — верными друзьями.
Фредерик Фридель пробудил во мне интерес к шахматным машинам, которые он любит так сильно, что порой я сомневаюсь, на моей ли он стороне. Кен Томпсон помогал мне своим бесценным опытом и доброжелательностью в моих матчах против машин. Дэвид Леви и Монти Ньюборн рассматривали компьютерные шахматы как способ рассказать миру об искусственном интеллекте и шахматах. Джонатан Шеффер, Энтони Марсленд и Дональд Мичи, достигшие впечатляющих успехов в области исследования технологий, на протяжении нескольких десятилетий глубоко развивали теорию шахматных машин. Маттиас Вюлленвебер и Франс Морш создали программы ChessBase и Fritz, положившие начало компьютерной эпохе в профессиональных шахматах. Томас Анантараман, Мюррей Кэмпбелл, Джозеф Хоан и Сюй Фэнсюн, работая в Университете Карнеги — Меллона, создали машину Deep Thought, которая впоследствии была превращена в суперкомпьютер Deep Blue в компании IBM. Они заслуженно завладели святым Граалем, о котором мечтали Алан Тьюринг, Клод Шеннон и Норберт Винер, и в том, что тогда Чаша находилась у меня руках, — моя удача, а не беда. Мой друг Шай Бушински и его коллега Амир Бан создали замечательную программу Junior, ставшую моим противником в заключительном матче с машиной в 2003 году.
