Это означает, что такая чуждость может существовать не только за пределами Земли, но и рядом с нами. Вы вправе считать в определенном смысле разумными свою кошку или свой смартфон, гипотетического робота из будущего или даже, если смотреть с определенной точки зрения, ваше комнатное растение или ваш тостер.
Мечта о мыслящих машинах в действительности ничем не отличается от мечты о разумных пришельцах. Мы просто заменяем далеких биологических, космических, созданных энтропией пришельцев близкими механико-электронными и созданными человеком машинами. И если SETI и тому подобные проекты допускают униформитарианистскую ошибку в далеком космосе, то попытки придумать и создать искусственный разум и мыслящие машины связаны с такой же ошибкой здесь, на Земле.
Наверное, нагляднее всего демонстрирует, как мыслящие машины соотносятся с определенным модусом разумности, то, что человеческий опыт можно обнаружить в наших вымышленных апокалиптических сценариях с участием ИИ. В «Терминаторе», «Берсеркере»
[111] и «Матрице» неприятности начинаются, когда искусственный интеллект настолько превосходит человеческий, что понимает: лучший для него вариант действий — уничтожить людей и занять их место (или же, по версии Курцвейла, когда наступает момент сингулярности, и люди по собственной воле подчиняются компьютерным повелителям, чтобы достичь бессмертия). Более близкий к нынешним реалиям повод для страха связан с ролью человеческого мышления и труда в экономике, которая все сильнее зависит от механических и электронных машин.
Это одна из точек зрения на искусственный интеллект, но она не единственная. Размышления о мыслящих машинах оказываются настолько ограниченными и антропоцентричными, что вообще удивительно, как мы от них не отказались от скуки, а не из-за контруниформитарианистских соображений. Вместо того чтобы спрашивать, могут ли машины мыслить, или что нам сделать, чтобы они начали мыслить, или как нам узнать, что они мыслят, почему бы нам просто не предположить, что все «машины» способны на что-то вроде мышления, а потом попытаться дать определение этому явлению?
В философии уже есть направления, разрабатывающие такой подход. В отличие от точки зрения эмерджентистов, согласно которой разум возникает при определенных материальных условиях в биологических или в вычислительных сущностях (ее придерживаются большинство сторонников ИИ), панпсихисты утверждают, что «разумы» в каком-то смысле повсюду. Панпсихизм связан с буддистскими доктринами, поощряющими представления об анимизме в природе. Но панпсихизм подвержен риску того же униформитарианизма, что и SETI с ИИ, — я говорю об утверждении, что разум, схожий с разумом человека (или, по крайней мере, животного), является моделью для всех прочих разумов. Более перспективная философская позиция — панэмпиризм, то есть представление о том, что у всего есть нечто вроде опыта, даже если он очень сильно отличается от человеческого.
Когда мы размышляем о мыслящих машинах, то обычно думаем об определенного рода машинах — электронных — и об определенного рода мышлении — (сверх) человеческом. Но что, если вместо этого допустить такую возможность: мы просто не замечаем мышления, которое присуще другим машинам, окружающим нас — тостерам, подъемным воротам, автомобилям? Она может выглядеть нелепой, но доказать ее полезность достаточно легко. Если мы размышляем о машинах типа ИИ, роботах и компьютерах, в том числе и для того, чтобы понять, какими они для нас будут соседями, компаньонами и даже согражданами, то для начала нам следовало бы серьезнее относиться ко всем машинам, которые уже в каком-то смысле выполняют такие роли и на которые мы пока не обращаем внимания.
Когда миньон перестает быть миньоном?
Обри Ди Грей
Геронтолог; старший научный сотрудник SENS Foundation; автор книги «Отмена старения» (Ending Aging)
Если бы меня попросили перечислить проблемы человечества в порядке их остроты, то серебряную медаль я бы отдал необходимости проводить очень много времени за занятиями, которые не дают нам чувства удовлетворения, — словом, за работой. Я считаю, что конечная цель искусственного интеллекта — переложить это бремя на роботов, у которых будет достаточно здравого смысла, чтобы выполнять такие задачи с минимальным объемом контроля с нашей стороны.
Но намерения некоторых исследователей ИИ в отношении машин будущего еще более благородны. Они предсказывают создание компьютеров, которые значительно превзойдут нас во всех сферах познания. Эти машины будут не только выполнять задачи, которыми люди предпочли бы не заниматься, но и выяснять, как делать такие вещи, на которые пока не способен никто. Процесс может, в принципе, развиваться итеративно: чем больше умеют машины, тем больше открытий они совершат.
Так что тут плохого? Почему бы не рассматривать это в качестве главной исследовательской задачи при создании машин, обладающих здравым смыслом (которых я назову миньонами)?
Во-первых, есть широко обсуждаемая боязнь, что машины могут взбеситься, в особенности если набор их навыков («саморазвитие») имеет характер не итеративный, а рекурсивный. Под этим исследователи подразумевают, что у машины будет не только база данных о тех действиях, что она может выполнять, но и алгоритмы, чтобы самостоятельно решать, чем ей заниматься. Некоторые считают, что рекурсивное самосовершенствование может происходить экспоненциально (или быстрее), создавая функционал, который нам даже отдаленно не понять до того момента, когда процесс уже будет не остановить. Это звучало бы грандиозно, если бы не мысль о том, что траектория самосовершенствования может выйти из-под контроля, так что сверхразумные машины начнут тяготеть к тем «задачам» (метрикам, по которым они определяют, чем им заниматься), что нам не нравятся. Была проделана большая работа по предотвращению такого «смещения задач» и созданию надежной, перманентно «дружественной», рекурсивно-самосовершенствующейся системы, но результаты оказались крайне скромными.
Я считаю, что рекурсивное самосовершенствование не должно быть конечной целью исследований в области искусственного интеллекта не потому, что есть риск создать недружественный ИИ, а скорее потому, что у меня есть сильное подозрение: рекурсивное самосовершенствование математически невозможно. По аналогии с так называемой проблемой остановки — определением того, завершается программа или нет, — я считаю, что есть еще не открытая мера вычислительной сложности, в соответствии с которой никакая программа не сможет написать другую, более совершенную программу (включая версии самой себя).
Написанная программа обязательно будет проще, в четком числовом выражении, чем программа, которая ее пишет. Действительно, программы могут получать из внешнего мира информацию о том, как им себя улучшить, но я утверждаю, что (а) это приведет лишь значительно менее «страшному» итеративному самосовершенствованию, а не к рекурсивному и (б) они все равно будут нести в себе внутренние самоограничения, поскольку в тот момент, когда машины станут настолько же умны, как и человечество, у них не будет больше новой информации для изучения. Я знаю, что этот аргумент, конечно, нельзя назвать железобетонным, и мне горько от того факта, что (насколько мне известно) никто не работает над тем, чтобы обнаружить подобную меру глубины или доказать, что таковой не существует. Но это только начало.
