Книга Метамышление. Как нейронауки помогают нам понять себя, страница 103 – Стивен М. Флеминг

Самые современные исследования в области интерфейсов «мозг – компьютер» направлены на поиск способов использовать активность мозга для управления внешними технологиями. Но похоже, принципиальной причины, по которой мозг не мог бы просто осуществлять мониторинг автономных устройств, а не управлять ими напрямую, не существует. Не стоит забывать, что метапознание имеет широкую сферу применения. Если мы сможем подключить автономные технологии к мозгу, то, вероятно, получится и осуществлять их мониторинг с помощью тех же нейронных механизмов, которые обеспечивают самосознание в других когнитивных процессах. В этих случаях наш мозг-компьютер будет подключаться к более высокому уровню системы: метапознания и самосознания, а не восприятия и моторного контроля^[266].

Планируя партнерство с технологиями таким образом, чтобы использовать преимущества нашей природной способности к самосознанию, мы можем исключить риск, что человек останется не у дел. Прогресс искусственного интеллекта предоставит новые ценные источники данных для наших метакогнитивных моделей. Если бы пилоты обреченного рейса Air France обладали естественным пониманием работы их автопилота, возможно, вмешательство в его действия и переход на ручное управление не стали бы для них такими шокирующими.

Может быть, не так уж и важно, что мы не понимаем, как работают эти машины, если они надежно состыкованы с метапознанием. Лишь небольшое число биологов детально разбираются в работе глаза. И все же, будучи скромными пользователями глаз, мы способны мгновенно распознать, когда изображение оказывается не в фокусе или когда нам нужна помощь очков для чтения. Немногие понимают сложную биомеханику, в результате которой мышцы производят движения рук, и тем не менее мы способны понять, что плохо выполнили подачу в теннисе или замах в гольфе и, значит, нам нужно вернуться к тренировкам. Аналогичным образом мониторинг машин будущего может осуществляться посредством наших собственных биологических механизмов самосознания, и нам не понадобится инструкция, чтобы понять, как это делается.

Какой путь мы выберем, зависит от того, в каком мире мы хотим жить. Хотим ли мы разделить мир с самосознающими машинами? Или предпочтем, чтобы искусственный интеллект оставался разумным, но лишенным самосознания помощником для наших природных когнитивных способностей?

Первый вариант вызывает озабоченность с точки зрения морали. Учитывая склонность человека приписывать моральную ответственность агентам, обладающим самосознанием, внедрение в машины даже первых элементов метапознания может незамедлительно привести к возникновению трудных вопросов о правах и обязанностях наших сотоварищей-роботов. Как бы то ни было, все более сложные метакогнитивные сети, сплести которые стремятся исследователи искусственного интеллекта, пока отличаются от гибкой архитектуры человеческого самосознания. Прототипы алгоритмов метапознания – например, в беспилотнике, предсказывающем возможность аварии, – в той же мере лишены самосознания, что и обычные нейронные сети, позволяющие Facebook ^[267] и Google классифицировать изображения, а Вал – ориентироваться в своем игрушечном мире.

Напротив, современные формы искусственного метапознания довольно узкоспециалированны – они учатся наблюдать за выполнением одной конкретной задачи, например по классификации визуальных изображений. А человеческое самосознание в свою очередь отличается гибкостью и может применяться для оценки целого ряда мыслей, чувств и аспектов поведения. Таким образом, развитие искусственных метакогнитивных способностей, специфических для конкретной области, вряд ли приблизит машины к тому уровню самосознания, который мы связываем с человеческой автономией^[268]. Вторая причина уязвимости большинства компьютерных симуляций метапознания заключается в том, что они имитируют неявные, или «безмодельные», способы вычисления уверенности и неопределенности, но активно не моделируют действия самой системы. В этом смысле искусственное метапознание строится из неосознаваемых кирпичиков неопределенности и мониторинга ошибок, с которыми мы сталкивались в первой части книги, но не пытается выработать ту форму явного метапознания, которая, как мы отмечали, возникает на поздних этапах развития ребенка и связана с осознанием других разумов. Возможно, если взгляд Райла на самосознание второго порядка соответствует действительности, человекоподобное самосознание у машин появится, только когда искусственный интеллект обретет способность к полноценной теории разума.