У нас есть довольно точное представление о том, какие данные должны быть в модели яблока и в модели себя. Но каким данным следует содержаться в модели внимания? Как она должна описать внимание, чтобы это можно было использовать?
Ее описание не может быть примитивным, на уровне: “Яблоко – это то, чему я уделяю внимание”, иначе модель окажется пустой, не более чем пунктирной линией между двумя другими моделями. Схеме внимания нужна информация о самом внимании – о том, что такое сосредоточивать его. Но, как и упрощенная внутренняя модель яблока, хорошая схема внимания не будет зря тратить ресурсы на данные о неважных для нее технических деталях. Для внимания настоящего мозга эти технические мелочи включают в себя нейроны, синапсы и соревнование между электрохимическими сигналами. В случае робота это провода, чипы и кремниевые логические вентили. То есть составные части механизма, о которых системе знать необязательно. Нашей машине нужно поверхностное, лишенное деталей, описание внимания, уделяемого ею яблоку. Она может описывать его как мысленное удерживание предмета, как способ захвата информации, познания ее и глубокого ее понимания. Или же как нечто, происходящее где-то внутри. Может она описать и некоторые предсказуемые последствия: внимание предоставляет способность реагировать, запоминать, принимать решения.
Теперь спросим машину, изображенную на рис. А.3: “Каковы мысленные взаимоотношения между тобой и яблоком?”
Поисковая система обратится к внутренним моделям и ответит на основе имеющейся информации. Она скажет: “Я мысленно удерживаю яблоко”.
Многообещающий ответ, но мы можем копнуть еще глубже. “Расскажи нам еще об этом мысленном удерживании. Какие у него физические свойства?” Чтобы удостовериться, что машина понимает вопрос, уточним: “Ты знаешь, что такое физические свойства?”
У машины есть схема тела, которая описывает ее физическое тело, и есть внутренняя модель яблока, которая описывает физический объект. Так что машина может сказать: “Да, я знаю, что такое физические свойства. Плотность, вес, импульс, прозрачность – это свойства предметов”. Но, основываясь на доступных ей данных, она возможно, поведает нам (при достаточном словарном запасе): “Мое мысленное удерживание яблока, мысленное удерживание как таковое – не имеет свойств, которые можно описать физически. Оно существует, но у него нет плотности, веса, импульса или прозрачности. Удерживание не существует в этих измерениях. Это нефизическая сущность. В каком-то смысле – метафизическая. Однако оно действительно имеет физическое местоположение – существует где-то внутри меня. Это часть меня – метафизическая часть, которая позволяет мне вбирать что-то умом. Я не просто обрабатываю информацию, что это яблоко красное: у меня есть мысленное удерживание красноты”.
Добавив схему внимания, мы создали машину, которая утверждает о наличии у нее сознания, подозрительно похожего на то, о наличии которого утверждает человек.
Мы сами построили робота и знаем, как он работает, поэтому все еще смотрим на это скептически. Устроим ему дополнительную проверку: “Спасибо за объяснение, но ты все-таки только машина – и конечно, будешь извергать подобную информацию. Ты просто обращаешься к внутренней модели, своей схеме внимания, и выдаешь информацию из нее. Мы, конечно, впечатлены, что твои основанные на модели знания позволяют тебе давать такие гибкие и богатые ответы на вопросы. Но ты же всего-навсего передаешь информацию, которая содержится в тебе”.
Услышав нашу претензию, поисковая система вновь обратится к внутренним моделям и не найдет ничего, подходящего под только что сделанное описание. Вспомните, эти внутренние модели слишком упрощены, чтобы четко сообщить нам, как в действительности работает машина. Поскольку ей доступна лишь ограниченная информация, то она отвечает: “Я ничего не знаю о внутренних моделях, информации или ее обработке. Вот что я знаю: яблоко здесь, я здесь и я владею осознанием яблока. Осознание само по себе – не физическое явление. И не вычисление, и не модель, чем бы они ни были. Это нефизическое свойство внутри меня, благодаря которому яблоко делается ярким, присутствующим для меня, и я могу на него реагировать”.
Машина не только утверждает, что у нее есть сознание, – она, как и большинство людей, отвергает механистическое его объяснение и верит в метафизическую теорию. Она так устроена, она в ловушке своих собственных внутренних данных. Полагаясь на интроспекцию (под этим я понимаю именно когнитивную поисковую систему, обращающуюся к внутренним моделям машины), она неизбежно будет приходить к тому же метафизическому самоописанию.
О зрительном восприятии машин известно, пожалуй, достаточно, чтобы построить примерно такую несложную систему с использованием сегодняшних технологий. Пока они не продвинутся вперед, выйти за пределы зрения будет сложно, но в принципе ту же самую логику уместно применить к любому явлению, с которым столкнется робот. Теоретически можно заменить яблоко звуком, прикосновением, воспоминанием, эмоцией или мыслью, что дважды два четыре. Можно схематически выстроить мысль: “Я осознаю себя”, или даже: “Я осознаю, что сознаю”. Осознание яблока – только начало.
