В принципе, машины с более сложной структурой — с чем-то еще, кроме read, write и address, — можно построить (более того, первые энтузиасты искусственного интеллекта создали логический синтаксис), они будут взаимодействовать с определенными ошибками, поскольку без ошибок нет обучения, и культурно эволюционировать. Но сейчас основное внимание ИИ и нейробиологии, которая должна заменить утверждения об абстрактных психологических структурах осязаемыми нейронными сетями и тому подобным, похоже, направлено совсем не туда.
Напротив, когнитивные структуры, о существовании которых уверенно говорят психологи (при условии, что те должным образом описаны, убедительно объяснены и эмпирически проверены с привлечением альтернативных гипотез и нулевой гипотезы), должны быть отправной точкой в том, чтобы определить, что именно надо искать нейробиологии и машинным моделям разума. Если в результате мы обнаружим, что различные абстрактные структуры работают на одном и том же физическом субстрате или что схожие структуры работают на различных субстратах, это будет значить, что у нас есть интересная проблема, способная привести к пересмотру понимания и структуры, и субстрата. Тот факт, что такие простые и основополагающие вопросы оказываются настолько сложны (или даже априори исключены из научной проблематики), демонстрирует, насколько примитивна еще наука о разуме — хоть о человеческом, хоть о машинном.
Две когнитивные функции, которых все еще нет у машин
Станислас Деан
Когнитивист, нейрофизиолог, Коллеж де Франс, Париж; автор книги «Сознание и мозг» (Consciousness and the Brain)
Когда Тьюринг придумал теоретический аппарат, который стал впоследствии компьютером, то признал, что пытался скопировать «человека в процессе вычисления действительного числа», о чем написал в своей исторической работе 1936 года
{8}. В 2015 году изучение человеческого мозга все еще остается лучшим источником идей по поводу мыслящих машин. Когнитивисты открыли две функции, обладающие — я утверждаю это — огромной значимостью для подлинного мышления в том виде, в котором мы его знаем, и до настоящего момента не привлекавшие внимания программистов.
1. Глобальное рабочее пространство. Нынешние программы, в сущности, устроены по модульному принципу. Каждая работает как самостоятельное «приложение», начиненное собственными специальными знаниями. Подобная модульность позволяет достигать рациональной параллельности задач; мозг тоже построен по модульному принципу, но он может и распределять информацию. Все, что мы видим, слышим, знаем и помним, не оседает в каком-то одном специализированном нейронном контуре. Напротив, мозг млекопитающего включает систему широкого распределения информации, которая сглаживает эффект модульности разных областей мозга и обеспечивает возможность передачи любых данных. Глобальное рабочее пространство позволяет нам, например, обратиться к определенной информации на нашей сетчатке, скажем к графическому изображению буквы, и довести до сознания то, что мы можем использовать это для принятия решений, выполнения действий или продуцирования речи. Представьте себе новый тип буфера обмена, который позволил бы любым двум программам произвольно передавать друг другу информацию без вмешательства пользователя. Мы назовем машину разумной, когда она будет не только знать, как выполнять определенные действия, но и знать о том, что она это знает, то есть использовать информацию универсально, шире области видимости конкретного ПО, которое изначально ее получило. У операционной системы, настолько раздробленной на модули, что она может точно указать ваше местоположение на карте, но не способна ввести ваш адрес в приложении, формирующем налоговую декларацию, в соседнем окне, нет глобального рабочего пространства.
2. Модель психического. Когнитивисты открыли второй набор нейронных контуров, предназначенный для репрезентации чужих разумов — того, что другие люди думают, знают или во что они верят. Если мы не страдаем от заболевания, называемого аутизмом, то постоянно следим за другими людьми и приспосабливаем наше поведение к их уровню знаний, иначе говоря, к тому, что знают они (как нам кажется). Такая модель психического — это еще один важнейший элемент, которого нет у современных программ, — возможность следить за ходом мысли человека. У программ будущего должна появиться собственная модель репрезентации пользователя. Хорошо ли ему видно экран? Может, надо увеличить шрифт? Есть ли какие-нибудь данные, свидетельствующие о том, что сообщение заметили и поняли? Даже минимальная симуляция этого мгновенно создаст сильное впечатление того, что машина «мыслит». Вот почему для достижения релевантности (понятие, впервые описанное когнитивистом Дэном Шпербером) требуется модель психического. В отличие от современных компьютеров, люди не произносят совершенно нерелевантных реплик, потому что следят за тем, как действует на собеседника то, что они говорят. Навигатор сообщает вам: «На следующем перекрестке с круговым движением сверните во второй съезд направо» — и выглядит глупо, потому что не знает, что сообщение «Езжайте прямо» было бы гораздо более компактным и релевантным.
Глобальное рабочее пространство и модель психического — это две важнейшие функции, которыми обладает даже ребенок в возрасте одного года, а у наших машин их нет. Любопытно, что у двух этих функций есть кое-что общее: многие когнитивисты считают их ключевыми компонентами человеческого разума. Глобальное рабочее пространство дает нам «сознание 1.0» — тот вид ощущений, что есть у всех млекопитающих, который позволяет им «знать, что они знают» и, следовательно, универсально пользоваться информацией, направляющей их решения. Модель психического — это скорее чисто человеческая функция, которая обеспечивает нам «сознание 2.0» — ощущение того, что́ мы знаем, в сравнении с тем, что́ знают другие люди, и способность моделировать их мысли, в том числе и о нас, а следовательно, по-новому ощущать, кто есть мы.
Вот мой прогноз: когда машина станет учитывать, что знает она и что знает пользователь, мы незамедлительно назовем ее мыслящей, потому что ее образ действий будет уже мало отличаться от нашего.
Пространство для развития индустрии программного обеспечения огромно. Подход к построению операционных систем в будущем придется серьезно пересмотреть, чтобы включить в них такие возможности, как распределение данных между различными приложениями, моделирование образа мысли пользователя и управление средствами отображения данных сообразно предполагаемым целям пользователя.
Среди машин, а не внутри них
Мэтт Ридли
Научный журналист; учредитель Научного центра жизни; автор книги «Рациональный оптимист» (The Rational Optimist: How Prosperity Evolves)
[56]
