Предприниматель: Вместо того чтобы пытаться создать систему, которая учится сама, почему бы не сделать такую, которая просматривала бы интернет и извлекала знания из миллионов страниц содержательных текстов?
Это, безусловно, заманчивая идея, ведь во Всемирной паутине наверняка содержится больше знаний, чем способен когда-либо выучить человек. Однако нигде в Сети не указано, какие знания необходимы, чтобы все эти тексты понимать
[66]. Рассмотрим, например, вот такую ситуацию, описанную в обычной детской книжке:
Мэри пригласили к Джеку на праздник. Она решила, что ему, наверное, понравится воздушный змей. Взяла свою копилку и потрясла. Та не издала никакого звука.
Типичный читатель предположит, что у Джека намечается праздник на день рождения и Мэри волнуется, потому что ей нужно будет принести Джеку подарок
[67]. Хороший подарок на день рождения – это что-то, что понравится его получателю, и предположение, что Джеку может понравиться воздушный змей, также предполагает, что Джек – ребенок и что змей может быть подходящей игрушкой. Упоминание о копилке предполагает, что Мэри думает купить змея и ей нужны деньги, чтобы заплатить за него. Кроме того, копилка бы зазвенела, если бы в ней были монеты; это означает, что Мэри теперь столкнулась с финансовыми трудностями. Но если читатель не знает всех этих фактов, то подобная «простая» история покажется ему бессмыслицей, поскольку между предложениями нет явной связи.
Невролог: Почему бы не попытаться сделать копию мозга, используя то, что ученым известно о функциях различных его участков?
Мы узнаем новые подробности каждую неделю, но наших знаний пока еще не хватает даже для того, чтобы создать копию паука или змеи.
Программист: А как насчет альтернатив, таких как создание очень больших машин с огромными библиотеками статистических данных?
Такие системы могут научиться приносить пользу, но мне думается, что им никогда не развить особенного интеллекта, потому что они используют для репрезентации всех получаемых знаний числовые методы. Поэтому, пока мы не оснастим их возможностью высокоуровневой рефлексии, они не смогут репрезентировать концепции, необходимые для понимания того, что эти цифры означают.
Эволюционист: Раз мы не знаем, как сконструировать более совершенную машину-младенца, возможно, нам удастся заставить ее развиваться самостоятельно. Сначала можно написать программу, которая пишет другие программы, а затем вносит в них различные виды мутаций – и заставляет эти программы конкурировать за выживание в условиях, напоминающих реальные.
Нам потребовались сотни миллионов лет, чтобы эволюционировать от самых ранних позвоночных рыб, и вся эта вечность ушла на развитие структур, которые превратились в высокие уровни рефлексии, описанные в главе пятой. В следующих главах будут изложены аргументы в пользу того, что каждый ребенок активно использует эти высокоуровневые структуры при развитии уникальных человеческих методов репрезентации новых знаний и процессов. Мне кажется очевидным, что именно поэтому попытки создать «машину-ребенка» потерпели неудачу: нельзя научиться тому, что вы не можете репрезентировать.
Если вы хотите научить машину понимать абстракцию, скорее всего, машина должна быть способна репрезентировать эту абстракцию некоторым относительно простым способом.
Джон Маккарти, 1959
Я не пытаюсь отрицать все перспективы создания машины-младенца, но у меня есть подозрения, что любая система подобного рода будет развиваться слишком медленно, если только (или пока) ее не снабдят надлежащими методами репрезентации знаний; мы поговорим об этом в главе восьмой. В любом случае кажется довольно очевидным, что человеческий мозг с рождения оснащен весьма развитыми методами научения (некоторые из них начинают действовать лишь спустя значительный период времени после рождения). Исследователи, которые пытались создавать такие машины, использовали немало гениальных схем, но, как мне кажется, все они зашли в тупик потому, что у них не было способа преодолеть одну или более из перечисленных ниже проблем:
Парадокс оптимизации. Чем лучше система работает сейчас, тем более вероятно, что любое изменение ухудшит ситуацию, – поэтому ей становится все труднее отыскивать новые способы совершенствования.
Принцип привычки. Чем лучше работает некий процесс, тем больше мы будем полагаться на него и тем менее будем склонны разрабатывать новые альтернативы – особенно если новый метод не принесет хороших результатов, пока с ним не освоишься.
Барьер сложности. Чем больше взаимодействуют части системы, тем более вероятно, что каждое изменение будет вызывать неожиданные побочные эффекты.
Эволюция часто описывается как процесс выбора полезных изменений, но по большей части эволюция заключается в отказе от изменений, имеющих негативные последствия! Именно поэтому большинство видов в процессе эволюции занимает узкие специализированные ниши, границы которых кишат всевозможными опасностями и ловушками. Мы слишком редко говорим о том, что, хотя генетическая эволюция может «учиться» избегать наиболее распространенных ошибок, она практически неспособна заучить большое количество очень необычных ошибок. И действительно, лишь немногие «высшие животные» сумели избежать этого, развив сходные с языковыми системы, посредством которых они могут сообщать своему потомству о событиях, произошедших с родственниками их предков.
Все это говорит о том, что машине будет сложно продолжать развиваться, если только она не выработает способа защиты от изменений, вызывающих отрицательные побочные эффекты. Отличным методом достижения этой цели, как в области инженерии, так и в биологии, стало разделение всей системы на части, способные к более независимому развитию. Именно поэтому все живые существа превратились в собрание отдельных частей (которые мы называем органами), каждая из которых имеет сравнительно небольшое количество связей с другими частями.
Неструктурированная система
