Тем самым ИИ на новом этапе своего развития возвращается к старой идее моделирования естественного интеллекта для углубления нашего понимания природы интеллекта и построения искусственного разума с учетом полученных знаний. Такая совместная исследовательская программа классических наук о разуме и разработчиков машинного интеллекта сегодня необходима и тем и другим.
Исследовательская программа по созданию сильного ИИ
Мы определили индивидуальный интеллект и коллективный разум как особый класс алгоритмов, способных увеличивать свою сложность при взаимодействии со средой, совершенствуя способность добиваться своих целей в постоянно меняющихся условиях. Именно такие алгоритмы являются предметом машинного обучения, поэтому оно служит наиболее адекватной парадигмой для исследования интеллекта и разума.
Так что машинное обучение играет для понимания разума такую же роль, как теория эволюции – для понимания жизни. При этом машинное обучение трактуется нами как фундаментальная наука о той части природы, которая научилась учиться, в противовес физике, которая изучает косную материю, неспособную к обучению. В таком понимании теория эволюции – это и есть теория обучения живого вещества (пользуясь терминологией В. И. Вернадского), объясняющая причины появления всех форм жизни во всем их удивительном многообразии.
Таким образом, известный тезис Феодосия Добржанского: «Ничто в биологии не имеет смысла, кроме как в свете теории эволюции»
[84] можно перефразировать так: «Ничто в науках о разуме не имеет смысла, кроме как в свете машинного обучения». Поэтому именно машинное обучение способно объединить усилия представителей разных наук для совместного продвижения в понимании разума, как человеческого, так и искусственного. Каким образом? Предоставив единую научную парадигму, математический язык, на котором им всем было бы удобно общаться. Разные науки о мозге и мышлении используют настолько разные подходы, что возникает проблема их совмещения друг с другом, и это обстоятельство препятствует плодотворному обмену идеями между различными научными школами.
Нейрофизиология описывает мозг как мыслящую машину и стремится понять устройство этой машины. В «физике мозга», как и везде в физике, объяснение предполагает в первую очередь выявление причинно-следственных связей, поэтому очень показательны работы пионера нейрофизиологии И. М. Сеченова, объяснявшего мышление сложной иерархией рефлексов: «Определенными внешними влияниями вызываются последовательно ряды ассоциированных мыслей, и конец рефлекса вытекает логически из сильнейшей»
[85].
Психология, напротив, описывает мышление телеологически, исходя из внутренних целей организма. Наше мышление стремится опосредованно, через взаимодействие с внешним миром, удовлетворить врожденные потребности и приобретенные ценности человека. С этой точки зрения мышление определяется не столько внешними обстоятельствами, сколько нашими внутренними целями, как биологическими, так и социальными. Лучше всего иллюстрирует эту позицию знаменитая метафора Л. С. Выготского: «Облака мыслей, гонимые ветрами мотивов, проливаются дождем слов»
[86]. Логика сосредоточивается на законах сознательного символьного мышления («облаках мыслей»), психолингвистика – на том, как они «проливаются дождем слов», психология же больше интересуется подсознательными «ветрами мотивов». В любом случае в центре внимания оказывается не физика устройства – мозга, а модели мышления, только в описательной, словесной форме, а не как действующие модели с четкими алгоритмами мышления.
Возникает извечный вопрос: как соотносятся между собой причинно-следственные связи и целесообразное поведение, то есть физическое и психическое? С одной стороны, если любое движение мысли определяется механизмами работы мозга, то как можно говорить о свободе воли? С другой стороны, только язык психологии способен хоть как-то объяснять ход наших мыслей и мотивы наших поступков. Конечно, детерминизм и телеология не противоречат друг другу. Это два способа понимания мира – на языке траекторий динамических систем или их аттракторов. Однако детерминистское описание сложной системы (физика мозга) ничего не говорит нам о ее целях, а знание целей – об алгоритмах их достижения.
Теория машинного обучения обеспечивает недостающую связь между принципами причинности и целеполагания за счет изменения постановки задачи. Физика рассматривает систему как данность и спрашивает, как эта система работает. Машинное обучение, напротив, интересуется, как создать систему, обладающую заданными свойствами. Внимание исследователей здесь фокусируется не на «морфологии», а на «эмбриологии» сложных систем.
Соответственно машинное обучение интересуют не столько «быстрые» алгоритмы работы уже готовой системы, сколько «медленные» алгоритмы ее самосборки, постепенного увеличения сложности системы при ее взаимодействии с миром. И эти последние (алгоритмы обучения) формулируются как раз в терминах оптимального управления, то есть достижения системой каких-то целей.
Таким образом, в машинном обучении цели встраиваются во вполне детерминистские алгоритмы обучения. Понимая, какие из них породили данную сложную систему, мы будем знать цели, которые она преследует. Алгоритмы обучения, как правило, гораздо проще результата обучения и позволяют нам не только создать сложную систему, но и «понять» ее, то есть объяснить, почему ее устройство нацелено на достижение определенных целей, примиряя тем самым причинно-следственное и телеологическое описание системы, притом что распутывание запредельно сложной сети причинно-следственных связей в уже сформировавшейся системе никак не продвигает нас в понимании логики ее работы.
Машинное обучение меняет наше понимание машины как устройства, исполняющего заложенные в него готовые алгоритмы. Алгоритмы обучения, даже относительно простые, способны в процессе взаимодействия со средой порождать сколь угодно сложные алгоритмы целенаправленного (то есть разумного) поведения, способного адаптироваться к произвольно меняющимся внешним обстоятельствам и изменять мир в соответствии со своими целями. Машины, оказывается, способны в процессе обучения ставить себе промежуточные цели и находить пути их достижения, преодолевая различные препятствия и вырабатывая собственные ценности, то есть нормы поведения, помогающие достигать поставленных целей. Это новое понимание машины, привнесенное теорией машинного обучения, открывает широкие перспективы в изучении разума во всех его проявлениях.
Итак, машинное обучение предлагает нам следующую программу исследования и создания сложных самообучающихся систем: выявление или разработка алгоритмов их обучения (причинно-следственное описание) как решение задач оптимизации (достижения целей) путем увеличения сложности системы (накопления знаний).
