Следовательно, значительная часть машинного мышления — это просто машинное «восхождение на холмы».
Обзорная статья, написанная в 1961 году Марвином Минским, «Шаги к искусственному интеллекту» (Steps Toward Artifcial Intelligence) в этом контексте может стать поучительным чтением, поскольку со времени ее написания в плане развития алгоритмов мало что изменилось. Минский даже предсказал нашу склонность видеть в требующем больших вычислительных ресурсов «восхождении на холмы» какую-то исключительную познавательную способность: «Возможно, то, что относится к обычному поиску экстремума на одном уровне, однажды покажется (на более низком уровне) неожиданными „озарениями“».
Есть другие алгоритмы ИИ, но большая их часть попадает в те категории, о которых писал Минский. Один из примеров — выполнение алгоритмов с байесовской вероятностью на дереве поиска или графах. В этом случае приходится бороться с экспоненциальным ветвлением или другими схожими формами проклятия размерности. Другой пример — выпуклость или иная нелинейно ограниченная оптимизация для классификации паттернов. Итальянский математик Жозеф Луи Лагранж нашел алгоритм общего решения, которым мы пользуемся до сих пор. Он обнаружил его в 1811 году. Хитроумные трюки и ловкие манипуляции всегда могут быть полезны. Но прогресс крайне сильно зависит от того, чтобы эти алгоритмы выполнялись на все более быстрых компьютерах. Сами алгоритмы состоят в основном из большого числа операций сложения и умножения, а значит, маловероятно, что они в какой-то момент неожиданно проснутся и захватят мир. Вместо этого они научатся еще лучше учиться и распознавать еще более сложные паттерны просто потому, что будут быстрее складывать и умножать.
Можно смело утверждать, что завтрашние мыслящие машины окажутся очень похожими на сегодняшние — это будут старые алгоритмы на более быстрых компьютерах.
Недостатки метафоры
Джулия Кларк
Адъюнкт-профессор, стипендиат программы им. Джона Уилсона по палеонтологии позвоночных, Джексоновская школа наук о Земле, Техасский университет в Остине
Наш подход к использованию языка можно назвать гибким, щедрым и творческим; его породил наш своеобразный интеллект. Но мысль человека и мысль машины — не одно и то же, разница между ними очень важна.
Мы могли бы сказать, что машинное «мышление» относится к человеческой мысли как модель явления — к самому явлению, что это заведомо простое описание сложного процесса, которое тем не менее может быть адекватным и точно способно оказаться полезным. Такие слова, как и сами машины, стоит рассматривать как своеобразные символические обозначения для того, в чем мы хотели бы разобраться. Описание машин как «мыслящих» сущностей может быть просто эвристическим приемом; конструкция машины может быть очевидно биомиметической
[98]. Действительно, мы часто приспосабливаем язык биологии, чтобы говорить о предметах, которые создаем. Мы видим, что машины эволюционируют, что их мышление становится все более похожим на наше и явно превосходит его, что может быть потенциально опасно. Но нам нужно помнить, что «эволюция» машин — это не биологический процесс, он направляется человеком, создателем. Его можно назвать естественным или биологическим только в том смысле, что он является результатом действий естественных, биологических человеческих существ.
Такое определение естественного приводит к возникновению ряда существенных проблем. Биологическая эволюция — не процесс, направляемый неким творцом. Структуры нельзя создать силой мысли, предпринимательского духа или разума, движимого любопытством. Биологи, философы и социологи, изучающие то, как мы преподаем эволюцию, неоднократно демонстрировали, насколько вредны попытки внедрять в эту дисциплину идеи о разумном замысле или телеологии. Думать, что машины в ходе «эволюции» обзаведутся бо́льшими когнитивными способностями, — значит подкреплять совершенно неверное понимание природы эволюционного процесса. Кроме того, если мы относим машинное «мышление» к естественным процессам, следовательно, все вызванные человеком изменения земной экосистемы, совершенные в результате небрежности или войны, также можно назвать естественными.
Определенно, долю истины мы с помощью аналогий передаем — к примеру, «мозг есть машина» или «машинное мышление», — но это больше говорит о том, как мы объясняем мир. Нам хорошо бы помнить, что наши уникальные познавательные способности — результат множества превратностей и случайностей, произошедших на эволюционной ветви, отделенной от других ныне существующих примерно 6 миллионами лет. На самом деле обычно считается, что абстрактному мышлению всего 50 000 лет, по более оптимистичным оценкам — 200 000 лет, то есть в истории Земли оно появилось очень поздно. Тем не менее оно приводит к тому, что мы рассматриваем мысль машины и человеческую мысль как сопоставимые явления.
Процессы, стоящие за технологическими и биологическими инновациями, радикально различаются, то же относится и к движущим силам в этих процессах. В технологической инновации есть определенный продукт или функция — «мысль» или «мышление», которых мы хотим достичь и к которым стремимся. Человеческие когнитивные способности эволюционировали в популяциях индивидов, совершенно непохожих на машины, которые, как ламарковские жирафы, могут приобретать функциональные характеристики в течение своей жизни. Инновации в биологической эволюции предшествует продолжительная импровизация. Есть только генетика и изменчивость признаков фенотипа в популяциях, среда и случайное влияние этих признаков на продолжительность жизни в популяции.
Что же теряется, если думать, что машины «думают»? Я бы сказала, что мы упускаем из виду ключевые особенности феномена, который описываем с помощью аналогии. Биологическая эволюция возникает в популяциях и не является целенаправленной. Она не пытается решить какую-то задачу. Превратности истории как Земли, так и жизни на ней привели нас к нынешнему состоянию когнитивных способностей человека. Разные процессы ведут к разным результатам. Возьмем, к примеру, язык: компьютер может неточно использовать термины?
Если мы позволим машинам «мыслить», то начнем ли мы в самих себе видеть всего лишь мыслящие машины? Повлияет ли взаимодействие с технологией на наши когнитивные возможности? Важно помнить, насколько разнообразна и прямо-таки неимоверно огромна человеческая популяция. Использование компьютеров пока не связано с успешным размножением. У большей части людей доступ к технологиям в настоящее время ограничен. Эволюция нашего вида будет медленной, и на нее сильно повлияют наше окружение и доступность чистой воды, питательной еды и медицинского обслуживания. Если мы будем обсуждать человечность так же всесторонне, как то, что мы называем «мышлением», мир, возможно, станет лучше.
Универсальное основание человеческого достоинства
Майкл Маккалоу
Профессор психологии, директор лаборатории «Эволюция и поведение человека» Университета Майами; автор книги «Выше мести: Эволюция инстинкта прощать» (Beyond Revenge: The Evolution of the Forgiveness Instinct)
