Машины, ворующие мысли
Максимилиан Ших
Искусствовед; адъюнкт-профессор искусствоведения и технологий Университета Северного Техаса в Далласе
Машины все больше занимаются такими вещами, которые раньше считались мышлением, а теперь не считаются, потому что их выполняют машины. Эту мысль я украл, в более или менее точной формулировке, у Дэнни Хиллиса, отца Connection Machine
[101] и Knowledge Graph
[102]. Воровать мысли — это обычная часть мыслительного процесса и людей, и машин. В самом деле, когда мы, люди, думаем, значительная часть содержания наших мыслей исходит из нашего прошлого опыта или задокументированного чужого. Мы очень редко придумываем что-то совершенно новое. Наши машины в этом от нас несильно отличаются. То, что называется когнитивными вычислениями
[103], в сущности представляет собой не что иное, как изощренный ворующий мысли механизм, движимый большим объемом знаний и сложным набором алгоритмов. Подобные ворующие мысли процессы, как в случае человеческих (и гуманистических), так и в случае когнитивных вычислений, производят сильное впечатление, поскольку они способны воровать не только уже существующие мысли, но также мысли потенциальные, если они рациональны и основаны на определенном корпусе знаний.
Сегодня ворующие мысли машины способны создавать «постмодернистские» научные тексты, работы по информатике, которые принимают на конференции, и музыкальные композиции, которые специалисты не отличат от произведений классиков. Как, например, в случае с метеорологией, машины теперь могут продуцировать множество различных когнитивных представлений, основываясь на записях об аналогичных или схожих ситуациях в прошлом. Антиквары эпохи Возрождения были бы очень довольны, потому что эти машины стали триумфом той самой методологии, которая дала начало современной археологии и многим другим отраслям науки и исследовательской деятельности. Но насколько сильно это должно нас впечатлять?
Наши машины становятся все сложнее, как и результаты их работы. Но, по мере того как мы строим более совершенные машины, мы также все больше узнаем о природе. На самом деле природное познание, возможно, намного сложнее и обстоятельнее, чем нынешние воплощения искусственного интеллекта или когнитивных вычислений. Например, насколько изощренным должно нам казаться природное познание, если квантовая когерентность при комнатной температуре помогает птицам в нашем саду ощущать магнитное поле? Насколько сложным должно нам представляться воплощенное познание
[104] осьминогов, если можно построить машины Тьюринга исключительно из искусственных мышц? Как нам отвечать на эти вопросы, если мы все еще так далеки от того, чтобы во всех деталях описать происходящее в нашем мозге? Предполагаю, что через 200 лет наши нынешние мыслящие машины будут выглядеть так же примитивно, как «механический турок»
[105].
Независимо от своей сложности наши машины остаются примитивными в сравнении с разрешающей способностью и эффективностью природного познания. Как и протобионты
[106], они располагаются ниже той критической отметки, где находится настоящая жизнь. Но они достаточно мощны для того, чтобы мы могли вступить в новую эру исследований. Машины позволяют нам производить намного больше мыслей, чем когда-либо прежде, и теперь инновация становится упражнением по отысканию верной идеи среди набора всех возможных. Изобретательность отныне будет заключаться не только в наличии собственных идей, но и в правильном исследовании таких вот готовых наборов. Измерение когнитивного пространства всех возможных мыслей будет столь же грандиозно, как астрономическое изучение Вселенной. Вдруг несуществующая симфония Малера № 16 окажется такой же классной, как и симфония № 6?
Непредвиденные последствия
Сатьяджит Дас
Бывший банкир; автор книг «Экстремальные деньги» (Extreme Money) и «Трейдеры, пушки и деньги» (Traders, Guns, and Money)
В своем романе «Радуга тяготения»
[107] Томас Пинчон указывает на путаницу между предметом и объектом исследования: «Если они заставят тебя задавать не те вопросы, им не придется париться насчет ответов». Рассуждения о мыслящих машинах ставят больше вопросов о людях, чем о машинах или об искусственном интеллекте.
Технологии позволяют нам создавать машины, которые дают доступ к важным ресурсам, мощности, скорости и общению, что делает возможным улучшение уровня жизни и даже самой жизни. Машины выполняют задачи, сформулированные и запрограммированные людьми. Технооптимисты полагают, что мы приближаемся к сингулярности — гипотетическому моменту, когда машины достигнут такого состояния, что превзойдут людей в интеллектуальном развитии.
Это некая система верований, сродни религии. Точно так же, как тотемы, которыми пользовались наши предки, наука и технология обращаются к неопределенности и страху перед неизвестным. Они дают ограниченный контроль над нашим непосредственным окружением. Они повышают материальное благополучие и комфорт. Они формируют стремление к совершенству и утверждают превосходство человека над остальной частью творения.
Но наука еще далека от того, чтобы разгадать все секреты в бесконечной книге природы. Знание о происхождении Вселенной и жизни, об основах материи все еще очень ограничено. Биолог Эдвард Уилсон заметил, что если бы естественная история была библиотекой, то мы бы сейчас не закончили читать и первую главу первой книги из этой библиотеки. Человеческое знание всегда остается неполным, иногда неточным и нередко оказывается источником проблем, а не их решением.
1. Использование науки и технологии часто бывает неэффективным и ведет к непредвиденным последствиям.
Когда в Австралию завезли кроликов, они стали быстро распространяться и превратились во вредителей, изменили австралийские экосистемы, уничтожили эндемичные виды. В 1950-х годах ученые вывели вирус миксомы, значительно сокративший число кроликов. Когда генетическая сопротивляемость дала популяции возможность восстановиться, вывели калицивирус, который вызывает у кроликов геморрагическую болезнь, и снова повышение иммунитета быстро снизило его эффективность. В 1935 году, чтобы контролировать численность вредителей сахарного тростника, завезли тростниковую жабу. Уменьшить количество вредителей амфибия не смогла, зато сама стала инвазивным видом, уничтожающим эндемичную фауну.
