В действительности нам стоит с нетерпением ждать того дня, когда машины смогут выйти за рамки обычного решения задач и стать творческими и инновационными субъектами, — до такого еще очень и очень далеко, но это уже определенно будет свойство истинного разума. Инновации даются людям не очень хорошо, и в ближайшие десятилетия помощь в этом понадобится нам больше, чем когда-либо в истории.
Держать их на коротком поводке
Роберт Провайн
Психофизиолог, почетный профессор психологии Университета Мэриленда в Балтиморе; автор книги «Интересное поведение: Зевание, смех, икота и не только» (Curious Behavior: Yawning, Laughing, Hiccupping, and Beyond)
Не бойтесь злобных тостеров, роботов-пылесосов военного назначения и вороватых банкоматов. Достижения в области придания машинам новых умений, как связанных с интеллектом, так и нет, не должны становиться причиной параноидальных идей о будущих столкновениях между человечеством и его механическими порождениями. Даже если бы такое случилось, люди одержали бы верх — отчасти благодаря первобытным, во многом постыдным качествам, которые обычно больше связывают с нашей гибелью, чем со спасением. Хитрость, обман, мстительность, подозрительность и непредсказуемость собьют с толку менее гибкие и изобретательные сущности. Интеллект — это еще не все, а иррациональное не обязательно дезадаптивно. Иррациональность заставляет шевелиться тараканов в наших головах и выталкивает нас из непродуктивной колеи на пространство творческих решений. Наша социальность приводит к появлению человеческого суперорганизма, способного работать в команде и обладающего коллективным распределенным интеллектом. В том, чтобы быть эмоциональными стадными животными, есть свои плюсы.
Мысленные эксперименты по данным вопросам — способ понять поведение человека и машины, а также источник идей насчет того, как построить другие, лучшие механизмы. Можно ли создать программный аналог лжи, гнева, страха, мстительности, сочувствия и тому подобных вещей и каким будет результат? Разумеется, для этого потребуется нечто большее, чем поверхностная эмуляция человеческих эмоциональных реакций. Можно ли запрограммировать в машине чувство самости, скажем через щекотку? Как нам создать социальные машины и какая потребуется структура управления, чтобы организовывать их коллективную работу?
Породят ли группы автономных социальных машин новую политическую структуру, культуру и традиции? Как такие машины будут обращаться со своими создателями-людьми? Можно ли запрограммировать естественный и искусственный отбор у самовоспроизводящихся роботов?
Нет причин полагать, что у нас возникнут проблемы с тем, чтобы держать наши творения на коротком поводке, даже если они станут вести себя неправильно. Нам далеко до создания сообществ самодовольных, непредсказуемых, вероломных роботов с проблемным отношением к окружающим и потребностью размножаться.
Следующий репликатор
Сьюзан Блэкмор
Психолог; автор книги «Сознание: Основы» (Consciousness: An Introduction)
Мне кажется, что люди думают потому, что мемы захватили наши мозги и перестроили их. Мне кажется, что машины думают потому, что следующий репликатор ведет себя так же. Он деловито захватывает цифровые механизмы, которые мы так быстро строим, и создает свой собственный тип разумной машины.
Наши мозги и наша способность мыслить не были придуманы неким великим разумным создателем на небесах, который решил, как нам надо думать и какими должны быть наши мотивы. Наш разум и наши мотивы эволюционировали. Большинство (вероятно, все) исследователей в области искусственного интеллекта согласятся с этим. И все же многие, кажется, еще думают, что мы, люди, — разумные создатели, способные спроектировать машины, которые будут думать так, как мы хотим, и иметь те мотивы, которые нам нужны. Если я правильно понимаю эволюцию технологий, то все эти люди ошибаются.
Проблема заключается в нашем прелестном антропоцентризме. Нам представляется, что разумная машина должна работать так же, как мы, однако мы настолько превратно истолковываем сами себя, что поступаем так же и с нашими машинами. Как следствие, мы не замечаем, что вокруг нас полно больших разумных машин, которые эволюционируют по тем же самым принципам, что однажды создали наш мозг. Эволюция, а не сознательное намерение формирует их образ мысли.
Причину легко разглядеть, но сложно обсуждать. Это тот же дуализм, который вносит путаницу в научное понимание сознания и доброй воли. Кажется, что дети с младенчества — прирожденные дуалисты, и это качество сохраняется в течение всей жизни у большинства людей. Нам кажется, что мы — непрерывные субъекты нашего собственного потока сознания, обладатели свободной воли, распорядители, обитающие в своих телах и мозгах. Конечно, это вздор. Мозги — массивно-параллельный инструмент, и их мало беспокоят признаки сознания.
Это заблуждение может иметь, а может и не иметь полезные функции, но оно затуманивает наше понимание мышления. Человеческие мозги развивались неравномерно: эволюция постоянно латала то, что было сделано ранее, добавляя модули по мере необходимости и все теснее объединяя их, чтобы они лучше обслуживали переносимые ими гены и мемы. Результатом стала живая мыслящая машина.
Наша современная цифровая технология тоже эволюционирует. Наши компьютеры, серверы, планшеты и телефоны эволюционировали по частям, новые элементы добавлялись по мере необходимости, а теперь быстро объединяются, слагая собой нечто, все более похожее на глобальный мозг. Конечно, в определенном смысле мы создали эти устройства, даже спроектировали их для наших собственных целей, но реальная движущая сила — это творческая мощь эволюции и отбора. Конечная мотивация — самораспространение воспроизводимой информации.
Нам надо прекратить изображать из себя великих творцов, которые сохраняют контроль над тем, что мы делаем, и начать думать о своей будущей роли. Возможно, нас ожидает та же судьба, что постигла смиренную митохондрию, простую клетку, которая была когда-то давным-давно поглощена большей клеткой? Она отказалась от самостоятельной жизни, чтобы стать электростанцией для своего носителя, в то время как носитель перестал самостоятельно вырабатывать энергию, чтобы сосредоточиться на других задачах. Оба извлекли пользу из этого процесса симбиогенеза.
Не происходит ли то же самое с нами? Цифровая информация вокруг нас эволюционирует, буйно разрастаясь на миллиардах телефонов, планшетов, компьютеров, серверов и крошечных микросхем в холодильниках, автомобилях и одежде, она пронизывает весь мир, проникает в наши города, дома и даже тела.
И мы охотно продолжаем ее подкармливать. Ежедневно на свет появляется больше телефонов, чем детей. Сто часов видео загружается в интернет каждую минуту. Миллиарды фотографий заполняют растущие облачные хранилища. А смышленые программисты пишут все более умное программное обеспечение, включая программы, создающие другие программы, которые не сможет понять и отследить уже ни один человек. Машины идут своим эволюционным путем и постоянно растут новые мыслящие машины.
