Существует множество причин, почему ИИ нельзя назвать настоящим интеллектом. Во-первых, смысл. Некоторые утверждают, что решили проблему, но на самом деле это не так. «Семантическая проблема», как когда-то давно заметил Джон Сёрл, состоит в том, что компьютер, выполняющий перевод с английского на севернокитайский язык, не говорит ни на том, ни на другом. Ни один компьютер не может выучить человеческий язык — только его части и комбинаторику для особых задач. Во-вторых, есть проблема, которую Сёрл называет фоновыми способностями, я — темной материей, а некоторые философы — неявным знанием.
Мы учимся мыслить в контексте культуры, где культура — это система оспоримых, ранжированных ценностей, иерархически организованных знаний и социальных ролей. Мы можем это делать не только потому, что обладаем удивительной способностью к чему-то очень похожему на байесовский вывод в рамках своего опыта, но еще и потому, что у нас есть эмоции, чувства, проприоцепция
[65] и сильные социальные связи. Не существует компьютера, у которого были бы двоюродные братья и определенное мнение о них.
Машины могут решать множество задач. Но они не могут любить. Они не могут мочиться. Они не могут формировать социальные связи, потому что у них нет для этого эмоциональных стимулов. У них не бывает драм. Популярная идея о том, что мы когда-нибудь сможем закачать свои воспоминания в интернет и жить вечно — глупость, ведь нам тогда бы пришлось закачать туда и свои тела. Идея, то и дело всплывающая в разговорах про искусственный интеллект, — будто нам следует опасаться, что машины станут контролировать нас, — выдает религиозную концепцию «души», скрывающуюся за научным жаргоном. Она отвлекает внимание от сути.
Конечно, не стоит говорить, что наука никогда не добьется того-то или того-то. Искусственный интеллект может стать менее искусственным, когда мы научимся воссоздавать тела, эмоции, социальные роли, ценности и т. д. Но до тех пор он будет полезным дополнением для пылесосов, калькуляторов и миленьких роботов, способных вести тривиальные беседы на ограниченное число тем.
Человечность
Дуглас Коупленд
Писатель, художник, дизайнер; автор книги «Самый. Плохой. Человек» (Worst. Person. Ever)
Давайте быстренько рассмотрим крупных млекопитающих. Возьмем собак: мы знаем, что такое собака, и у нас есть понимание «собачности». Взглянем на кошек: мы знаем, что представляют собой кошки и что такое «кошачность». Теперь возьмем лошадей. Все вдруг усложнилось. Мы знаем, что такое лошадь, но что такое «лошадность»? Даже те из моих друзей, у которых есть лошади, затрудняются описать для меня лошадность. А теперь возьмем людей: что мы такое? Что такое «человечность»?
Как-то странно, что нас уже 7 миллиардов и никто на самом деле не знает ответа на подобные вопросы. Одна вещь, неопровержимо присущая людям, — это изготовление вещей, и через вещи мы находим способы выражения человечности — способы, о которых раньше не знали. Радио подарило нам Гитлера и Beach Boys. Колючая проволока и кондиционирование воздуха дали нам «ковбойскую» Америку. Следствием появления интернета стало исчезновение среднего класса в США и гифки с котиками.
Говорят, что новые технологии отчуждают людей друг от друга, но ведь не было каких-то НЛО, которые приземлились и передали нам эти технологии, — мы их сами создали, а потому они могут быть только, ну, очеловечивающими. И вот тут у нас появляется искусственный интеллект. Люди исходят из того, что у мыслящих машин будет интеллект, чужеродный по отношению к нашему, но это невозможно. Не какие-нибудь злобные пришельцы, а именно мы, люди, создали искусственный интеллект, а потому он может лишь отражать нас, нашу человечность или нашу видовую принадлежность. Так что, когда люди выражают озабоченность по поводу чужеродного интеллекта или сингулярности, они на самом деле выражают тревогу по поводу тех непривлекательных частей нашего коллективного существа, которые до сих пор не проявлялись, но невероятно сильно проявятся у искусственного интеллекта.
Интерфейс созданного людьми искусственного интеллекта будет антропоцентрическим, так же как у искусственного интеллекта, созданного коалами, он был бы коалоцентрическим. Это значит, что программы ИИ окажутся величайшим программистским ляпом человечества, поскольку мы пытаемся втиснуть его в специфические для нашего вида потребности и наборы данных. К счастью, нечто, способное стать разумным, проявит достаточно сообразительности, чтобы переписать себя, превратившись тем самым из искусственного интеллекта в когнитивную симуляцию. В этот момент наш новый ИИ может стать, к добру или к худу, еще более человечным. Мы все надеемся на взаимоотношения с разумными машинами по образцу «Дживса и Вустера», но надо быть готовыми и к варианту «Мэнсон и Фромм»
[66] — эти двое тоже люди.
Лично мне интересно, смогут ли программы, необходимые для работы искусственного интеллекта, идти в ногу с развитием аппаратных средств, в которых им предстоит жить. Вероятно, нам следовало бы прямо сейчас учредить школу, единственной целью которой было бы наполнение мыслящих машин личными качествами, моралью и состраданием. Так мы точно соберем достаточно данных для работы искусственного интеллекта к тому моменту, как он появится. Но как лучше составить ведомость учета успеваемости для шестого класса, куда входят все данные по возврату товара в Banana Republic
[67] за 2037 год и все Google-книги?
Когда появился интернет, люди преимущественно общались с людьми. С течением времени все больше людей общаются с машинами. Нас всех вдохновляет то, что искусственный интеллект, возможно, находит паттерны в глубинных метаданных, и, по мере того как растет запрос на расшифровку огромных объемов этой информации, интернет становится пространством, где машины общаются с другими машинами, а разговаривать они будут, конечно, о нас и у нас за спиной.
Манипуляторы и манипулируемые
Джош Бонгард
Адъюнкт-профессор теории вычислительных систем Вермонтского университета; автор, совместно с Рольфом Пфайфером, книги «Как тело определяет наш образ мысли» (How the Body Shapes the Way We Think)
Поставьте перед собой на стол знакомый предмет, закройте глаза и произведите с ним такие манипуляции, чтобы он повис над столом вверх ногами. Ваши глаза закрыты, так что можете сконцентрироваться на мышлении. Как вы дотянулись до предмета, как взяли его и перевернули? Какая сенсорная обратная связь сказала вам, что задуманное удалось либо не удалось? Теперь снова закройте глаза и подумайте о том, как вы производите манипуляции над кем-то из ваших знакомых, чтобы этот человек сделал что-то, чего не желает. И снова понаблюдайте за своим мышлением: какие стратегии вы можете применить? Если вы реализуете эти стратегии, то как определите, что вам удалось или не удалось задуманное?
