Предмет «Теория машины» будет игнорировать интенциональность и эмоции и специализироваться на репрезентации взаимодействий различных подсистем, входов и выходов, с тем чтобы спрогнозировать действия машин в различных обстоятельствах, как модель психического (также называемая теорией сознания) помогает нам прогнозировать поведение других людей.
Если бы наш мозг имел встроенный инструментарий для теории машины, то все могло бы быть иначе. Вместо этого мы, похоже, обречены видеть сложную действительность машин, принципы мышления которых отличаются от привычных нам, через призму упрощения и допущения о том, что их разум, при больших или меньших способностях, будет все же аналогичен нашему. Поскольку со временем нам предстоит все больше и больше взаимодействовать с мыслящими машинами, придется как-то выработать более качественные средства для их интуитивного понимания. Создание новой дисциплины — сложная задача, но однажды наш мозг с этим уже справился, инновационным образом использовав уже имевшиеся способности, — когда человечество изобрело письменность. Возможно, наши потомки будут осваивать навыки понимания машин с той же легкостью, с какой мы учились читать.
Мыслящие солончаки
Урсула Мартин
Профессор информатики Оксфордского университета
Прогуливаясь на закате около солончаков, я замираю в смущении, потому что тропа исчезает в неглубоком разливе мутной воды, сверкающей в лучах заходящего солнца. Потом я замечаю выложенную из камней переправу, заметную только потому, что их грубая поверхность нарушает светлую, яркую гладь водной поверхности. Я приспосабливаю свой шаг к ритму камней и иду через солончак к виднеющимся вдали песчаным дюнам.
Чтение залитого водой солончака — это разговор с прошлым, с людьми, о которых я ничего не знаю, кроме того, что они уложили камни, задающие мой шаг, и, вероятно, разделяли мою нелюбовь к тому, чтобы мочить ноги.
За дюнами, вдоль залива, до дальней деревни протянулся широкий песчаный пляж. Отступающий прибой оставил удивительно правильные узоры из воды и песка, которые повторяют линии древних деревянных столбов. Несколько сотен лет назад тут в изобилии водился лосось, и эти столбы поддерживали сети, в которые его ловили. Каменная церковь дает мне ориентир, и я шагаю через пляж в ее направлении, чтобы выйти к деревне, попутно потревожив шумные стайки морских птиц.
Вода, камни, столбы и купол церкви — это реплики неспешного разговора длиною в века. Строители, рыбаки и даже одинокие путники оставляют на земле отметки; ветер, дождь и прибой, камни, песок и вода, животные и растения отвечают на них; а новые поколения, в свою очередь, по-своему отзываются на то, что находят, и изменяют найденное.
А что насчет мыслящих машин? Можно обсуждать проблемы искусственного интеллекта, связанные с компьютерным зрением и построением маршрута через залитые водой солончаки и пляжи или с пониманием нарративов прошлого, выраженных не с помощью стройного анализируемого текста, а посредством стертых ногами камней и гниющих деревянных столбов.
Можно поразмышлять о том, как мыслящая машина дополнила бы ощущения одинокого путника. Например, миленький робот-компаньон шлепал бы по солончаку и бегал по пляжу за морскими птицами. А может быть, путника вела бы по тропе мыслящая машина, располагающая обширными потоками данных о маршрутах, погоде и природе, обеспечивающая тем самым человеку кокон из пошаговых инструкций, заметок о животных и растениях, исторических сведений и данных о физической нагрузке, а также предупреждений о возможном нарушении границ частных владений и опасных последствиях приближающегося прилива. Или это была бы машина, созданная, чтобы выяснить, куда отправляются птицы на лето и как сделать так, чтобы опять стало много лосося.
Но какой будет мыслящая машина, которая сможет найти свое место в неспешных разговорах, что век за веком ведут между собою земля и вода? Какие качества потребуются такой машине? А что, если она не придет на смену какой-то сущности, а поможет нам понять сочетание человеческих, природных и технологических процессов, которые создают все, что мы видим на краю моря, а также то, какой отклик это в нас вызывает? Для описания целенаправленного взаимодействия людей и компьютеров сейчас используется термин «социальная машина» — «Википедия» и тому подобное, — так что назовем нашу машину «пейзажной».
Ах, да, целенаправленного… У одинокого путника может быть простая цель: наловить рыбы, разобраться в поведении птиц или просто без приключений вернуться домой до начала прилива. Но что, если он хочет просто побродить в одиночестве, чтобы обрести спокойствие, побыть на лоне природы, обогатить фантазию или найти духовную пищу? Тогда прогулка превращается в разговор с прошлым, не напрямую, не через камни, столбы или воду, но с помощью слов, с помощью стихов тех, кто ощутил себя человеком благодаря камням, столбам и воде и нашел слова для того, чтобы передать свои чувства. Так что цель одинокого путника состоит в том, чтобы усилить те самые качества, которые делают его человеком в его разделенной с другими людьми человечности. Это действительно сложная задача для мыслящей машины.
Мыслящие машины для убийства содержат нашу совесть в чистоте
Курт Грей
Доцент кафедры психологии Университета Северной Каролины в Чапел-Хилл
Машины давно помогают нам убивать. Механизмы — от катапульт до крылатых ракет — дают людям возможность уничтожать друг друга эффективнее. Несмотря на растущую изощренность машин для убийства, одно остается неизменным: моральная ответственность за их действия всегда была возложена на человеческий разум. Винтовки и бомбы по сути бездумны, так что вина падает не на них, а на человека, который спустил курок.
Но что, если у машины хватало бы ума самостоятельно принять решение убить? Такая мыслящая машина взяла бы вину на себя, очистив совесть тех, кому выгодно ее разрушительное действие. Мыслящие машины могут сделать для мира много хорошего, но они также могут сделать так, что людям будут сходить с рук преступления.
Люди давно искали способ дистанцироваться от актов насилия и пожинать его плоды, не мараясь. Машины не только увеличивают разрушительную силу наших действий, но и физически размывают их границы. Вместо удара рукой, ножом или удушения теперь используются более дистанционные — и утонченные — действия вроде нажатия на кнопку или на рычаг. Однако как бы машины ни увеличивали эту дистанцию, наш разум продолжает приписывать вину людям, стоящим за ними.
Исследования в области психологии морали показывают, что у человека, столкнувшегося с бедой, есть глубинная потребность обвинять кого-либо или что-либо. Когда кто-то пострадал, мы ищем не просто причину, но сознательную причину — мыслящее существо, которое решило причинить страдания. Это типично для человека, но неправильно. В последствиях ураганов или цунами люди часто обвиняют «десницу божью», истории известны примеры, когда обвиняли даже скот — французские крестьяне однажды предали суду свинью, убившую младенца.
Обычно жажде обвинения достаточно одного мыслящего существа. Если мы нашли такое существо, мы уже менее мотивированы искать другое. Если можно обвинить человека, то нет нужды поносить бога. Если можно обвинить сотрудника низшего звена, то нет нужды увольнять директора. И если в чьей-то смерти можно обвинить мыслящую машину, то нет нужды наказывать людей, которым это было выгодно.
