Google тестировал самоходные автомобили на калифорнийских дорогах общего пользования начиная с 2009 года и заявляет, что их машины прошли в общей сложности тысячи километров без дорожных происшествий. Они ездят вдоль трасс, нанесенных с большой точностью на карты Google, после того как по ним проехали управляемые людьми машины Google, занимающиеся съемкой местности; эти карты служат своеобразными «виртуальными рельсами» для самоходных машин (и они в самом деле пока не могут ездить по дорогам, для которых не существует карт с высокой детализацией). На испытательных рейсах в машинах для безопасности находились водители и специалисты по программному обеспечению, которые могли включать или отключать автономный режим. «Замысел был в том, что человек выводит автомобиль на трассу, включает систему, затем она ведет машину все основное время путешествия – скучная часть, а под конец люди вновь берут управление на себя», – вспоминает инженер Google Натаниель Фэйрфилд.
После того как журналист The New York Times Джон Маркофф совершил поездку в одной из таких машин, он пришел к выводу, что «компьютеризованные системы, способные заменить водителей-людей, практически готовы к эксплуатации и могут значительно уменьшить риск человеческой ошибки». Это мнение потенциально согласуется с поставленной Google задачей – в два раза сократить количество смертельных случаев из-за аварий на скоростных автотрассах США. Демагогия компании вокруг этого проекта пропитана отличающим Кремниевую долину оптимизмом, типичным для разговоров о перспективах компьютерных систем. Ведущий инженер проекта специалист по роботам Себастиан Тран предрекает в будущем наступление утопической эпохи автономных систем «без автомобильных аварий и пробок».
Ряд критиков указывает на ограниченность подхода Google к решению этой проблемы. Бо́льшая часть испытательной работы была проведена в Северной Калифорнии или других штатах запада США. Успешные испытательные поездки «гугломобилей» в Неваде проходили в установленных компанией условиях: только в хорошую погоду и только по простым трассам (кроме того, Google не пожелала раскрывать информацию о том, как часто водителям приходилось прерывать автономный режим). У алгоритмов этих машин были проблемы с обработкой информации о местах дорожных работ, и посаженному для безопасности водителю на таких участках приходилось управлять автомобилем самому. Журналист – популяризатор техники Марк Харрис не так давно поведал, что для того, чтобы стать дежурным водителем – испытателем «гугломобиля», необходимы долгие недели тренировок. Это означает, что моменты передачи управления от компьютера человеку остаются сложными и опасными.
В отличие от передвижения по пустым и широким коммерческим трассам Запада, где специалисты Google проводили свои испытания, езда по городу подразумевает значительную долю взаимодействия с другими участниками движения, поскольку ехать приходится в довольно замысловатой, хаотичной и динамично меняющейся обстановке. Google признает, что эта задача в десять, а может, и в сто раз более трудная, чем вести машину по скоростному шоссе. И вновь обеспечение автономности машины в условиях социума оказывается гораздо сложнее абстрактной технической проблемы.
Джон Леонард из Массачусетского технологического института, который помогал разрабатывать некоторые из базовых алгоритмов самоуправляемых машин для определения местоположения и прокладки пути, говорит о том, как много в вождении зависит от межчеловеческого взаимодействия. Мой покойный друг Сет Теллер, который в том же институте занимался проблемами робототехники, отмечал, что езда по городу состоит из сотен «непродолжительных социальных договоренностей между людьми», которые возникают, когда мы наблюдаем дорожную обстановку, устанавливаем взаимный визуальный контакт с другим участником движения, пропускаем кого-нибудь вперед или взмахиваем рукой в знак благодарности тому, кто дал дорогу нам. Компьютеры постепенно учатся распознавать и отмечать различные объекты физического мира. Но, как могут подтвердить пилоты «Предейтора», их возможности по распознаванию людей и их намерений остаются очень примитивными.
Шутя лишь отчасти, Леонард утверждает, что вождение в Бостоне может приравниваться к операции в экстремальной среде. Он поставил видеокамеру на приборную доску своего автомобиля и коллекционирует записи моментов вождения, с которыми трудно справиться алгоритмически: въезд на загруженную дорогу в час пик; следование по полосе движения, когда разметку не видно под пылью или снегом; поворот налево через несколько полос. Снежной бостонской зимой 2015 года трехмерный ландшафт городских улиц мог радикально измениться за ночь, когда трехметровые кучи снега сужали проезжую часть и заставляли менять режим вождения.
Что из усвоенной нами информации о работе аппаратов в экстремальных условиях поможет нам пролить свет на возможное будущее самоуправляемых автомобилей? Мы знаем, что для автономных машин будут характерны все те же проблемы, которые известны нам по примерам использования автоматизации в уже описанных нами средах, – отказы систем, различия в опыте пользователей-операторов, сложности при фокусировке внимания, ухудшение навыков ручного управления, а также растущая склонность чрезмерно полагаться на автоматику по мере все более широкого распространения таких систем.
Самой главной проблемой для самоуправляемой машины станут моменты передачи управления между автоматикой и водителем – то, что мы можем назвать «проблемой рейса 447 Air France». Каждая критически важная система должна располагать способами справляться с аномалиями, возникающими при отказе отдельного датчика или модульного устройства или в ситуации, когда в окружающем мире что-то идет не так, как ожидается. Чем сложнее система, тем больше потенциальных аномалий она в себе таит. И хотя отдельные аномалии такого рода могут возникать редко, в США люди ежедневно совершают более миллиарда поездок на автомобиле, что в десять тысяч раз превышает количество ежедневных авиарейсов.
Допустим, «гугломобиль» сможет распознать ситуацию, с которой он не в состоянии справиться сам, и предупредит водителя, что тому необходимо взять управление на себя. Возможно, для этого на приборной панели будет зажигаться световой сигнал «Проверь автономность», аналогичный имеющемуся сейчас в машинах малопонятному оповещению «Проверь двигатель», хотя в целях эффективности ему следует быть намного информативнее. Что будет, если эта лампочка загорится, когда машина движется на большой скорости и передача управления должна произойти без промедлений? Если человек, освобожденный от обязанности вести машину, уснет или погрузится в чтение книги, сможет ли он вновь включиться в контур управления достаточно быстро, чтобы успеть отвести машину от лобового удара, выбоины на дороге или столкновения с препятствием?
Точно так же, как в истории рейса 447, водителям придется сталкиваться с этим испытанием в наиболее сложных дорожных ситуациях. И вдобавок по сравнению с операторами рассмотренных нами систем, работающих в экстремальных условиях, водители в большинстве своем не так хорошо подготовлены и могут иметь крайне разные навыки, физические возможности, социальное происхождение, экономический статус и образование. Как бы ни были опасны экстремальные среды, тем не менее и глубины океана, и воздушное пространство, и космические дали относительно «однородны» по сравнению с вождением автомобиля в дорожных условиях – значительно более хаотичным и неопределенным процессом.
