• Уровень 0. Всю работу выполняет водитель.
• Уровень 1. Система может иногда помогать водителю рулить или контролировать скорость движения, но не то и другое одновременно.
• Уровень 2. Система может одновременно рулить и контролировать скорость движения в определенных обстоятельствах (обычно на шоссе). Водитель должен непрерывно наблюдать за происходящим (“следить за дорогой”) и выполнять все остальные действия при вождении: перестраиваться из ряда в ряд, съезжать с шоссе, останавливаться на светофорах и пропускать полицейские автомобили.
• Уровень 3. Система может осуществлять все аспекты вождения в определенных обстоятельствах, но водитель должен непрерывно следить за происходящим и быть готовым принять управление в любой момент, когда система обратится к нему с таким запросом.
• Уровень 4. Система может управлять автомобилем в определенных обстоятельствах. В таких условиях от водителя не требуется постоянного внимания к происходящему.
• Уровень 5. Система может управлять автомобилем в любых условиях. Она перевозит пассажиров, которые не должны принимать участия в управлении автомобилем.
Уверена, вы обратили внимание на важнейшую фразу “в определенных обстоятельствах”. Невозможно составить полный список обстоятельств, в которых, скажем, система 4-го уровня может полностью управлять автомобилем, но можно представить множество обстоятельств, усложняющих задачу автопилота: например, плохие погодные условия, плотное городское движение, движение по ремонтируемому участку дороги или узкой двухполосной дороге без разметки.
На момент написания этой книги большинство машин на дорогах находится между 0-м и 1-м уровнями: у них есть круиз-контроль, но нет контроля над рулением и торможением. Некоторые новые автомобили – с “адаптивным круиз-контролем” – находятся на 1-м уровне. Есть несколько моделей автомобилей, которые сегодня находятся на 2-м и 3-м уровнях, например автомобили Tesla, оснащенные автопилотом. Производители и владельцы этих машин все еще выясняют, какие ситуации относятся к “определенным обстоятельствам”, при которых водитель должен брать управление в свои руки. Существуют также экспериментальные автомобили, которые могут автономно функционировать в достаточно широком спектре обстоятельств, но и этим транспортным средствам все равно нужны “страховочные водители”, готовые принять управление в любой момент. Известно о нескольких вызванных беспилотниками (включая экспериментальные образцы) авариях с человеческими жертвами, которые произошли, потому что водитель отвлекся и не успел в нужный момент взять управление на себя.
Отрасль беспилотных автомобилей жаждет производить и продавать полностью автономные транспортные средства (то есть автомобили 5-го уровня), и нам, пользователям, давно обещают именно такой уровень автономности. Но что же мешает обеспечить полную автономность наших машин?
Основные препятствия связаны с проблемой “длинного хвоста” и “пограничных случаев”, которую я описала в главе 6: существует большое количество ситуаций, с которыми автомобиль не встречается в период обучения и в которые редко попадают отдельные автомобили, но которые в совокупности будут возникать достаточно часто, когда беспилотники получат широкое распространение. Как я отметила, люди справляются с такими ситуациями, обращаясь к здравому смыслу – в частности, к своей способности понимать новые ситуации и делать прогнозы относительно их развития по аналогии с ситуациями, которые им уже знакомы.
Полная автономия автомобилей также требует изначального интуитивного знания, описанного в главе 14: интуитивной физики, биологии и – особенно – психологии. Чтобы без проблем управлять автомобилем в любых обстоятельствах, водитель должен понимать мотивы, цели и даже эмоции других водителей, велосипедистов, пешеходов и животных, с которыми он делит дорогу. Большинство водителей автоматически оценивают сложные ситуации и мгновенно понимают, кто может пойти на красный свет, броситься через дорогу к автобусу, резко повернуть, не включив поворотник, или остановиться на переходе, чтобы поправить туфлю со сломанным каблуком, но беспилотные автомобили пока не приобрели этот навык.
Еще одна проблема беспилотных автомобилей – угроза всевозможных злонамеренных атак. Специалисты по компьютерной безопасности продемонстрировали, что даже многие неавтономные автомобили, которыми мы управляем сегодня – и которые все больше контролируются программным обеспечением, – уязвимы к хакерским атакам через беспроводные сети, включая Bluetooth, сотовые сети и интернет-соединения
[361]. Поскольку беспилотные автомобили будут полностью контролироваться программным обеспечением, они будут еще более уязвимы к злонамеренным атакам. Кроме того, как я отметила в главе 6, специалисты по машинному обучению продемонстрировали возможные “вредоносные атаки” на системы компьютерного зрения беспилотных автомобилей, причем для некоторых из них достаточно поместить неприметные наклейки на знаки обязательной остановки, чтобы автомобиль распознавал их как знаки ограничения скорости. Разработка полноценной системы компьютерной безопасности для беспилотных автомобилей будет иметь не меньшую важность, чем любой другой аспект технологии беспилотного вождения.
Помимо хакерства, беспилотные автомобили также столкнутся с проблемой, которую я назову проблемой человеческой природы. Людям неизбежно захочется пошутить над полностью беспилотными автомобилями, чтобы нащупать их слабые стороны, – например, делать шаг вперед на проезжую часть и назад на тротуар (словно собираясь переходить улицу), чтобы автомобиль не мог тронуться с места. Как запрограммировать автомобили, чтобы они узнавали подобное поведение и реагировали на него соответствующим образом? Также для внедрения полностью беспилотных автомобилей необходимо решить ряд юридических вопросов – например, кто будет отвечать за ДТП и какая необходима страховка.
Один вопрос о будущем беспилотных автомобилей стоит особенно остро: следует ли отрасли стремиться к частичной автономности, где система полностью управляет автомобилем “в определенных обстоятельствах”, но водитель должен следить за дорогой, чтобы при необходимости взять управление на себя? Или же единственной целью должна быть полная автономность, где человек полностью доверяет системе, не следя за дорогой?
Технология для производства достаточно надежных полностью автономных автомобилей, системы которых способны управлять движением почти в любой ситуации, пока не разработана из-за описанных выше проблем. Сложно сказать, когда эти проблемы будут решены: “эксперты” дают оценки в диапазоне от нескольких лет до нескольких десятков лет. Не стоит также забывать афоризм о том, что первые 90 % сложного технологического проекта занимают 10 % времени, а остальные 10 % – 90 % времени.
