И все же у массивов неоправданно эффективных данных есть ряд недостатков, из-за которых я скептически отношусь к замене человека ИИ в потенциально опасных случаях вроде вождения. Беспилотные автомобили наилучшим образом показывают, как ИИ (не) состоятелен в данном случае.
Когда я впервые прокатилась в беспилотнике в 2007 г., я думала, что умру. Либо меня стошнит. Или и то и другое. Так что, когда в 2016 г. до меня дошли слухи, что скоро на рынке появятся автономные машины и что Tesla создала программу под названием Autopilot, а Uber тестирует самоуправляемые такси в Питтсбурге, я подумала: «А что же изменилось? Неужели авантюрным разработчикам, с которыми я познакомилась в 2007 г., удалось каким-то образом внедрить систему этического принятия решений в двухтонную “машину-убийцу”»?
В итоге оказалось, что перемен произошло даже меньше, чем я ожидала. История о соревновании по созданию автопилотируемой машины – это история о фундаментальных ограничениях вычислительной техники. Оглядываясь назад и наблюдая за тем, что сработало и что не сработало в первую декаду бытования беспилотных транспортных средств, мы сталкиваемся с предостерегающей историей о том, как техношовинизм может привести к буквально магическому мышлению в случаях, когда технология способна стать угрозой здоровью членов общества.
Моя первая поездка случилась на тестовом треке для беспилотных машин: по-воскресному пустой стоянке завода Boeing в Южной Филадельфии. Ben Franklin Racing Team, команда инженеров из Университета Пенсильвании, в то время разрабатывала автономный автомобиль для участия в соревновании. Я встретила членов команды в кампусе на рассвете в воскресенье и последовала за ними по шоссе, чтобы попробовать прокатиться на автопилотируемой машине.
Им приходилось экспериментировать тогда, когда на улицах никого не было. Вообще-то, их автомобиль, кастомная Toyota Prius, по закону не допускался к эксплуатации. Существует ряд правил, которым должен соответствовать автомобиль, например у него должно быть рулевое колесо. Короче, они могли тестировать беспилотник на парковке или на территории университета, но вот поездка от гаража в Западной Филадельфии по шоссе 1–95 до тренировочной площадки в Саус-Билли была достаточно рискованной. Вероятнее всего, их бы остановили полицейские, патрулирующие шоссе. Университетские юристы как раз работали над получением разрешения на уровне штата на то, чтобы беспилотные автомобили могли сами собой управлять. До тех пор команде приходилось тренироваться в «нечеловеческое» время и надеяться на лучшее.
Я остановилась на стоянке позади беспилотника, которого они назвали «Малыш Бен». В салоне сидели разработчики: студент инженерной механики Талли Фут за рулем, на заднем сиденье были аспирант электронной и системной инженерии Пол Верназа и докторант электротехнического проектирования Алекс Стюарт. Рядом с водителем, одетый в черно-желтую куртку команды, находился Хитин Чокси, сотрудник Lockheed Martin и недавний выпускник кафедры теории вычислительных систем Дрексельского университета. Как только машина неспешно подкатилась, Фут вышел, открыл багажник и стал рыться и наводить порядок в проводах, свисающих над задним сиденьем и с потолка. Напичканная всевозможными сенсорами и с непонятными устройствами на крыше, машина выглядела так, будто участвовала в съемках постапокалиптического фильма. Студенты вырезали часть пластиковой консоли, прикрывающей приборную доску. Оттуда торчал моток проводов, тянущихся к внушительному ноутбуку. Пол багажника был частично покрыт плексигласом, а на рулевой колонке виднелись провода и коробочки. Фут ввел команду через сенсорный монитор, установленный в бардачке, и вскоре перед нами предстал вид парковки – прямо со спутника. Все три пассажира оставались пристегнутыми в машине, сгорбившись над ноутбуками. Испытание началось.
В рамках соревнований Grand Challenge 2007 года «Малышу Бену» предстояло самостоятельно проехать по пустому «городу», построенному на месте бывшей военной базы. Никакого удаленного управления и запрограммированных путей следования по городу: только 85 беспилотных автомобилей, кружащих по улицам. Спонсор, Управление перспективных исследований Министерства обороны (DARPA), обещал $2 млн команде, разработавшей автомобиль, который дойдет до финиша первым, $1 млн и $500 000 тем, кто займет второе и третье место.
Технологии робомобилей помогают водителям с 2007 г. Тогда, например, Lexus выпустила машину, способную выполнять параллельную парковку – при определенных условиях. «Сегодня во всех машинах есть такие функции, как адаптивный круиз-контроль или парковочный ассистент. Вождение становится все более автоматизированным, – пояснил Дэн Ли, доцент инженерно-технического проектирования и советник команды. – Однако для полной автоматизации процесса необходимо, чтобы автомобиль был в курсе всего происходящего вокруг. Вот это по-настоящему сложные проблемы робототехники: компьютерное зрение, научить компьютер “слышать” звуки, понимать, что происходит вокруг, – отличное место для проверки всего этого».
Для того чтобы «Малышу Бену» удалось «увидеть» и объехать препятствие, необходима правильная работа системы GPS-навигации, а лазерные сенсоры на крыше должны правильно идентифицировать объект. Затем ему нужно идентифицировать объект как препятствие и разработать путь объезда. Одна из задач сегодняшнего испытания состояла в том, чтобы поработать над подпрограммой, которая в итоге позволит «Малышу Бену» объезжать другие машины.
«Система настолько сложна, может случиться куча всего неожиданного, – сказал Фут. – Если что-то будет работать слишком медленно, то это может привести к краху системы. Работа программиста такова, что три четверти времени ты проводишь, исправляя ошибки системы. А в проекте вроде этого все девять десятых времени уходит на исправление ошибок».
Испытание 2007 г. было куда сложнее, чем предыдущие. Например, в 2005 г. нужно было создать робота, который сможет проследовать 281 км через пустыню менее чем за 10 часов и без единого человеческого вмешательства. 9 октября 2005 г. команда Stanford Racing и их автомобиль Stanley выиграли это соревнование (и $2 млн за то, что автомобиль проехал 212 км по пустыне Мохаве). Stanley ехал со средней скоростью 30 км/ч и добрался за 6 часов и 55 минут. В пустыне «на самом деле было не важно, был ли препятствием камень или куст, потому что можно было просто его объехать», говорил Себастиан Тран, тогда бывший доцент теории вычислительной техники Стэнфорда
[102]. В городских условиях машинам необходимо определить очередность проезда и учитывать правила дорожного движения. «По сути, испытание заключается в том, чтобы перейти от простого восприятия машиной окружающего мира к его пониманию», – продолжил Тран. В испытании 2007 г. от Стэнфорда участвовал Junior, автомобиль на базе Volkswagen Passat 2006 г., главный конкурент «Малыша Бена». Как и Boss – Chevy Tahoe 2007 г. от команды Университета Карнеги – Меллона. В 2005 г. от этого университета участвовало две машины – Sandstorm и H1ghlander, пришедшие второй и третьей соответственно. Соперничество роботов университетов Карнеги – Меллона и Стэнфорда сродни баскетбольной битве команд университетов Северной Каролины и Дьюка. В 2003 г. Стэнфорд переманил к себе Трана, бывшего профессора Университета Карнеги – Меллона и звезду робототехники.
