И как же в таких условиях свести вместе разум и машину? Есть несколько разных способов. Один был описан в предыдущей главе; его сторонники, Пол Мил и Том Дэвенпорт, полагают, что люди, наделенные здравым смыслом, будут наблюдать за решениями и действиями искусственного интеллекта и вмешиваться, если заметят что-то неладное. Именно это делала компания DeepMind, когда оптимизировала обслуживание дата-центра с помощью нейронных сетей. Люди-контролеры никуда не делись, в любой момент они могли перехватить контроль у компьютера.
Автопроизводители, которые встраивают в машины технологии автоматического управления, пользуются таким же методом. Они подчеркивают, что человек и в буквальном, и в переносном смысле находится на месте водителя и отвечает за безопасное функционирование автомобиля даже в то время, когда тот едет сам. Многим участие человека в схеме управления кажется благоразумным, поскольку невнимательность может быть фатальной. Летом 2016 года машина марки Tesla Джошуа Брауна врезалась в борт грузового прицепа, водитель погиб
[212]. Фура белого цвета совершала левый поворот с автострады на боковую дорогу. Браун ехал по противоположной стороне шоссе. Поскольку машина Tesla не затормозила перед катастрофой, похоже, ни Браун, ни видеокамера автомобиля не заметили белый прицеп на фоне яркого неба Флориды
[213]. Возможно, Браун слишком полагался на систему автоматического вождения, так как видел ее эффективность во многих предыдущих случаях и привык не обращать особого внимания на дорогу.
Google считает, что, поскольку человеческая невнимательность – это вечная проблема, нужно полностью исключить людей из управления транспортным средством. Крис Урмсон, бывший руководитель проекта компании по машинам с автоматическим управлением, говорит: «Общепринятая точка зрения такова, что нам нужно взять существующие системы помощи водителю и каким-то образом постоянно улучшать их, тогда у нас со временем появятся самоуправляемые автомобили. Что ж, я отвечу так: это равнозначно утверждению, что если я буду усердно учиться прыгать, то когда-нибудь научусь летать. На самом деле действовать нужно несколько иначе»
[214]. Вот почему компания работает над созданием на сто процентов автономных машин, которые не требуют участия человека, – это называется автономностью пятого уровня
[215].
Их возможности впечатляют. На конференции TED
[216] 2015 года Урмсон сообщил: «Наши автомобили проезжали через Маунтин-Вью, и вот с чем мы столкнулись. Одна женщина на электрическом кресле-коляске гонялась кругами за уткой. В правилах дорожного движения ничего не написано о том, что нужно делать в таком случае, однако наши машины смогли обнаружить препятствие, снизить скорость и проехать дальше»
[217]. Автономных машин, способных безопасно ездить в любых условиях и ситуациях, пока еще нет. Тем не менее, по нашему мнению, они скоро появятся.
Способность машин преодолевать парадокс Полани начинает применяться в работе бэк-офисных подразделений «белых воротничков», которая в данный момент удивительно плохо поддается полной автоматизации. «Бэк-офис» – обобщающий термин для умственной работы, происходящей вне поля зрения клиента и включающей закупки, бухгалтерию и IT. Как мы говорили ранее, наиболее масштабные и распространенные операции бэк-офиса давно автоматизированы корпоративными системами, тем не менее в большинстве компаний все равно остается масса ручной работы. Один из способов автоматизировать хотя бы часть такой работы – спросить выполняющих ее людей, какими правилами они руководствуются, каковы исключения из них, когда нужно использовать другой набор правил или директив и прочее. Однако на сбор такой информации с помощью опросов ушло бы много времени, и это отвлекло бы сотрудников от работы и, вероятно, не оправдало бы себя. Лица, выполняющие менее рутинную работу, по всей вероятности, не способны точно и исчерпывающе изложить кому бы то ни было, как они действуют.
Японская страховая компания Fukoku Mutual Life использует другой подход
[218]. В декабре 2016 года она объявила о попытке использовать созданную IBM технологию искусственного интеллекта Watson, чтобы хоть частично автоматизировать работу людей, имеющих дело с заявлениями о наступлении медицинского страхового случая. Система будет извлекать соответствующую информацию из документов, предоставленных больницами и другими медицинскими учреждениями, и использовать ее для заполнения надлежащих кодов для страховых выплат, а затем выдаст эту информацию людям. В перспективе же система будет «изучать историю оценивания прошлых выплат, чтобы перенять опыт и квалификацию оценщиков»
[219]. Другими словами, технологии предстоит обучаться по ходу дела, и со временем она сможет освободить людей от большого объема работы.
Мы ожидаем, что в ближайшее время появится немало таких проектов, и прогнозируем быстрое распространение глубокого и других видов машинного обучения. Например, значительная часть работы с клиентами заключается в том, что сотрудник выслушивает заказчика, чтобы понять, чего тот желает, а затем предоставляет ему ответ или услугу. Современные технологии смогут взять на себя вторую часть описанной процедуры, как только овладеют правилами взаимодействия. Гораздо труднее будет автоматизировать не нахождение ответа, а первый этап – выслушать и понять. Распознавание речи и другие аспекты обработки естественного языка крайне сложны для искусственного интеллекта с самого его зарождения по причинам, описанным в этой главе. Доминировавший ранее символический подход с такими задачами не позволял справиться вовсе, однако ему на смену пришли новые подходы, основанные на глубоком обучении, которые развиваются очень быстро даже на удивление экспертов.
