Огромное количество людей, включая представителей технологической индустрии, предупреждают о том, что феномен беспилотных транспортных средств поднимет сложные и пока не решенные проблемы. Среди прочих Жарон Ланье обращает внимание на экономические последствия:
Автономные автомобили работают с большими данными. Это не какой-то совершенный искусственный мозг, знающий, как управлять машиной. Просто улицы оцифрованы до мельчайших деталей. Откуда же приходят все эти данные? В частности, с автоматизированных камер. Однако не так важно, откуда приходят данные, – в цепи всегда есть тот, кто ими управляет. И он не автоматизирован, в полном смысле слова. Может, кто-то с очками Google Glass заметит выбоину или кто-то, кто проехал ее на велосипеде, – лишь несколько человек получат новую информацию. В тот момент, когда данные становятся эксклюзивными, повышается их ценность. Стоимость обновления входных данных будет гораздо выше, чем мы себе представляем
[126].
Ланье, описывая мир, где безопасность транспортного средства опирается на монетизированные данные, характеризует его как антиутопию, где доступ к данным получают те, кто готов платить за них больше. Он предупреждает, что будущее беспилотных автомобилей едва ли связано с безопасностью, этичностью или высшим благом. Проблема заключается в том, что лишь немногие задумываются об этом. «Автономные машины в тренде и скоро станут реальностью» – это, кажется, стало уже прописной истиной, но мало кто замечает, что слова «скоро станут реальностью» звучат уже десятки лет. Сейчас все эксперименты с беспилотными автомобилями требуют водителя и разработчика на борту. И только техношовинист способен назвать такое положение дел успехом, а не провалом.
Однако в связи с разработками беспилотников на рынке появилось несколько полезных функций. В моей машине есть камеры, встроенные по всем четырем сторонам, – они помогают парковаться. В некоторых дорогих машинах появилась функция параллельной парковки, которая помогает водителю припарковаться в узком месте. В иных машинах есть устройство контроля полосы, которое издает звук, если вы приближаетесь к разметке. Я знаю нескольких водителей, которые действительно очень ценят эту функцию.
Функции безопасности «не продают» машины – в реальности продажи повышают встроенные DVD-плееры, Wi-Fi и Bluetooth. И это нельзя назвать движением к высшему благу. Согласно статистике, обилие технологий на борту не гарантирует безопасное вождение. Национальный совет по технике безопасности, группа наблюдателей зафиксировали, что 53 % водителей верят, что если производители установили на борту развлекательные панели и беспроводные технологии, то их можно безопасно использовать на дороге. В реальности все наоборот. Чем больше развлекательных приложений установлено на борту машины, тем больше вероятность аварии. Проблема отвлеченного внимания водителя стоит с тех пор, как за рулем стали набирать сообщения. В США более 3000 человек погибает в авариях вследствие отвлеченности. Национальный совет по технике безопасности подсчитал, что для того, чтобы полностью вернуть внимание водителя с телефона на дорогу, требуется 27 секунд. В 46 штатах запрещено переписываться за рулем, в том числе в округе Колумбия, Пуэрто-Рико, на острове Гуам и на Виргинских островах. Тем не менее во время движения водители все равно продолжают общаться по телефону, переписываться и искать путь в навигаторе. В частности, молодые водители. Согласно данным NHTSA, число водителей от 16 до 24 лет, которых заметили за манипуляциями с портативными устройствами, выросла с 0,5 до 4,9 % в период с 2006 по 2015 г.
[127]
Разработка беспилотных транспортных средств для решения проблем безопасности равносильна проектированию нанороботов для уничтожения вредителей на растениях. Потому вместо того, чтобы создавать системы, заменяющие человека, имеет смысл сосредоточиться на разработке систем помощи водителю. Суть не в том, чтобы заставить мир работать посредством машин, а в людях. Нам нужны решения, ориентированные на человека. Одним из примеров таких решений может стать производство машин, в которых встроено устройство, блокирующее мобильные телефоны. Такая технология уже существует. Оборудование можно настроить так, чтобы при необходимости водитель мог позвонить в службу спасения, но не смог звонить другим, переписываться или выходить в сеть. Такое решение способно резко сократить степень водительской отвлеченности. Хотя это и не привело бы к серьезной прибыли. Надежда на большой куш основывается на шумихе вокруг беспилотных автомобилей. И лишь немногие инвесторы готовы отказаться от этого соблазна.
Автономные машины также могут показаться общественности не очень экономными. В 2016 г. состоялась дискуссия между президентом США Бараком Обамой и директором Медиалаборатории МТИ Дзёити Ито. Дискуссия была впоследствии опубликована в журнале Wired. Они обсуждали будущее беспилотных транспортных средств
[128]. «По существу, технология уже здесь», – сказал Обама.
Уже сегодня есть системы, способные быстро принимать множество решений, резко сократить количество погибших в результате ДТП и при этом качественно повысить эффективность современной транспортной сети и помочь решить проблемы с выбросом углерода, повышающим температуру планеты. В ответ Дзёити спросил, какими будут ценности, которые мы собираемся внедрить в такие системы. Предстоит принять ряд решений. Классическая ситуация: двигаясь по дороге, вы можете либо сбить пешехода, либо врезаться в стену, что приведет к вашей смерти. Это моральное решение. Кто же будет устанавливать правила для моральных решений?
Ито ответил: «Когда мы предлагали респондентам пройти тест на проблему вагонетки, большинству пришлось по душе решение, при котором стоит жертвовать водителем и пассажирами. Они также сказали, что никогда бы не купили автономную машину». И никого не должно удивлять то, что члены общества гораздо этичнее и сознательнее, чем те системы, которым нам с воодушевлением советуют доверить свою жизнь.
9
Популярное не значит хорошее
Как сделать хорошее селфи? В 2015 г. одно из американских СМИ раскрыло результаты эксперимента, призванного ответить на этот вопрос. Для тех, кто знаком с основами фотографии, итоги оказались предсказуемыми: удостовериться, что изображение сфокусировано, лоб не обрезан и т. д. В рамках эксперимента использовались те же алгоритмы, что рассмотрели мы, изучая данные «Титаника» в главе 7.
Что интересно и что не вызвало вопросов у исследователя Андрея Карпати, тогда аспиранта Стэнфорда, а сегодня главы отдела искусственного интеллекта в Tesla, – почти на всех «хороших» фотографиях были молодые белокожие женщины, несмотря на тот факт, что в изначальном массиве фотографий были снимки и пожилых женщин, мужчин, людей с другим цветом кожи. В качестве системы оценки качества хорошей фотографии Карпати опирался на количество лайков, поставленных каждой фотографии. Подобную ошибку весьма часто допускают исследователи в области компьютерной технологии, которые не прибегают к критическому осмыслению социальных ценностей, человеческого поведения, что в итоге приводит к появлению подобных результатов. Карпати посчитал, что, раз изображение популярно, значит, оно хорошее. Выбор в пользу популярности привел к тому, что итоговая модель вышла стереотипной: в ней отдавалось предпочтение фотографиям молодых, белокожих цисгендерных женщин, вписывающихся в ограниченное гетеронормативное определение привлекательности. Представим, что вы взрослый чернокожий мужчина, и запустим ваше селфи для анализа в модель Карпати. Ваша фотография не будет маркирована как «хорошая» ни при каких условиях. Потому что вы не белый, вы не цисгендерная женщина и вы не молоды; следовательно, вы не подпадаете под критерии «хорошего». Социальный вывод для читателя заключается в том, что, если вы не выглядите определенным образом, ваше селфи принципиально не может быть «хорошим». Это не правда. Кроме того, ни один разумный человек никогда не скажет подобные вещи другому.
