Однако, когда мы сталкиваемся со все более автоматизированными системами для обеспечения соблюдения правил, важно иметь возможность понять критерии для принятия решения. В будущем, когда будет господствовать режим, который некоторые называют «алгократией» – правление посредством алгоритма, – алгоритмы все чаще начнут использоваться для принятия решений в реальном мире. Начиная с решения, кому выдавать ипотеку, а кому нет, и заканчивая тем, как распределять донорские органы, а также кого выпускать из тюрьмы, а кого нет. Соблюдение принципа равных возможностей требует, чтобы у нас было какое-то «окно», позволяющее увидеть процесс принятия решений.
Если вы, как и я, однажды проехали на красный свет и вас засекла камера автоматического слежения, то вы знаете, что алгоритмическое правоприменение может выглядеть вполне справедливым. Мне было предоставлено изображение с временной отметкой, где мой автомобиль выезжал на перекресток после того, как зажегся красный свет. Не поспоришь.
Преподаватель права Таль Зарски, пишущий об этике интеллектуального анализа данных и алгоритмических решений, утверждает, что, даже когда программное обеспечение принимает решение на основе тысяч переменных, и самое большее, что разработчик алгоритма может сказать, «это то, что выявил алгоритм на основе предыдущих случаев», существует потребность в интерпретации. Если мы ценим нашу человеческую свободу, должна существовать возможность объяснения, почему к человеку был применен дифференцированный подход на основе алгоритма.
По мере того как мы вступаем в эпоху все более продвинутого машинного обучения, возможно, делать это будет все труднее и труднее. Если мы не будем иметь четко выраженную позицию относительно того, какой режим регулирования – старый или вновь выработанный – необходимо применить, ждите судебных разбирательств.
Регулирование встречается с репутацией
Говорят, что «лучшее правительство то, которое правит как можно меньше». К сожалению, факты говорят об обратном. Без верховенства закона власть устанавливает правила в основном в пользу правящего меньшинства. Так что под фразой «правит меньше» подразумевается, что правила приведены в соответствие с интересами обычных людей. В экономике, подстроенной под интересы меньшинства, правила часто несправедливы по отношению к остальным. Экономика, учитывающая интересы большинства, может показаться несправедливой для некоторых. Но «завеса невежества» Джона Ролза
[6] – идея о том, что лучшими правилами для политического или экономического строя являются те, которые люди выбрали бы, не зная заранее о своем положении в этом строе, – убедительный аргумент в пользу того, что лучшим является то правительство, которое действует в интересах большинства.
Как оказалось, в этом также состоит урок технологических платформ. Как мы видели на примере TCP/IP, правила в идеале должны быть неотъемлемой частью дизайна платформы, а не каким-то дополнением к ней. Но поскольку правила, сколь бы сложными они ни были, приведены в соответствие с интересами участников, как в случае со стремлением корпорации Google к релевантности, регулирование становится по большей мере невидимым. Кажется, что все работает само по себе.
Системы репутации – это один из способов встраивания регулирования в дизайн онлайн-платформ. У каждого из миллионов товаров компании Amazon есть потребительский рейтинг, помогающий потребителям принимать обоснованные решения относительно того, какие товары покупать. Такие сайты, как Yelp и Foursquare, предоставляют подробные отзывы посетителей ресторанов: те сообщают о своем недовольстве, если еда или обслуживание оказались низкого качества, и ставят высокую оценку тем заведениям, которые преуспели в кулинарном мастерстве и сервисе. TripAdvisor и другие подобные сайты предоставляют аналогичные отзывы, помогая путешественникам найти лучшие места для проживания в самых отдаленных уголках планеты. Эти отзывы помогают сайтам алгоритмически создавать рейтинг товаров или услуг, которые, вероятнее всего, понравятся пользователям.
Компания eBay, возникшая благодаря стремлению Пьера Омидьяра создать идеальный рынок, стала пионером в использовании системы репутации. Компания столкнулась с огромными проблемами. В отличие от компании Amazon, которая начала свою деятельность с продажи продуктов известных марок и, следовательно, была просто онлайн-версией чего-то привычного – книжного магазина, – eBay была онлайн-версией всемирной «гаражной распродажи» или обмена, где авторитет существующих брендов не действует.
Экономисты Пол Ресник и Ричард Зекхаузер в своей статье «Доверие между незнакомыми людьми в сфере интернет-транзакций: эмпирический анализ системы репутации eBay» отмечают, что участники онлайн-аукциона не могут проверить товары и самостоятельно определить их качество, они редко покупают у одного и того же продавца, и они не могут узнать о продавце от друзей или соседей. Особенно в первое время фотографии и описания товаров часто были непрофессиональными, и о продавцах мало что было известно. Существовал риск не только того, что предметы окажутся не такими, как показано на картинке, или вовсе окажутся подделкой, но и того, что их никогда не доставят. И само по себе использование кредитной карты в Интернете в 1995 году, когда были основаны eBay и Amazon, по мнению многих, было недопустимым риском.
Таким образом, помимо формирования сети покупателей и продавцов, компании eBay пришлось создавать механизмы, помогающие покупателям и продавцам доверять друг другу. Одним из их решений стало создание системы репутации eBay, в которой покупатели ставили оценки продавцам, а продавцы – покупателям. Это решение получило широкое распространение.
Дэвид Лэнг подвел итог движения Интернета к доверию в статье на сайте Medium, посвященной успеху образовательного краудфандингового сайта DonorsChoose. Он отмечает, что традиционные благотворительные организации обычно предоставляют средства только солидным некоммерческим организациям, в крупных масштабах; процесс, как правило, подвергается серьезному контролю. DonorsChoose, напротив, позволяет отдельно взятым учителям заявлять о потребности в учебных классах, и их потребности могут быть удовлетворены либо отдельными лицами, либо учреждениями. Описывая другие примеры, где благодаря технологии возникло доверие, Лэнг пишет: «Новшеством является не финансовая транзакция – аренда помещений, совместные поездки на автомобиле и поддержка искусства существовали уже много веков. Новшеством скорее является уровень доверия, при котором мы охотно взаимодействуем с незнакомыми людьми, потому что приложения и алгоритмы предоставляют фильтр».
Однако, как показывают баталии таких компаний, как Uber, Lyft и Airbnb, с регулирующими органами, путь к доверию требует большего, чем просто привлечение клиентов. Логан Грин сказал мне, что первоначальное официальное разрешение на предоставление услуг пирингового проката автомобилей компании Lyft было выдано Калифорнийской комиссией по регулированию коммунальной сферы на основании того, что те могут использовать технологии, чтобы обеспечить многие из тех же гарантий, что и традиционное такси. Для Калифорнийской комиссии по регулированию коммунальной сферы первостепенное значение имела безопасность пассажиров. Один из главных членов регулирующей организации, бывший офицер, известный просто как Генерал, якобы заявил: «Никто не умрет в мою смену!» Логан сказал, что его команда смогла убедить Калифорнийскую комиссию по регулированию коммунальной сферы, что отслеживание поездки через GPS, система репутации и тщательная проверка водителей являются эффективным способом достижения их общих целей. «Для наших пользователей безопасность тоже важнее всего, – отметил Логан. – Поэтому мы сказали: «Давайте сделаем это!»
