Риск ответственности
Расовая дискриминация в обществе выступает потенциальной проблемой для Google и подобных ей компаний. Им грозит кара за ее проявление. К счастью, когда тревогу бьют люди уровня Суини, Google быстро реагирует, находит и исправляет ошибки.
Дискриминация не всегда явная. В 2017 году экономисты Аня Ламбрехт и Кэтрин Такер провели исследование и обнаружили дискриминацию по половому признаку в рекламе Facebook
[148]. Они разместили рекламу вакансий в области науки, технологий, инжиниринга и математики. Оказалось, что Facebook реже показывал рекламу женщинам, и не потому, что они с меньшей вероятностью заинтересуются или проживают в странах с дискриминированным рынком труда. Наоборот, дискриминированным оказался рекламный рынок. Поскольку молодые женщины входят в ценную демографическую группу, показ рекламы для них стоит дороже, поэтому алгоритмы показывают рекламу так, чтобы доход от размещения был максимальным. Если вакансии в равной степени заинтересуют и женщин, и мужчин, то выгоднее показывать рекламу тем, для кого она дешевле: мужской аудитории.
Профессор бизнес-школы Гарварда, экономист и юрист Бен Эдельман объяснил, чем это чревато для работодателей и Facebook.
По мнению большинства, дискриминация – это дифференцированное отношение, разные стандарты для мужчин и женщин. Дифференцированное размещение рекламы может привести к «неравным последствиям», как выражаются юристы. Гендерно нейтральная процедура ущемляет как раз тех соискателей, у которых больше причин опасаться дискриминации («защищенный класс» для юристов), чем у других.
Лицо или организация несут ответственность за дискриминацию, даже если она допущена случайно. Суд постановил, что управление пожарной охраны Нью-Йорка виновно в дискриминации афро- и латиноамериканцев, потому что на вступительном экзамене им задают вопросы на понимание прочитанного. По мнению суда, правильность ответов на такие вопросы не имеет отношения к эффективности тушения пожаров, а темнокожие и латиноамериканцы чаще других ошибаются в них
[149]. Дело было в конце концов урегулировано почти за $99 млн. Плохие результаты афро- и латиноамериканцев свидетельствовали о виновности ответчика, хотя дискриминация была ненамеренной.
Так что, несмотря на предполагаемую нейтральность размещаемой на Facebook рекламы, нельзя исключать неравные последствия. Как работодатель вы можете нести за них ответственность. Разумеется, никто не хочет иметь отношение к дискриминации, пусть даже неявное. Одно из возможных решений для Facebook – предложить рекламодателям инструменты для ее предотвращения.
При использовании ИИ подобная ненамеренная дискриминация может происходить незаметно для организации. Прогнозы глубокого обучения и других технологий ИИ генерируются в «черном ящике», алгоритмы и формулы в основе прогнозов невозможно увидеть, причинно-следственная связь неизвестна. Чтобы проверить ИИ на дискриминацию, следует рассмотреть информацию на выходе. Результаты мужчин отличаются от женщин? Результаты латиноамериканцев отличаются от остальных? А пожилых и инвалидов? Ограничивает ли разница в результатах их возможности?
Для предотвращения риска ответственности (и во избежание дискриминации) следует немедленно исправлять ненадлежащую работу ИИ. Выясните, почему ИИ выдал такой прогноз. Но как это сделать, если сам ИИ – черный ящик?
В компьютерной сфере такой случай называют «нейронаукой ИИ»
[150]. Необходимо выдвинуть гипотезу о появлении неравенства, дать ИИ данные для ее проверки, а затем сравнить результаты. Ламбрехт и Такер так и сделали, обнаружив, что женщины реже видят рекламу вакансий, потому что ее дешевле показывать мужчинам. Суть в том, что черный ящик ИИ не оправдывает игнорирование вероятности дискриминации и нет повода отказываться от его использования в ситуациях, чреватых последствиями. Накоплено достаточно данных в поддержку того, что люди проявляют предрассудки чаще машин. Применение ИИ требует дополнительных вложений в обнаружение дискриминации и действий по ее устранению.
Алгоритмическая дискриминация легко возникает на операционном уровне, но влечет за собой стратегические и другие осложнения. Для организации стратегически важно взвесить неочевидные факторы. Особое значение это приобретает при наличии систематических рисков, таких как алгоритмическая дискриминация, которые могут негативно влиять на бизнес. Просмотр вакансий мужчинами, а не женщинами принес краткосрочную выгоду (за счет того, что показ мужской аудитории стоит дешевле), но в итоге создал риски из-за возникшей дискриминации. А их последствия иногда проявляются, только когда уже слишком поздно. Следовательно, перед бизнес-лидерами стоит задача предвидеть разнообразные риски и убедиться в наличии методов управления ими.
Потребительский риск
Если вы работаете непосредственно с потребителем, то наверняка вкладываетесь в рекламу и наблюдали показатели ее эффективности. Скажем, заплатив за рекламу Google, вы отметили приток посетителей по ссылкам и, возможно, увеличение количества заказов. Чем больше рекламы вы купили в Google, тем больше кликов. Теперь попробуйте применить ИИ и на основе полученных данных спрогнозируйте вероятность увеличения количества кликов. Скорее всего, ИИ подтвердит прямую зависимость, которую вы сами видели. Таким образом, если специалисты по маркетингу покупают больше рекламы в Google, они исходят из подтвержденной эффективности инвестиций.
Понятно, что без рекламы нет кликов. Вероятно, без рекламы потребитель никогда не узнает о вашем продукте. В этом случае реклама необходима для повышения продаж. Но есть и другой вариант, когда потребитель нашел бы вас и без рекламы, а она всего лишь упростила ему задачу.
Хотя рекламу и считают причиной роста продаж, это не всегда так. Возможно, они выросли бы и без нее. Следовательно, для уверенности в том, что реклама и вложенные в нее деньги действительно повышают продажи, нужно внимательнее рассмотреть ситуацию.
В 2012 году группа экономистов eBay – Томас Блейк, Крис Носко и Стив Таделис – убедили руководство отключить всю поисковую рекламу для трети территории США на целый месяц
[151]. Окупаемость рекламы, по статистическим данным, составляла более 4000 %. Если расчеты были верными, месячный эксперимент должен был обойтись eBay в целое состояние.
