Технологии искусственного интеллекта используются и в медицине – для диагностики заболеваний. В будущем они могут стать хорошим подспорьем для врачей, но в настоящее время их значение явно преувеличивается
[717]. Применение таких технологий в диагностике, похоже, сопровождается недостаточным (или вовсе отсутствующим) осознанием постоянного и документально подтвержденного дефицита медицинской статистики, касающейся женщин
[718]. Это может обернуться катастрофой и привести к фатальным последствиям, особенно учитывая эффект усиления предвзятости в процессе машинного обучения. Поскольку наши знания о человеческом организме страдают сильным «мужским перекосом», технологии искусственного интеллекта способны лишь снизить, а не повысить точность диагностики для женщин.
К сожалению, пока мало кто понимает, что в этой области назревает серьезная проблема. Ученые, анализировавшие базу данных на основе Google News в 2016 г., указывают, что ни в одной из «сотни научных работ», посвященных практическому применению программ, использующих словесные ассоциации, не говорится о том, насколько «вопиюще сексистскими» являются базы данных. Авторы исследования баз данных изображений, снабженных описаниями, тоже подчеркивают, что они «первыми продемонстрировали эффект усиления “мужского перекоса” при использовании моделей структурного обучения, и первыми предложили методы смягчения этого эффекта».
Сегодняшний подход к дизайну продуктов ставит женщин в невыгодное положение по сравнению с мужчинами. Он мешает им нормально работать, а иногда, что немаловажно, даже получить работу. Он негативно влияет на их здоровье и безопасность. И, хуже того, существуют доказательства того, что такой подход закладывается и в алгоритмы, которые делают наш мир еще более неравноправным. Однако эти проблемы вполне решаемы – при условии, что мы признаем их существование. Авторы исследования, показавшего, что слово «женщина» автоматически ассоциируется со словом «домохозяйка», разработали новый алгоритм, более чем на две трети смягчающий гендерные стереотипы – например, «что doctor (“врач”) – обязательно he (“он”), а nurse (“медсестра” или “медбрат”) – обязательно she (“она”)» – и оставляющий лишь вполне уместные указания на половую принадлежность, (например, «он» применительно к «страдающему раком предстательной железы» или «она» применительно к «страдающей раком яичников»)
[719]. А авторы исследования 2017 г., посвященного интерпретации изображений, разработали новый алгоритм, уменьшающий эффект усиления «мужского перекоса» в процессе машинного обучения на 47,5 %.
Глава 9
Море чуваков
Когда в 2013 г. Яника Альварес собирала деньги на создание своего высокотехнологичного стартапа Naya Health Inc., ей с трудом удавалось заставить инвесторов относиться к ней всерьез. На одной из встреч «инвесторы погуглили мой продукт и оказались на порносайте. Они зависли на нем и начали отпускать шуточки». Яника Альварес чувствовала себя «как девушка, случайно забредшая на собрание студенческого братства»
[720]. Других инвесторов продукт «шокировал». Были и такие, которые «вообще не понимали, что это такое», а один мужчина даже сказал, что «ни за что не возьмет эту штуку в руки, потому что она вызывает у него отвращение»
[721]. Что же это был за гнусный, отвратительный, странный и непонятный продукт, на производство которого Яника Альварес пыталась собрать деньги? Знай, читатель: это был молокоотсос.
Что интересно, молокоотсосы – продукт, давно созревший для «прорывных инноваций», если бы таковые могла предложить Кремниевая долина. Производство устройств для сцеживания грудного молока – процветающий бизнес, особенно в США. В этой стране нет официальных декретных отпусков, и большинству американок, стремящихся следовать рекомендациям врачей и кормить детей грудью до полугода (на самом деле Американская академия педиатрии рекомендует кормить ребенка грудью до года), приходится сцеживать молоко
[722].
Рынок молокоотсосов оккупировала компания Medela. По данным еженедельника The New Yorker, «молокоотсосы Medela закупают 80 % американских и британских больниц, и за два года, прошедшие после принятия в США в 2010 г. Закона о защите пациентов и доступном здравоохранении (Patient Protection and Affordable Care Act of 2010), предписывающего предоставление услуг в области грудного вскармливания, включая сцеживание молока, продажи компании возросли на 34 %». Но молокоотсосы Medela не очень удобны. Журналистка The New Yorker
[723] Джессика Уинтер пишет, что они представляют собой «жесткие, неплотно прилегающие к телу конструкции с торчащей из них бутылкой». Они «тянут за грудь и растягивают ее так, словно она резиновая, вот только резина, в отличие от женщин, не чувствует боли»
[724]. И хотя некоторые женщины все же умудряются пользоваться молокоотсосом, не придерживая его руками, большинство так не может, потому что он неплотно прилегает к телу. Приходится сидеть, прижимая индивидуальные доильные аппараты к груди, по 20 минут несколько раз в день.
Подведем итог. Существует рынок, на котором работает всего один поставщик (в настоящее время объем рынка оценивается в $700 млн, причем есть возможности для роста)
[725]. Очень хорошо. При этом продукт, предлагаемый этим единственным поставщиком, не удовлетворяет потребителей. Прекрасно! Так почему же инвесторы не клюют на эту удочку?
Принято считать, что решение проблемы недостаточного представительства женщин на должностях, дающих власть и влияние, – уже само по себе благо. Разумеется, это так. Справедливость требует, чтобы у женщин и мужчин, имеющих одинаковую квалификацию, были равные шансы на успех. Но вопрос представительства женщин – это не только вопрос о том, получит или не получит работу конкретная женщина. Это еще и вопрос получения гендерных данных. Как мы видели на примере Шерил Сэндберг и истории о парковке для беременных, у женщин есть специфические потребности, об удовлетворении которых мужчины не позаботятся, потому что у них таких потребностей нет. Нелегко убедить в существовании какой-либо проблемы человека, который с ней не сталкивается.
Доктор наук Таня Болер, основатель высокотехнологичной компании Chiaro, занимающейся разработкой медицинской техники для женщин, считает, что нежелание поддерживать компании, во главе которых стоят женщины, отчасти объясняется стереотипным представлением о том, что «мужчины любят инновационный дизайн и передовые технологии, а женщины – нет». Но основано ли это расхожее мнение на реальности, или же проблема заключается не столько в том, что женщины игнорируют технологии, сколько в том, что технологии игнорируют женщин, поскольку разрабатываются в отраслях, игнорирующих женщин и финансируемых игнорирующими женщин инвесторами?
