Глава 7
Надежный и этичный ИИ
Представьте, что вы поздно вечером возвращаетесь с рождественского корпоратива на беспилотном автомобиле. На улице темно, идет снег. “Машина, вези меня домой”, – устало говорите вы. Вы немного навеселе. Вы откидываетесь на спинку сиденья, с облегчением закрываете глаза, а машина заводится и трогается с места.
Все хорошо, но чувствуете ли вы себя в безопасности? Успех беспилотных автомобилей всецело зависит от машинного обучения (особенно глубокого обучения), которое должно обеспечить автомобиль компьютерным зрением и системой принятия решений. Как нам определить, научились ли эти автомобили всему необходимому?
В индустрии беспилотных автомобилей это вопрос на миллиард. Я слышала от экспертов противоречивые мнения о том, когда беспилотные автомобили станут играть значительную роль в повседневной жизни, причем прогнозы (на момент написания этой книги) варьировались в диапазоне от нескольких лет до многих десятилетий. Беспилотные автомобили могут значительно облегчить нам жизнь. Автоматизированные транспортные средства могут существенно снизить число ежегодных смертей и травм в автомобильных авариях, миллионы которых случаются по вине рассеянных или пьяных водителей. Кроме того, автоматизированный транспорт позволит пассажирам стать продуктивнее во время поездок. Потенциальная энергоэффективность таких автомобилей выше, чем автомобилей с водителем, а для слепых и инвалидов, которые не могут водить машину, беспилотный транспорт и вовсе станет спасением. Но все это осуществится на практике, только если мы, люди, отважимся доверить беспилотным автомобилям свою жизнь.
Машинное обучение используется для принятия решений, влияющих на жизнь людей, во многих сферах. Как убедиться, что машины, формирующие вашу ленту новостей, диагностирующие ваши болезни, рассматривающие ваши заявки на кредит или – упаси боже – рекомендующие длительность вашего тюремного заключения, достаточно обучены, чтобы принимать взвешенные решения?
Эти вопросы волнуют не только исследователей ИИ, но и все общество, которое должно оценить множество текущих и будущих применений ИИ в свете сомнений относительно его надежности и потенциальных злоупотреблений.
Полезный ИИ
Анализируя роль ИИ в нашем обществе, легко обращать внимание на его недостатки. Однако не стоит забывать, что системы ИИ уже дают обществу огромные преимущества и потенциально могут стать еще полезнее. Хотя порой вы этого не сознаете, на современных технологиях ИИ основаны многие знакомые вам сервисы: расшифровка аудиозаписей, GPS-навигация, планирование поездок, спам-фильтры электронной почты, переводы с языка на язык, предупреждения о мошенничестве с кредитными картами, рекомендации книг и музыки, защита от компьютерных вирусов и оптимизация расходования энергии в зданиях.
Если вы фотограф, режиссер, художник или музыкант, возможно, вы используете системы ИИ, которые помогают вам в творческих проектах – например, программы для редактирования фотоснимков или нотации музыкальных произведений и создания аранжировок. Если вы студент, возможно, вы пользуетесь “интеллектуальной системой обучения”, которая адаптируется к особенностям вашего восприятия. Если вы ученый, вполне вероятно, что вы прибегали к одному из многих существующих инструментов ИИ при анализе данных. Если вы страдаете от слепоты или нарушений зрения, возможно, вы используете на своем смартфоне приложения компьютерного зрения, которые читают рукописный и печатный текст (например, на знаках и вывесках, в меню ресторанов, на деньгах). Если вы плохо слышите, теперь вы можете читать довольно точные субтитры к видео на YouTube, а в некоторых случаях – даже расшифровку речи прямо в ходе лекции. Это лишь несколько примеров того, как современные инструменты ИИ облегчают людям жизнь. Многие другие технологии ИИ еще разрабатываются, но вскоре также войдут в обиход.
В ближайшем будущем ИИ, скорее всего, широко распространится в здравоохранении. Мы увидим системы ИИ, которые будут помогать врачам ставить диагнозы и разрабатывать схемы лечения, открывать новые лекарства и следить за здоровьем и безопасностью пожилых людей у них на дому. Научное моделирование и анализ данных будут все больше полагаться на инструменты ИИ – например, при совершенствовании моделей изменения климата, роста населения и демографических изменений, экологии и науки о продуктах питания, а также других важных проблем, с которыми общество столкнется в следующем веке. Один из основателей Google DeepMind Демис Хассабис считает это самым важным потенциальным преимуществом ИИ:
Возможно, нам придется прийти к отрезвляющему осознанию того, что, даже если решением этих задач займутся самые умные люди планеты, эти [задачи] могут оказаться настолько сложными, что отдельным людям и научным экспертам сложно будет в течение жизни создать необходимые инновации и продвинуться вперед… Я уверен, что нам потребуется помощь, и думаю, решением станет ИИ
[154].
Все мы слышали, что в будущем ИИ займется работой, которую терпеть не могут люди, – низкооплачиваемой, скучной, изнурительной, унизительной, негуманной и просто опасной. Если это действительно произойдет, это положительно скажется на благосостоянии людей. (Позже я опишу другую сторону этой медали – опасение, что ИИ заберет слишком много работы у людей.) Сегодня роботы широко используются для выполнения рутинных и однообразных задач на заводах, но со многими подобными задачами современные роботы еще не справляются. И все же по мере развития ИИ все больше подобной работы будет автоматизироваться. Вот несколько примеров будущего профессионального применения ИИ: беспилотные автомобили и грузовики, роботы для сбора фруктов, тушения пожаров, обезвреживания мин и очистки окружающей среды. Кроме того, роботы, вероятно, будут еще активнее, чем сегодня, использоваться для исследования космоса и других планет.
Пойдет ли обществу на пользу передача всех этих задач ИИ? Чтобы взглянуть на ситуацию шире, можно обратиться к истории технологий. Вот несколько профессий, которые давно оказались автоматизированы, во всяком случае в развитых странах: прачка, рикша, лифтер, пункавалла (слуга в Индии, единственной задачей которого было охлаждение комнаты с помощью опахала, пока не появились электрические вентиляторы), вычислитель (человек, обычно женщина, вручную осуществлявший утомительные вычисления, особенно во время Второй мировой войны). Большинство людей согласится, что в таких случаях замена людей машинами сделала жизнь лучше. Можно сказать, что сегодня ИИ просто продолжает эту траекторию прогресса, улучшая людям жизнь путем все большей автоматизации необходимых видов труда, которыми никто не хочет заниматься.
Великий компромисс ИИ
Разработчик ИИ Эндрю Ын оптимистично заявил: “ИИ – это новое электричество”. Он пояснил свою точку зрения: “Сто лет назад электричество преобразило все, а сегодня я не могу придумать отрасль, которую ИИ, по моему мнению, не преобразит в следующие несколько лет”
[155]. По этой интересной аналогии совсем скоро ИИ станет таким же необходимым для наших электронных устройств – и таким же невидимым, – как само электричество. Однако важное различие заключается в том, что наука хорошо изучила электричество, прежде чем началась его коммерциализация. Мы умеем прогнозировать поведение электричества. Но со многими современными системами ИИ ситуация обстоит иначе.
