Помимо вложений у Китая есть еще и второе преимущество – масштаб. Прогностическим машинам необходимы данные, а в Китае предоставляющих информацию людей больше, чем где-либо еще. У них больше промышленных предприятий для обучения роботов, больше пользователей смартфонов для обучения потребительских продуктов и больше пациентов для обучения медицинских программ
[185]. Китайский эксперт по ИИ и основатель исследовательской лаборатории Microsoft в Пекине Кай-Фу Ли и президент-учредитель Google China отметили: «У США и Канады есть лучшие исследователи ИИ в мире, но в Китае сотни хороших специалистов и значительно больше данных… В сфере ИИ требуется одновременно развивать алгоритмы и данные. И большой объем данных – огромный плюс»
[186]. Но китайские компании смогут воспользоваться этим преимуществом только в случае, если у них будет более широкий доступ к данным, чем у других. И есть основания полагать, что он у них есть.
Доступ к данным – третье преимущество Китая. Отсутствие конфиденциальности граждан способствует совершенствованию ИИ государственными и коммерческими компаниями, особенно на пользовательском уровне. К примеру, один из авторитетнейших инженеров Microsoft Ци Лу уехал из США в Китай, поскольку видел там больше перспектив развития ИИ: «Дело не только в технологиях. Структура среды тоже важна – культура, политический режим. Поэтому я считаю перспективным союз Китая с ИИ. Разница в культуре, политической среде и обстановке имеет значение»
[187].
Это несомненно благоприятно для продвижения таких функций, как распознавание лиц. В Китае, в отличие от США, создается гигантская централизованная база данных с фотографиями для идентификации. Это позволяет таким компаниям, как китайский стартап Face++, разрабатывать и лицензировать распознавание лиц для установления личности водителя в Didi, крупнейшем организаторе поездок в Китае, а также переводить деньги через Alipay, у которого более 120 млн пользователей. Авторизация в системе проводится распознаванием лиц. А действующая компания Baidu использует эту функцию для идентификации пассажиров железнодорожного транспорта и туристов
[188]. В Старом Свете из-за защиты конфиденциальности доступ к данным более строгий, чем где-либо, что само по себе способно исключить европейские компании из числа лидеров.
Перечисленные факторы способны спровоцировать гонку по нисходящей, когда страны начнут конкурировать в ослаблении ограничений конфиденциальности для улучшения позиций в сфере ИИ. Но граждане и потребители оберегают свою частную жизнь. Этот порядок волнует не только компании. Существует первичный компромисс между вторжением и персонализацией и вероятностью разочарования пользователей, связанного со сбором данных. В то же время улучшение индивидуальных прогнозов создает потенциальную выгоду. Компромисс дополнительно осложняется желанием «прокатиться за чужой счет» – пользователи хотят улучшения продуктов посредством личных данных, но предпочли бы, чтобы их предоставил кто-то другой.
По-прежнему непонятно, как поступать правильнее. Ученый, IT-специалист Орен Эциони убежден, что системы ИИ не должны «хранить и раскрывать конфиденциальную информацию без недвусмысленного согласия от ее источника»
[189]. Если Amazon Echo прослушивает все разговоры в доме, желание жильцов каким-то образом контролировать его естественно, но не все так просто. Банковская информация безусловно конфиденциальна – а музыка, которую вы слушаете, телепередачи, которые смотрите? В конце концов, Echo мог бы отвечать на запрос: «Вы одобряете доступ Amazon к своему вопросу, чтобы он мог найти ответ?» На изучение правил защиты персональных данных каждой компании понадобится не одна неделя
[190]. Каждый раз, когда ИИ спрашивает вашего согласия на использование данных, продукт ухудшается. Это прерывает опыт пользователя. Если люди не предоставляют данных, ИИ не может учиться на обратной связи, что ограничивает его в повышении эффективности и дохода.
Вероятно, найдутся способы для инноваций, позволяющие людям быть уверенными в неприкосновенности своих данных и контроле над ними, а ИИ – учиться. Одна из развивающихся технологий – блокчейн – предлагает метод нецентрализованного хранения данных и снижение издержек на их верификацию. Вместе с ИИ такие технологии могли бы решить вопросы соблюдения конфиденциальности (и заодно безопасности) – первостепенные в финансовой сфере, где они уже применяются для транзакций
[191].
Допустим, достаточное количество пользователей согласится предоставить данные для обучения ИИ. А что произойдет, если они будут чем-то отличаться от всех остальных? Предположим, прогностические машины получат только данные богачей из Калифорнии и Нью-Йорка. ИИ научится обслуживать эти слои населения. Если цель ограничения сбора данных заключается в защите уязвимых граждан, то он лишь добавляет слабое звено: пользователи не получат выгоды от улучшения продуктов и ценностей, которые несет с собой ИИ.
Грядет конец привычного мира?
Представляет ли ИИ угрозу самому существованию человечества? Помимо того что кому-нибудь попадется несговорчивый ИИ вроде HAL 9000 (из фильма «2001: Космическая одиссея»), весьма серьезные и умные люди, такие как Илон Маск, Билл Гейтс и Стивен Хокинг, обеспокоены, не получится ли в итоге что-нибудь подобное «Скайнет» из «Терминатора». Они опасаются, что появится «сверхчеловеческий интеллект» (пользуясь термином оксфордского философа Ника Бострома) и сразу воспримет человечество как угрозу, помеху или поработит его
[192]. Получается, ИИ может стать последним технологическим изобретением нашей цивилизации
[193].
