ИИ должен добиться максимальной производительности, не нанося при этом ущерба человеческому достоинству. Он должен уважать культурные установки, укрепляя многообразие. Чтобы прийти к такому результату, требуется привлечь различные группы населения к более активному, широкому и многообразному участию. Технологическая индустрия не должна навязывать будущему ценности и моральные принципы. В равной степени будущее не должно находиться под единоличным контролем небольшой части человечества, проживающего в богатых и влиятельных регионах: Северной Америке, Западной Европе и Восточной Азии. Представители всех культур должны иметь возможность участвовать в формулировании ценностей и целей, определяющих структуру ИИ. Искусственный интеллект должен защищать человечество от социальных и культурных искажений, обеспечивая адекватные и репрезентативные исследования, чтобы неверные установки не приводили к умышленной или неумышленной дискриминации.
Искусственный разум должен обеспечивать приватность интеллектуальной сферы, воплощая в себе надежные и заслуживающие доверия средства защиты персональной и коллективной информации.
Алгоритмы ИИ должны контролироваться, чтобы человек имел возможность отменить действие, ненамеренно причиняющее вред. При разработке технологий ИИ мы должны учитывать самые неожиданные сценарии.
Многие из этих этических соображений уже воплощены, к примеру, в наших цифровых интерфейсах. Алгоритмы, анализирующие ваши предыдущие действия и предпочтения, имеют все более тесную связь с человеческим опытом. Они запоминают, что мы читаем, с кем встречаемся, что лайкаем. Все эти подсказки предлагаются нам по сотне раз на дню. И у меня в связи с этим возникает вопрос: во что превратится проявление свободной воли в подобном мире и как это повлияет на многих людей и на сообщества, перед которыми открываются столь разные взгляды на мир. Какова будет роль многообразия и всеобщей вовлеченности, когда речь зайдет о проектировании платформ для управления контентом и информацией? В идеале мы все должны обладать четким пониманием того, как именно наши данные используются для персонализации контента и услуг. Мы должны контролировать эти данные. Но добиться этого становится все труднее по мере того, как человечество углубляется в сложный мир искусственного разума. Как мы можем защитить себя и наше общество от негативного воздействия со стороны информационных платформ (все больше и больше завязанных на ИИ), у которых в приоритете стоят рекламные доходы и вовлечение аудитории, а не такие духовные ценности, как образование и многообразие фактов, мнений и контекстов? Это вопрос первостепенной важности. Над ним требуется как следует поработать.
У людей имеется свой набор необходимых качеств. В частности, речь идет о ценностях, на которые будущие поколения должны ориентироваться и которые должны культивировать. Вот что понадобится нашим детям и детям их детей, чтобы идти в ногу со временем.
• Эмпатия. Сопереживание, которое так трудно воспроизвести в машинах, станет бесценным даром в мире людей, взаимодействующих с искусственным интеллектом. Способность воспринимать мысли и чувства других, сотрудничать и строить взаимоотношения приобретет огромную важность. Если мы хотим поставить технологии на службу человеческим нуждам, мы, люди, должны первыми пройти этот путь, развив в себе глубинное понимание и умение уважать ценности, культуру, эмоции и побудительные мотивы друг друга.
• Образование. Некоторые утверждают, что по мере роста продолжительности человеческой жизни рождаемость будет идти на спад, а значит, расходы на образование тоже. Я, однако, считаю, что создание и использование инноваций, о которых сегодня не приходится даже мечтать, потребует увеличения вложений в образование ради выхода на новый уровень мышления и ради более справедливого доступа к образовательным возможностям. Развитие знаний и навыков для широкомасштабного внедрения новых технологий – это сложная общественная проблема, решение которой потребует немало времени. Механический ткацкий станок был изобретен в 1810 году, однако вызванные им преобразования в текстильной промышленности заняли тридцать пять лет из-за дефицита квалифицированных кадров.
• Креативность. Умение творить – одно из самых почитаемых человеческих качеств, и так будет всегда. Машины обогащают и дополняют наши творческие способности, но человеческое стремление творить всегда останется самым важным элементом. В одном интервью писательницу Джумпу Лахири
[71] спросили, почему она, прославившись благодаря произведениям на английском языке, решила сказать новое слово в литературе на итальянском – своем третьем языке. «Но разве это не есть суть творчества – находиться в постоянном поиске?» – ответила она.
• Рассудительность и ответственность. Возможно, в будущем мы сможем согласиться с диагнозом или судебным решением, которые сгенерирует компьютер. Однако все равно мы будем ожидать, что в конечном счете ответственность за это несет человек.
Подробнее мы поговорим об этом в следующей главе. Однако что такого заключено в проблеме экономического неравенства и почему на ней сосредоточено внимание стольких людей во всем мире? К чему приведет автоматизация – к сглаживанию неравенства или к его обострению?
Одни экономисты-теоретики советуют не беспокоиться по этому поводу. Они говорят о том, что на протяжении человеческой истории технологические прорывы делали большинство работников богаче, а не беднее. Другие предупреждают, что лишение устойчивого экономического положения станет такой острой проблемой, что предприниматели, инженеры и экономисты должны будут принять «новый великий вызов» и пообещать разрабатывать только такие технологии, которые будут дополнять, а не заменять собой труд людей. Они рекомендуют (и я соглашусь с ними), чтобы мы, бизнес-лидеры, сменили установки на рационализаторство и автоматизацию другим образом мышления, который ориентирован на человека – творца и созидателя.
Путь развития ИИ и его влияния на общество только начинается. Чтобы по-настоящему осознать значение грядущей эпохи, требуется глубокий мультикомпонентный анализ. Мой коллега Эрик Горвиц из подразделения Microsoft Research, пионер сферы ИИ, много лет задавался подобными вопросами. Эрик и его семья лично участвовали в финансировании Столетнего исследования искусственного интеллекта в Стэнфордском университете. В ходе этого исследования в ближайшие сто лет его участники будут время от времени рассказывать о краткосрочных и долгосрочных проблемах из области социоэкономики, права и этики, сопровождающих развитие осознанных интеллектуальных вычислений, об изменениях в области восприятия машинного интеллекта и о возможных переменах в отношениях между человеком и компьютером.
В своем первом докладе «Искусственный интеллект и жизнь в 2030 году» команда исследователей отмечала, что ИИ и роботы будут использоваться «по всему миру в отраслях, конкурирующих за молодые кадры: в сельском хозяйстве, пищевой промышленности, пунктах обработки и исполнения заказов, на фабриках». Ученые не видят причин для беспокойства по поводу искусственного интеллекта как неминуемой угрозы человечеству: «Пока что не разработано ни одной машины с долгосрочными целями и намерениями, способной вести самостоятельные действия, и вряд ли это случится в ближайшем будущем».
