Готов поспорить, что куда продуктивнее будет не использовать в дискуссиях по поводу ИИ противопоставление «добро – зло», а выявить ценности, которым следуют люди и компании, занятые разработкой этой технологии. В своей книге «Homo Roboticus? Люди и машины в поисках взаимопонимания»
[70] Джон Маркофф пишет: «Лучший способ ответить на сложные вопросы о контроле в мире, полном умных машин, – это понять, какими качествами обладают те, кто их строит». Любопытное наблюдение, которое нашей отрасли следует взять на вооружение.
На наших конференциях разработчиков я объясняю подход Microsoft к проблемам ИИ на основе наших трех ключевых принципов.
Во-первых, мы хотим создать искусственный интеллект, усиливающий и дополняющий человеческие способности и опыт. Вместо того чтобы мыслить в парадигме «человек против машины», мы намерены сосредоточиться на том, как человеческие черты, такие как творческое начало, умение сопереживать, эмоции, чувствительность и интуиция, могут сочетаться с мощью вычислений искусственного интеллекта, то есть со способностью анализировать большие массивы данных и быстрее производить распознавание образов во имя общественного прогресса.
Во-вторых, мы должны напрямую встраивать доверие в наши технологии. Необходимо, чтобы технологии изначально умели защищать неприкосновенность частной жизни, прозрачность и безопасность. Устройства на основе ИИ должны обнаруживать новые угрозы и по мере их эволюции создавать новые способы защиты.
И, в-третьих, созданные нами технологии должны быть доступны всем, они должны уважать потребности каждого человека, выводя людей за пределы культур, рас, национальностей, экономического статуса, возраста, пола, физических и умственных способностей и так далее.
Это будет хорошим началом, но мы способны продвинуться намного дальше.
Писатель-фантаст Айзек Азимов писал об этой проблеме десятилетия назад. В 1940-е годы он сформулировал три закона робототехники – этический кодекс поведения роботов. Законы Азимова иерархичны: первый из них имеет приоритет над вторым, второй – над третьим. Первый: робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Второй: робот должен повиноваться всем приказам, которые дает человек. Третий: робот должен заботиться о своей безопасности. Законы Азимова с тех пор служили удобным руководством для размышлений о взаимодействии людей и машин, а также благодатной почвой для сочинения гениальных историй об этических и технических дилеммах, которые в один прекрасный день могут возникнуть в процессе упомянутого взаимодействия. Однако законы робототехники не в полной мере учитывают ценности или конструкторские принципы потенциальных исследователей или IT-компаний, которые те могли бы взять за основу при создании компьютеров, роботов или программных средств. Точно так же они ничего не говорят о способностях, которыми люди должны обладать в ту новую эпоху, когда ИИ и машинное обучение станут основным драйвером развития экономики.
Азимов не единственный предвидел возможные риски. Изобретатель и предприниматель Илон Маск дошел до того, что заявил: если люди не добавят к своим мозгам еще один, цифровой уровень интеллекта (за счет передатчика между корой головного мозга и искусственным интеллектом компьютера), мы скатимся до уровня сознания наших домашних питомцев. А пионер компьютерной науки Алан Кей остроумно заметил: «Лучший способ предсказать будущее – изобрести его».
Если подумать об этом в контексте ИИ, на самом деле это значит: «Прекратите выдумывать, на что будет похоже будущее; просто создайте его, руководствуясь твердыми принципами». Согласен. Как и любой вызов в области разработки ПО, данный принципиальный подход начинается с платформы, на которой все будет строиться. Говоря на языке программистов, ИИ становится третьим рабочим циклом – следующей системой, на базе которой приложения будут создаваться и работать. Первым циклом был ПК, для которого Microsoft разрабатывала такие приложения, как пакет Office: Word, Excel, PowerPoint и прочее. Второй цикл – это сегодняшняя глобальная сеть. В мире роботов и искусственного интеллекта инструменты коммуникации и повышения производительности будут создаваться на принципиально новой платформе, которая будет не просто управлять информацией, но и учиться с ее помощью, а также взаимодействовать с физическим миром.
Контуры третьего рабочего цикла вырисовываются в наши дни. В меморандуме Билла Гейтса «Приливная волна интернета», опубликованном весной 1995 года, содержалось предсказание о влиянии глобальной сети на связь, на разработку программных и аппаратных средств и на торговлю. Сегодня, спустя два с лишним десятилетия, мы видим на горизонте новую приливную волну – волну ИИ.
Итак, каковы те универсальные принципы и ценности в области разработки, которые станут ориентиром для нашего мышления, наших проектов и нашего развития перед лицом приближающегося цунами?
Законодателями мод в этом вопросе выступают несколько людей. Синтия Бризил из медиалаборатории Массачусетского технологического института посвятила свою жизнь исследованию гуманистического подхода к искусственному интеллекту и проблемам робототехники. Она утверждает, что айтишники зачастую игнорируют социальные и поведенческие аспекты проектирования. В одном из недавних разговоров Синтия заметила, что хотя люди – существа социальные и эмоциональные, мы слишком редко задумываемся о роли эмпатии в технологическом проектировании. Вот ее слова: «Как бы то ни было, мы получаем представление об окружающем мире посредством общения и взаимодействия. Если нас интересуют машины, которые работают вместе с нами, мы не можем игнорировать гуманистический подход».
Критически важным следующим шагом на пути к ИИ является согласование его этической и эмпатической структуры. Такой подход к системным разработкам учитывает не только технические требования, но также этическую и эмпатическую сторону. Поэтому я стал размышлять о принципах и целях проектирования ИИ, которые следует обсудить как в рамках IT-индустрии, так и в масштабах всего общества в целом.
Предназначение ИИ – помогать человечеству. Даже если построенные нами машины будут обладать большей самостоятельностью, следует уважать и самостоятельность человека. Роботы, предназначенные для взаимодействия с человеком в профессиональной сфере, должны брать на себя опасные виды работы, например работу в шахте, создавая тем самым систему обеспечения безопасности и защиты людей.
ИИ должен быть прозрачным. Нам всем, а не только техническим экспертам следует иметь представление о том, как работает эта технология и какими правилами она руководствуется. Нам нужны машины не только разумные, но и доступные для понимания; не просто искусственный, но симбиотический интеллект. Технология будет получать знания о людях, но люди тоже должны знать, как именно технология видит и анализирует мир: что, если у машины создаются о вас неверные представления, а вы не имеете возможности на это повлиять? Прозрачность жизненно необходима, когда социальные сети собирают о вас сведения, но при этом делают ложные умозаключения. Этика и проектирование следуют рука об руку.
