В наше время принято, столкнувшись с проблемой, находить ее решение, в том числе путем выявления виновных. Это означает определенную ответственность и определенные полномочия каждого – и то и другое помогает нам лучше понять, кто мы есть. Теперь в этих уравнениях появилась новая составляющая, которая может заставить нас несколько потесниться на месте главных мыслителей, принимающих и исполняющих решения. Временами все люди, как создатели ИИ, так и обычные пользователи, будут невольно получать от него неожиданные и непрошеные ответы или результаты. В одних случаях (удачные и своевременные рекомендации покупок) человеку будет казаться, словно вселенная подстраивается под его личные запросы, в других (отказы в работе и кредитах или необъяснимые решения служб безопасности и правоохранительных органов) – будто весь мир, как у Кафки, ополчился против него.
Противоречия между обоснованными объяснениями и непрозрачным принятием решений, отдельными людьми и большими системами, теми, кто обладает техническими знаниями и авторитетом, и теми, кто их не имеет, не новы. Новым здесь станет только то, что источником противоречий будет другой интеллект, нечеловеческий, повсеместно распространенный и зачастую необъяснимый с точки зрения человеческого разума. Те, кому не хватает знаний об ИИ или власти над ним, возможно, захотят отвергнуть эту технологию. Люди, разочарованные кажущимися претензиями ИИ на их самостоятельность или его непредсказуемостью, могут попытаться уйти от его использования (по крайней мере сознательного) в своей повседневной жизни, в том числе отключиться от социальных медиа и других сетевых платформ.
Некоторые слои общества могут пойти еще дальше, настаивая на том, что человек должен существовать в физическом мире, а не в иллюзорном. По примеру амишей
[66], кто-то может полностью отвергнуть ИИ, но по мере распространения технологии таких людей будет все меньше. В действительности сама возможность отказа от ИИ может оказаться иллюзорной, поскольку по мере цифровизации общества и интеграции ИИ в работу правительственных органов и в самые разнообразные продукты пользование им станет практически неизбежным.
Потенциал ИИ огромен независимо от того, как будет развиваться AGI – для широких применений или с узкой спецификой. Такие генераторы, как GPT-3, который уже может создавать тексты, будто бы написанные человеком, в дальнейшем могут стать похожими на сверхинтеллект. В настоящее время прогнозные и генеративные ИИ отличаются друг от друга, что отражает природу человеческого интеллекта, в котором аналитические навыки, необходимые для прогнозирования, как правило, сильно отличаются от навыков генерирования, используемых в творческой работе. Появятся генеративно-прогностические модели ИИ, они уже будут похожи на сверхинтеллект и, возможно, станут ступенькой к AGI, способному решать более сложные задачи благодаря использованию базовых прогностических моделей. А если отдельные аналитические и творческие аспекты человеческого интеллекта будут в некотором роде подчинены системам ИИ, это станет еще одним вызовом нашему представлению о себе.
Это особенно касается AGI, поскольку люди склонны искать некий богоподобный интеллект – «сверхчеловеческий» способ познания мира и его глубинных структур и возможностей. Даже те, кто хорошо знает ИИ, в случае появления AGI могут поддаться искушению придать ему некий квазибожественный статус.
Научные открытия
Развитие науки происходило в условиях существенного разрыва между теорией и экспериментом, методом многих проб и ошибок. С развитием машинного обучения появляется новая парадигма – модели создаются не на основе теоретического понимания, а для получения выводов из экспериментальных результатов с помощью ИИ. Такой подход требует глубоких знаний и глубокого понимания того, какие данные и какие представления этих данных будут полезны для обучения модели ИИ. Например, решающее значение для открытия халицина имел выбор соединений и их признаков.
Рост значимости машинного обучения для науки бросает еще один вызов нашему представлению о нас и нашей роли в мире. Наука традиционно была вершиной человеческого опыта, интуиции и проницательности. Всеми аспектами научного поиска двигала человеческая изобретательность, развитие науки происходило во взаимодействии между теорией и экспериментом. Однако ИИ привносит в научные исследования, научные открытия и в научный подход нечеловеческое восприятие мира. Машинное обучение все чаще используется для получения необъяснимых результатов, на основе которых создаются новые теоретические модели и проводятся новые эксперименты. Шахматные эксперты приняли неожиданные стратегии AlphaZero как вызов для улучшения понимания игры – и так же стали поступать ученые из самых разных областей науки. Так появились гибридные партнерства человека с ИИ в биологических, химических и физических науках – благодаря ИИ в этих областях делаются новые открытия, а люди работают над тем, чтобы понять их и объяснить.
Ярким примером того, как ИИ позволяет делать открытия в широком спектре биологических и химических наук, является разработка AlphaFold, которая использовала обучение с подтверждением для создания новых мощных моделей белков. Белки – это крупные сложные молекулы, которые играют центральную роль в структуре, функционировании и обновлении тканей и органов и в регуляции процессов в биологических системах. Белок состоит из сотен или тысяч более мелких единиц, называемых аминокислотами, которые формируют длинные цепи. Поскольку в образовании белков участвуют 20 различных типов аминокислот, общепринятый способ представления белка – это последовательность длиной в сотни или тысячи символов, где каждый символ берется из 20-символьного «алфавита».
Последовательности аминокислот очень важны для изучения белков, но они не отражают один критический аспект: уникальную трехмерную форму цепочки аминокислот. Белки в некотором смысле являются сложными формами, которые должны точно подходить друг другу в трехмерном пространстве, чтобы происходили определенные биологические или химические процессы – например, течение болезни или ее лечение лекарствами. Структуру белка в некоторых случаях можно определить с помощью кропотливых экспериментальных методов, таких как кристаллография. Но чаще всего такие исследования повреждают и разрушают молекулы белка, и это делает невозможным определение трехмерной структуры аминокислотной последовательности – так что решение этой проблемы было исключительно важным. С 1970-х гг., когда она была впервые сформулирована, она именуется проблемой фолдинга белка.
Точно предсказать структуру фолдинга белка считалось практически невозможным до 2016 г., но в 2016–2020 гг. была разработана программа AlphaFold, использующая обучение с подкреплением для моделирования белков без использования шаблонов известных белковых структур. Она использовала тот же подход, что и при обучении AlphaZero шахматам. Это более чем в два раза повысило точность определения фолдинга белка – примерно с 40 до 85 % точности на стандартном эталоне
[67]. Это масштабное достижение позволило биологам и химикам всего мира вернуться к вопросам, на которые они раньше не могли ответить, и задать новые вопросы о противодействии патогенам в организмах людей, животных и растений. Достижения в области ИИ, такие как AlphaFold, преодолевают прежнюю ограниченность наших возможностей изучения и прогнозирования мира и меняют подход ученых к дальнейшим исследованиям в областях лечения болезней, улучшения окружающей среды и решения других критических задач.
