Мы никогда бы не позволили роботу бегать среди людей и случайным образом размахивать конечностями, так как это неизбежно привело бы к травмам. Однако в обществе до сих пор отсутствует четкое осознание того, что эмоциональный ИИ тоже способен причинить вред – а ведь эмоциональный ущерб гораздо сложнее обнаружить и исправить. Мы ни в коем случае не должны рассматривать эмоциональный ИИ как новый инструмент для манипулирования людьми. Это может привести к весьма печальным последствиям как для отдельных людей, так и для всего общества.
10. Познайте себя
Сказать, что ИИ начнет делать то, что он хочет, преследуя собственные цели, все равно что сказать, что калькулятор начнет делать свои собственные вычисления.
ОРЕН ЭТЦИОНИ
Умерев в феврале 1988 года, всемирно известный физик Ричард Фейнман оставил после себя сообщение. Оно было написано его неровным почерком мелом в левом верхнем углу его доски в Калифорнийском технологическом институте. Эти слова десятилетиями вдохновляли многих ученых и продолжают делать это по сей день. Восемь простых слов, которые использовались для обоснования исследовательских программ стоимостью в миллионы долларов.
«Что я не могу создать, я не понимаю».
Оуэн Холланд – ученый, который в полной мере присоединяется к этим словам. На протяжении всей своей карьеры Холланд исследовал, как функционируют биологические системы, пытаясь раскрыть тайны их интеллекта, разрабатывая собственные равноценные заменители. И проходя этот путь, он создал много интересных роботов. (Одним из его самых необычных изобретений оказался Slugbot – робот, который «питался» настоящими слизнями и получал энергию, перерабатывая их тела.)
Его работа достигла кульминации в стремлении понять сознание – предел мечтаний всех исследователей ИИ. Подход Холланда состоял в том, чтобы копировать природу больше, чем когда-либо до этого в робототехнике. Он и его команда создали CRONOS – довольно пугающего робота-гуманоида с одним циклопическим глазом на голове, но с анатомией, максимально соответствующей человеческой. Кости, имитирующие человеческие, были сделаны из пластика. Приводы в сочетании с растягивающимися тросами тянули кости и функционировали как мышцы. Холланд полагал, что существует связь между сложностью тела и сложностью мозга, необходимого для контроля тела.
Тело робота получилось чрезвычайно сложным. На самом деле CRONOS оказался настолько трудным в плане управления, что в конечном итоге Холланд и его коллеги поняли: они не смогут завершить работу. CRONOS мог бы иметь тело разумного робота, но исследователи изо всех сил пытались создать мозг, обладающий сознанием, и бóльшую часть времени проводили, стараясь спроектировать работающие системы управления. (Уроки, извлеченные из этого опыта, привели к появлению новых приводов и новых роботов, таких как Roboy – немного более дружелюбная версия для детей.)
Но не все было потеряно. Холланд считал, что в ходе исследования все же нашел некоторые ответы. Он полагал, что сознание – это все, с помощью чего робот формирует собственную внутреннюю модель внешнего мира, свою воображаемую реальность, которая должна также включать в себя модель самого робота. Когда робот сможет думать о себе, своем теле и о том, как ему реагировать и воздействовать на реальный мир отдельно от самого мира, тогда, есть шанс, такой самоанализ станет первым шагом на пути к сознанию. Постепенно нужно будет добавлять новые функции – язык, речь, память, мотивацию, – и исследователи поймут, о чем думает робот. Возможно, когда собственные идеи робота станут более важными, чем реальность, тогда он получит сознание.
Холланд по-прежнему надеется, что мы сможем создать компьютерное сознание в ближайшие десятилетия. «Помните наклейки на компьютерах с надписью Intel Inside («Интел внутри»), – говорил Холланд. – Мы ждем наклейки с надписью Consciousness Inside («Сознание внутри»)».
Общий искусственный интеллект
Хотя такие исследователи, как Холланд, стремятся к лучшему самосознанию у компьютеров – цель, достижение которой может улучшить способность ИИ понимать себя и свои действия, – сознательный ИИ не обязательно означает полезный и, возможно, даже умный ИИ. Некоторые считают, что более полезным видом ИИ является некий общий вариант интеллекта.
Общих ИИ на сегодняшний день не так много. Практически все современные ИИ специализируются на очень узких областях. Попросите ИИ, занимающийся контролем качества, рассказать вам о погоде на завтра или попросите ИИ, «пишущий» музыку, спрогнозировать котировки акций, и вы не получите внятного ответа. Создавать ИИ с узкой специализацией более эффективно и практично, поэтому такой подход гораздо популярнее. Но когда мы хотим, чтобы ИИ взаимодействовал с нами в более широком диапазоне – определял наши потребности, вел с нами предметные разговоры, понимал социальные, этические или экологические последствия своих действий – мы начинаем думать о более общем виде ИИ.
Общий искусственный интеллект (ОИИ) – термин, используемый некоторыми исследователями для обозначения более «разносторонней» формы ИИ. Он подразумевает более широкий взгляд на создание систем ИИ, обладающих общим уровнем интеллекта, сопоставимым с человеческим или даже более высоким. В попытке дать ИИ больший набор возможностей используется и большее разнообразие методов и их комбинаций. Одни исследователи стремятся объединить символьные или модельные подходы с субсимвольными, такими как глубокое обучение. Другие пытаются создать гигантские графы знаний, чтобы обеспечить обширные общие знания.
Несмотря на десятилетия попыток исследователей и многих компаний, заявляющих, что они стремятся к этой цели, очевидно, что прогресс идет медленно. Одним из методов измерения уровня человеческого интеллекта является простой тест на IQ. В 2017 году IQ ИИ, находящихся в свободном доступе, таких как Google AI, Apple Siri и других, составлял в лучшем случае 47, что эквивалентно уровню IQ шестилетнего ребенка. Но другие исследователи утверждают, что те же ИИ не способны ходить, разговаривать или даже сделать чашку кофе, а значит, не являются ОИИ.
Моделирование мозга
Тогда как многие исследователи и ученые пытаются разработать ОИИ, существуют и другие пути моделирования и симуляции биологического мозга. Проект «Человеческий мозг», стартовавший в 2011 году, преследует чрезвычайно амбициозную цель – изучить и смоделировать все уровни человеческого мозга, начиная с микроскопического. К настоящему моменту в проект вложено уже 1 019 миллиардов евро. Однако цель выглядит довольно расплывчато, и большинство исследователей считают ее неосуществимой, учитывая уровень современных технологий и знаний. И все же участники проекта надеются, что при столь грандиозной цели им удастся достигнуть определенных успехов в нейробиологии и ИИ.
