● для компаний – производителей роботов;
● для профессионалов – их наставников;
● для конечных пользователей услуг роботов.
Производителям роботов будет предложена универсальная искусственная психика, разработать которую самостоятельно никто из них не в состоянии. Им хватает проблем с физическими телами роботов – это их сфера компетенций. Для производителей важна именно универсальность искусственной психики, чтобы она подходила к любым телам роботов, какими бы наборами сенсоров и актуаторов они ни обладали. Естественно, под каждое «железо» будут разрабатываться свои драйверы – наборы «врожденных» рефлексов для данного типа роботов. Так, новорожденный жеребенок может практически сразу самостоятельно встать и побежать за матерью. Но за дальнейшее обучение роботов различным профессиональным навыкам и человеческим ценностям производители роботов ответственности не несут. За это отвечают наставники и пользователи.
Наставники роботов – это команды профессионалов, передающие секреты своего ремесла роботам, приходящим им на смену. Они должны быть заинтересованы в этом, например, через участие в будущих прибылях, пропорциональное их вкладу в увеличение производительности роботов. Пусть этот вклад определяется рынком, где наставники будут конкурировать между собой, предлагая предобученные модули универсальной искусственной психики. Соответственно для наставников важны модульная архитектура искусственной психики и рыночная площадка для торговли такими модулями. Ситуация вполне аналогична нынешним операционным системам смартфонов с соответствующими магазинами приложений.
Наконец, компании, использующие роботов, должны иметь возможность платить лишь за конечный результат, оценивая качество полученных ими услуг наиболее понятным и принятым в человеческом обществе способом. Только конечный пользователь способен оценить итоговый результат всей производственной цепочки – разработчиков операционной системы, производителей роботов и их наставников. Соответственно благодарность пользователей в денежном выражении должна распределяться по этой цепочке в качестве обратной связи между потребителями и поставщиками услуг.
Таким образом, мы можем представить себе следующую бизнес-модель, устраивающую всех участников будущего рынка робототехники. Производители роботов специализируются на разработке робоплатформ, аналогичных автомобильным платформам, на основе которых современные автобренды собирают свои модели в самых различных модификациях. Аналогичным образом будущие бренды робототехники будут комплектовать конкретные модели роботов операционной системой с конкретными наборами навыков и поставлять их конечным пользователям в аренду. Пользователи будут платить роботам «зарплату» за их услуги, размер которой будет определяться рынком и зависеть от степени удовлетворения пользователей. Это удобно, так как пользователи не рискуют своими средствами, как при покупке роботов, и не переплачивают за обещанные, но не оказанные услуги.
Цифровая платформа, предоставляющая операционную систему роботов (даром!), обеспечивает все расчеты между пользователями и поставщиками услуг с помощью электронного кошелька робота, являющегося неотъемлемой частью операционной системы. Этот электронный кошелек аналогичен дофаминовой системе мозга, обеспечивая обучение с подкреплением, нацеленное на удовлетворение потребностей конечных пользователей. Собственно, деньги играют в рыночной экономике аналогичную роль, посылая обучающие сигналы всей цепочке создания стоимости.
Бизнес этой платформы строится на небольшом проценте с транзакций между электронными кошельками роботов. Мы можем приблизительно оценить масштаб этого бизнеса. Допустим, внедрение роботов будет происходить с той же скоростью, с которой происходил переход от аграрной экономики к индустриальной, – примерно за век. Если через 100 лет основная часть ВВП будет производиться роботами, то их суммарная годовая зарплата составит порядка $100 трлн. Предположим, что она будет равна нулю в момент создания операционной системы роботов и каждый год станет прирастать на $1 трлн. Если поставщики операционной системы будут отчислять себе 1 % от всех зарплат роботов, то их доход будет каждый год возрастать на $10 млрд, а оценка стоимости компании с самого начала будет примерно $100 млрд. Так что создателям искусственной психики роботов есть за что побороться.
Наконец, last but not least, обсудим вопрос о безопасности будущего роботизированного общества. Чтобы обеспечить мирное сосуществование роботов и людей, Айзек Азимов и его друг и редактор Джон Кэмпбелл предложили в свое время «три закона робототехники» (в порядке их приоритетности):
1. Робот не должен причинить вреда человеку.
2. Робот должен повиноваться приказам человека.
3. Робот должен заботиться о собственной безопасности.
Однако сам же Азимов в своих произведениях неоднократно показывал неоднозначность трактовки этих законов в различных ситуациях. Ведь спасение одного человека может причинить вред другому, а любой словесный приказ содержит множество неявных ограничений, которые робот может и не угадать. Наконец, свою собственную безопасность он может легко связать с необходимостью исполнения уже отданных приказов или оправдать вред, нанесенный конкретным людям, пользой остальному человечеству, как это описано у Артура Кларка в его романе «2001: Космическая одиссея».
Современный научно обоснованный вариант трех законов робототехники предложен Стюартом Расселом
[104], а именно:
1. Единственная цель роботов – максимизировать пользу, оказываемую ими людям.
2. Первоначально роботы не знают, в чем именно эта польза заключается.
3. Роботы обучаются пониманию полезности в процессе общения с людьми.
Как видим, эти законы основаны на формировании у роботов человеческой системы ценностей методом обучения с подкреплением, когда их поведение постоянно оценивается людьми, как это и подразумевается в описанной выше операционной системе роботов.
В отличие от законов Азимова, в этой трактовке у роботов никогда не появляется уверенности в том, что они действительно правильно понимают пользу своих действий, а есть постоянное стремление улучшать свое текущее понимание ценностей и желаний людей, с которыми они взаимодействуют. Эти ценности не программируются, а воспитываются, подобно тому как это происходит у нас, и по этой же причине ценности роботов оказываются теми же самыми ценностями, что и у людей, с тем отличием, что человеческие ценности для роботов оказываются выше их собственных нужд, поскольку инстинкт самосохранения в них намеренно не закладывается.
Резюме
Итак, если ранее мы лишь обозначили современный вектор развития ИИ в направлении формирования сильного ИИ, то в этой главе предложили конкретную исследовательскую программу по его созданию. Мы определили методологию разработки – обратную инженерию архитектуры мозга – и сформулировали ее цель: создание искусственной психики в качестве будущей операционной системы роботов и программных агентов. В следующей главе мы попытаемся заглянуть в будущее – как мы представляем себе переход цивилизации на новый цифровой технологический уклад, основанный во многом на технологиях ИИ.
