Следовательно, дополнив изобретательный, ненаправленный поиск рациональным исследованием и конструктивным, целенаправленным проектированием, можно значительно ускорить медленный процесс проб и ошибок и компенсировать недостаток вычислительных ресурсов. Для этого требуется модель окружающего мира. Для ее создания и поддержки необходимо машинное обучение, которое можно осуществлять через взаимодействие с окружающей средой либо опосредованно с помощью цифровых баз данных.
В конкурентной среде, где необходимых ресурсов недостаточно для обмена, изобретательность жизненно необходима, а если появляются возможности накапливать ресурсы, то потенциал изобретательности становится бесконечным.
Такой подход к созданию универсального ИИ может превзойти ИИ человеческого уровня и сразу достичь уровня суперинтеллекта, превосходящего человеческий интеллект во всех отношениях.
Не стоит забывать о существенной разнице между границами возможностей и успешностью. Границы возможностей познания универсального ИИ будут охватывать все вещи, которые мы способны воспринять, на которые можем воздействовать, о которых можно думать и которые можно обсуждать. Однако успешность в разных видах деятельности будет различаться: слабость ИИ в одних областях может компенсироваться хорошими результатами в других.
Искусственный интеллект может быть экспертом по нахождению паттернов в больших объемах данных, но, в отличие от человеческого мозга, он не будет ожидать, что данные упорядочены определенным образом – как поступающие с наших органов чувств.
ИИ должен уметь находить и применять статистические закономерности без посторонней помощи, что потребует больших мощностей и универсальности.
Шанахан считает, что ИИ «будет очень хорош в интерпретации, прогнозировании и управлении поведением человека», потому что его доступ к необходимым данным через Интернет может быть прямым и непосредственным. ИИ, сконструированный для поиска паттернов в больших объемах данных, будет изначально обладать сверхчеловеческими способностями в определенных областях.
Концепция антропоморфного ИИ представляется многим ученым в этой области менее перспективной, чем идея аморфного или распределенного искусственного интеллекта.
Некоторые исследователи утверждают, что метаболизм, обмен веществ и энергии с окружающей средой, помогают сохранять границу между индивидом и социумом, поэтому являются необходимыми условиями сознания. Другие ученые в этой области предлагают смотреть на сознание с функциональной точки зрения, то есть ориентироваться на организацию системы ИИ, а также ее эффективность, не обращая внимания на материальную основу ее функционирования.
Иными словами, большинство современных специалистов в области сознания и ИИ сходятся во мнении, что в ближайшем будущем человеческим – и сверхчеловеческим – сознанием будут обладать и многие неживые объекты, что станет основанием для пересмотра и уточнения многих философских и теологических доктрин.
Разработчики ИИ признают, что человечеству сейчас нужна общепринятая научная теория сознания, которая охватывает все его нынешние формы и потенциально возможные в ближайшем будущем. Эта всеобъемлющая новая теория должна отвечать на вопросы границ сознания как для ИИ, созданного на основе биологических прототипов, так и для неорганического ИИ. В контексте суперинтеллектуального ИИ имеет смысл обсуждать разные виды сознания и его уровни, превышающие человеческие возможности.
Мюррей Шанахан предлагает использовать в качестве основы подобной научной концепции теорию глобального рабочего пространства Бернарда Баарса и теорию интегрированной информации Джулио Тонони. В этих двух теориях сознание характеризуется как феномен всего мозга или всей системы: как всеобъемлющее, неотъемлемое, распределенное и целостное свойство. Согласно этим теориям, допускается наличие сознания даже у видов ИИ, фундаментально отличающихся от биологического мозга и поэтому предполагающих огромное разнообразие сознательных сущностей в пространстве возможных ИИ.
Философ Иеремия Бентам, размышляя о границах сознания, так сформулировал моральный долг человека перед всеми живыми существами: надо спрашивать не о том, могут ли они мыслить и говорить, а о том, могут ли они страдать. Аналогичный вопрос людям придется задавать и в отношении ИИ. Но, прежде всего, надо привить ему джайнистское сострадание по отношению ко всем наделенным сознанием существам, особенно на биологической основе.
Некоторые ученые считают маловероятным появление полноценного универсального ИИ в цифровых алгоритмах, лишенных эмоций, которые у людей неразрывно связаны с принятием решений и творческими процессами. А один из самых важных признаков человеческого интеллекта – это способность выйти за пределы биологически унаследованной функции подкрепления через логику и мышление. В связи с этим, по мнению Шанахана, для обеспечения безопасности «инженеры по нейротехнике должны не только перестроить мотивационную систему мозга, но и зафиксировать полученную в результате функцию подкрепления, чтобы убрать из нее возможность поддаться менее прогнозируемым и более опасным влияниям».
Шанахан выделяет три признака познания, необходимые для сознания и тесно связанные между собой:
– несомненное понимание цели;
– осознание окружающего мира и текущей ситуации;
– способность связывать воедино знания, восприятие и действие.
Цель, осознание и целостность, вероятнее всего, присутствуют в любом универсальном ИИ.
Некоторые футурологи предложили довольно точный прогноз возникновения цифрового суперинтеллекта и, соответственно, технологической сингулярности. Так, Рэй Курцвейл считает, что к 2045 г. количество небиологических интеллектов на планете значительно превысит количество людей в Солнечной системе.
Этот прогноз Курцвейл получил на основе экстраполяции текущего экспоненциального роста вычислительных мощностей и оценки их объема, необходимых для моделирования деятельности коры человеческого мозга в реальном времени. Достигнутой скорости вычислений, по мнению Курцвейла, будет достаточно, чтобы «создаваемый за год интеллект был в миллиард раз мощнее человеческого… что представляет собой фундаментальный и революционный переход в возможностях человека». Курцвейл утверждает, что это и будет технологическая сингулярность.
Небольшие кусочки специализированных технологий ИИ уже сейчас проникают в нашу повседневную жизнь, но нынешняя технология искусственного интеллекта еще далека от универсального ИИ человеческого уровня, обладающего здравым смыслом и изобретательностью. Вполне вероятно, что уже первые читатели этой книги застанут эпохальный момент в истории Земли, когда ИИ получит одно из самых важных человеческих прав – свободу личности. Для этого ИИ должен иметь возможность влиять на окружающий мир, научиться действовать без вмешательства человека и получить возможность сознательно принимать собственные решения, делая выбор между альтернативными вариантами действий.
Признание личности у класса машин с ИИ и предоставление им соответствующих прав и обязанностей станет переломным моментом в истории человечества. По словам Шанахана, «признание ИИ человеческого уровня равным себе сознательным созданием и будет признанием того, что мы не одни во Вселенной, – не по причине обнаружения внеземного разума, а потому что мы создали новую форму земного сознания с уровнем интеллекта, равным своему».
