Б. Дж.: Я благодарен Нику Бострому за то, что он вдумчиво рассуждает об опасностях, которые может нести с собой ИИ. Он инициировал обсуждения и великолепно все сформулировал. Нужно пытаться предвидеть нежелательные последствия и думать, как их не допустить.
А вот Илон Маск своими непродуманными и крайне эмоциональными высказываниями вызвал негативную реакцию и страх у людей, которые не могут разумно и аргументированно рассуждать на тему ИИ. Мне кажется, что люди, как вид, должны быть скромнее, признавать собственные когнитивные ограничения и искать способы себя улучшить. Тот факт, что пока эта задача не является приоритетной, показывает, что нам, как виду, не хватает смирения.
М. Ф.: Как вы относитесь к международной гонке вооружений в сфере ИИ? Может ли эта конкуренция привести к позитивным результатам? Нужно ли нам менять промышленную политику, чтобы не оказаться в числе отстающих?
Б. Дж.: Так устроен современный мир. Конкурируют отдельные люди и целые государства. Каждый преследует собственные интересы. И если мы не поменяем природу человека, ничего не изменится.
Мне хотелось бы, чтобы в будущем путь к успеху выглядел по-другому. Означает ли это жизнь в гармонии вместо постоянной конкуренции? Может быть. Означает ли это, что этика и мораль изменятся до неузнаваемости? Может быть. Но каждый из нас должен почувствовать собственный потенциал и потенциал всего человеческого рода, чтобы изменить правила игры, которые не приведут нас ни к чему хорошему.
М. Ф.: Вы признаете опасность попадания описываемых вами технологий в недобрые руки. Но глобальное решение в данном случае упирается в проблему координации.
Б. Дж.: Я полностью согласен, это требует нашего пристального внимания и заботы. И именно так поведут себя все государства, потому что так было всегда. Осталось расширить наше воображение до такой степени, чтобы мы могли представить мир, построенный на взаимопомощи.
М. Ф.: Можете ли вы назвать себя оптимистом? Считаете ли, что мы, как вид, сможем решить стоящие перед нами проблемы?
Б. Дж.: Да, я с оптимизмом смотрю на человечество. Разговоры о трудностях нужны для правильной оценки угрожающих нам опасностей. Я не хочу, чтобы люди прятались от проблем. У нас, как у вида, есть серьезные проблемы, и я думаю, что нужно пересмотреть наш подход к их решению. Именно для этого я основал OS fund.
Чтобы переосмыслить основные принципы нашего существования, нужно сделать собственное улучшение приоритетной задачей. И для этого нам нужен ИИ. Если мы сможем правильно расставить приоритеты нашего улучшения и максимально привлечем к этому процессу ИИ, обеспечив наш совместный прогресс, мы сможем решить все стоящие перед нами проблемы. И я уверен, что мы создадим фантастическую жизнь для всех, которую сейчас даже не можем себе представить.
Когда появится ИИ человеческого уровня? Результаты опроса
В рамках взятых интервью я попросил всех участников высказать предположение о дате, когда вероятность создания сильного ИИ достигнет как минимум 50 %. Вот результаты этого опроса.
Часть опрошенных не хотела делать предположения, называя конкретный год. Многие говорили, что на пути к сильному ИИ существует множество препятствий. Несмотря на мои усилия, пять человек отказались делать предположение. При этом большинство участников опроса предпочли сделать прогноз анонимно.
Как я отметил во введении, начинают и завершают таблицу ответы двух людей, которые выразили желание указать даты: Рэй Курцвейл – 2029 г. и Родни Брукс – 2200-й.
Вот 18 предположений:
Среднее арифметическое: 2099 г., через 81 год.
Почти все, с кем я говорил, могли много рассказать о пути к сильному ИИ. И даже те, кто отказался называть конкретную дату, сказали, в каком интервале это может произойти. Поэтому чтение интервью позволяет гораздо лучше понять эту увлекательную тему.
Стоит отметить, что дата, вычисленная как среднее арифметическое, то есть 2099 г., – это пессимистичный результат. На сайте AI Impacts представлены результаты других опросов.
Эти результаты по большей части дают прогноз появления ИИ уровня человека с вероятностью 50 % в диапазоне от 2040 до 2050 г. В большинстве этих опросов участвовало гораздо большее количество человек, а в некоторых случаях опрашивались люди, не имеющие отношения к сфере исследований ИИ.
При этом в небольшой группе, состоящей из высококлассных специалистов, есть оптимисты.
Благодарности
Эта книга появилась благодаря командной работе. Редактор издательства Packt Бен Рено-Кларк предложил идею этого проекта в конце 2017 г., и я сразу понял, насколько интересно зафиксировать в одной книге мысли людей, разрабатывающих технологию, которая, скорее всего, изменит наш мир. Бен много сделал для организации проекта и даже участвовал в редактировании отдельных интервью. Моя роль сводилась в основном к организации и проведению бесед. Транскрибацией, а также редактированием и структурированием текста занималась команда издательства Packt, в которую кроме Бена входят Доминик Шекшафт, Алекс Соррентино, Радика Атиткар, Сандип Тадж, Амит Рамадас, Раджвир Самра и Клэр Бойер, которая работала над обложкой.
Я очень благодарен всем опрошенным. Спасибо за время, которые вы потратили на наши беседы, несмотря на свои напряженные рабочие графики. Я надеюсь, что наш проект вдохновит будущих исследователей ИИ и предпринимателей, а также внесет свой вклад в многочисленные обсуждения ИИ, его влияния на общество и нашего потенциала в будущем. Наконец, я благодарю свою жену Сяо-Сяо Чжао и дочь Элейн за их терпение и поддержку во время работы над этим проектом.
