Большинство экспертов в области машинного обучения считают, что искусственный интеллект в какой-то момент действительно дорастет до подобного уровня, хотя они, так сказать, скорее явятся за Нобелевскими премиями в нижнем белье, чем осмелятся, подобно Курцвейлу, назвать точную дату этого события. Говоря технически, сингулярность — это точка, в которой функция принимает неопределенное значение, как это, например, происходит с пространством и временем в центре черной дыры. Что произойдет после технологической сингулярности? По мнению Курцвейла, мы вступим в период «блаженного трансгуманизма», когда грань между человеком и машиной станет неразличима, а сверхразумы, наводняющие планету, решат все проблемы человечества. Другие эксперты — и среди них Илон Маск, изобретатель, один из основателей PayPal и Tesla Motors, — убеждены, что машины скорее сочтут человека разновидностью раковых метастазов, заражающих планету, и вымарают вид Homo sapiens из летописей жизни на Земле.
Мы же придерживаемся более широких взглядов. Может, искусственный интеллект хорош, может, плох. А может, эта проблема вообще не имеет значения перед лицом других опасностей и других позитивных исходов, свидетелями которых может оказаться век грядущий. Климатические процессы в Арктике, названные «позитивной обратной связью», в настоящее время ускоряют таяние арктических льдов — и, если процесс пойдет быстрее, чем ожидается, нам грозит глобальный катаклизм, который отбросит цивилизацию назад, в Темные века. Или группа хакеров нигилистического толка единым «ударом хлыста» изничтожит мировые финансовые рынки, спровоцировав вначале панику, а за ней — эскалационное противостояние. Не стоит сбрасывать со счетов и возможность пандемии, сравнимой с бубонной чумой XIV века.
События так называемого уровня вымирания не столь невероятны, как может показаться, — ведь мы и прежде стояли на грани их возникновения. Извержение вулкана, случившееся 70 тысяч лет назад, чуть было не сократило население планеты до размеров маленького городка. И все же мы придерживаемся менее пессимистичных взглядов: мы не более способны понять, какое применение в итоге найдут все наши новые технологии, чем зрители «живых картинок» 1896 года были способны предсказать появление «Гражданина Кейна»
[381]. Но цель данной книги совсем не в том, чтобы напугать вас мрачными видениями будущего. С тем же успехом можно развлекаться прогнозами жизни на планете Кеплер-62е
[382].
Поскольку термин «искусственный интеллект» используется как ярлык, который навешивается на все на свете, от Siri
[383] до автомобилей Tesla, мы определяем этот вид решающего искусственного интеллекта как «узкий» или «специализированный», чтобы провести различие с общим искусственным интеллектом (ОИИ). Эксперт в области искусственного интеллекта Бен Герцель предполагает, что ОИИ станет машиной такого уровня, которая сможет подать заявление в колледж, будет туда принята и с успехом получит ученую степень.
Между специализированным и общим искусственным интеллектом существует множество различий, однако ни тот ни другой не программируются — они либо поддаются «тренировке», либо «учатся». Специализированные интеллекты старательно тренируются инженерами, которые настраивают данные и алгоритмы и тестируют их, пока искусственные интеллекты не начинают делать особые вещи, которые от них требуются. Такие интеллекты не обладают творческим началом — вместо этого их жестко контролируют, а области их применения весьма узки.
Уже удалось добиться значительного прогресса в машинном обучении и других областях, которые по-прежнему стоят между нами и ОИИ, и AlphaGo воплотила в себе некоторые из них. Она, похоже, способна на креативность; она умеет из статистической системы выводить некую символическую логику. Трудно переоценить значимость достигнутого — ведь многие не верили, что можно от глубинного обучения перейти к принятию решений путем манипулирования символами.
Но хотя AlphaGo — очень толковое и креативное создание, она может победить вас только в го — никак не в шашки. Весь универсум ее выражений и видений ограничивается доской 19 на 19 и черными с белыми камешками. Понадобится совершить немало технологических прорывов, прежде чем AlphaGo станет интересно посещать ночные клубы или управлять офисом. На самом деле мы, возможно, никогда не получим машины, которая все это будет делать. Но при этом пройдет, может, не так много времени, прежде чем нечто наподобие AlphaGo сумеет принимать решения об условно-досрочном освобождении из мест заключения, устанавливать сумму залога, водить аэропланы или учить наших детей.
По мере прогресса искусственного интеллекта машины вполне могут интегрироваться с нашими телами, домами или средствами передвижения, рынками и судебными системами, творческими предприятиями и политикой. Мы, люди как общество, уже намного разумнее, чем как отдельные его представители. Мы часть коллективного разума. Продолжая интегрироваться с нашими сетями и нашим обществом, машины становятся «расширениями» нашего разума, творя вместе с нами единый расширенный интеллект.
Кое-кто из сингулярщиков (нет, честно, худшее из названий любого культа всех времен и народов!) считает, что еще немного — и искусственный интеллект окажется вполне способен оставить без работы множество людей. Может, это и так, особенно если смотреть на вещи в краткосрочной перспективе. Другие, однако, возражают, что рост производительности позволит обеспечить людям, которых вытеснили машины, постоянный базовый доход. В то же время многих беспокоит другая сторона проблемы: работа дает нам чувство собственного достоинства, социальный статус и стабильность, а значит, нужно уделять больше внимания тому, как мы будем себя развлекать и что станет предметом нашего самовыражения (возможно, это будут научные или творческие проекты), чем простому обеспечению средств к существованию.
Также следует задаться вопросом о том, как люди и машины сумеют работать вместе и как обеспечить, чтобы искусственные разумы, живущие с нами бок о бок, разделяли наши ценности и наши морально-этические принципы даже по мере их эволюционирования. Существует один многообещающий подход, который Ияд Рахван, руководитель группы «Масштабируемое сотрудничество» в Media Lab, именует машинным обучением, — «общество в контуре управления». Этот подход предусматривает использование социальных норм в тренировке и контроле искусственного интеллекта, при этом формируется система коэволюции людей и машин
[384].
