После шести месяцев безработицы ему посчастливилось найти работу. Однако дорога на работу – это 84 мили (135 км) в день, а зарплата на 30 % меньше… На бензин у мужа уходит почти половина зарплаты.
Мы стараемся сократить убытки и меняем программу кредитования нашего ипотечного кредита и изо всех сил стараемся сохранить наш маленький дом. В июне мне повысили зарплату на 2 %, но на самом деле я получила меньше, потому что мои расходы на медицинское страхование выросли. Таких как мы – 99 %».
«У меня не было работы более двух с половиной лет. Среди темнокожих мужчин уровень безработицы составляет 20 %. Мне 33 года. Родился и вырос в Уоттсе. Таких, как я, – 99 %».
«Мне девятнадцать. Я давно мечтал, что в будущем заведу детей. Теперь я боюсь, что будущее будет не лучшим местом для моих детей. Таких как я – 99 %».
«Я на пенсии. Я живу на сбережения, пенсионные выплаты и социальное пособие. Я в порядке. 50 миллионов американцев НЕ В ПОРЯДКЕ: они бедны, у них нет медицинской страховки. И таких как они – 99 %».
Они продолжали говорить, тысячи из них, голоса, кричащие об их страхе, боли и беспомощности, голоса людей, чьи жизни были раздавлены машиной.
* * *
Начиная с вымышленного компьютера HAL из «Космической одиссеи 2001 года», заканчивая Скайнет из «Терминатора», идет сквозная тема из научной фантастики: искусственный интеллект, созданный для того, чтобы служить людям, выходит из-под контроля и преследует цели, враждебные его создателям.
Недавно группа светил науки и выдающихся инженеров из Кремниевой долины, в том числе Стивен Хокинг и Илон Маск, написала открытое письмо, в котором рекомендовалось «расширенное исследование, направленное на обеспечение надежности и полезности все более эффективных систем ИИ: наши системы ИИ должны делать то, что мы хотим от них». Такие группы, как некоммерческая организация Future of Life Institute и OpenAI, были созданы для изучения экзистенциальных рисков ИИ и для того, чтобы, как говорит сайт OpenAI, «развивать цифровой интеллект таким образом, чтобы он с наибольшей вероятностью приносил пользу человечеству в целом, не ограничиваясь задачами получения финансовой отдачи».
Это благородные цели. Но они, возможно, были сформулированы слишком поздно.
Мы уже находимся в рабстве у огромной всемирной сети, которая из-за ошибок в своем первичном программировании развила пренебрежительное отношение к людям, делает их бесполезными и пресекает все попытки вернуть над ней контроль. Она пока еще не обзавелась собственным интеллектом и не может работать автономно, и она все еще зависит от сотрудничества с людьми, но она становится все более мощной и все более независимой с каждым днем. Мы участвуем в битве за душу этой машины, и мы проигрываем. Системы, которые мы создали, чтобы служить нам, больше не делают этого, и мы не знаем, как их остановить.
Если вы думаете, что я говорю о Google или Facebook или о какой-то теневой программе, управляемой правительством, вы ошибаетесь. Я говорю о том, что мы называем рынком.
Чтобы понять, как рынок, этот краеугольный камень капитализма, становится этим неконтролируемым искусственным интеллектом, которого мы так долго опасались, врагом человечества, для начала нам нужно проанализировать кое-какие данные об искусственном интеллекте. Затем нам необходимо понять, как финансовые рынки (зачастую называемые в разговорной речи просто как «Уолл-стрит») стали машиной, которую ее создатели больше не понимают в полной мере, и как цели и деятельность этой машины абсолютно потеряли связь с рынком реальных товаров и услуг, для поддержки которого она была изначально создана.
Три вида искусственного интеллекта
Когда эксперты говорят об искусственном интеллекте, они различают «узкоспециализированный искусственный интеллект» и «общий искусственный интеллект», также называемые «слабый ИИ» и «сильный ИИ».
Узкоспециализированный ИИ резко стал предметом общественного обсуждения в 2011 году. Это был тот год, когда в феврале суперкомпьютер IBM Watson в прямом эфире разгромил лучших игроков телевизионной викторины Jeopardy. В октябре того же года корпорация Apple представила Siri, персонального помощника, способного отвечать на общие вопросы, заданные вслух простыми словами. Ответы Siri, произносимые приятным женским голосом, были чем-то из научной фантастики. Даже когда Siri не понимала человеческую речь, казалось поразительным, что мы теперь разговариваем с нашими устройствами и ждем от них ответов. Siri даже стала лучшим другом одного мальчика-аутиста.
2011 год также был годом, когда корпорация Google объявила, что ее прототип беспилотного автомобиля проехал более 100 000 миль в режиме обычного дорожного движения, всего через шесть лет после того, как победитель соревнований автомобилей-роботов DARPA Grand Challenge сумел проехать всего семь миль за семь часов. Сегодня беспилотные автомобили и грузовики находятся в центре внимания, в то время как в СМИ ведутся жаркие споры по поводу того, что они, возможно, уничтожат миллионы человеческих рабочих мест. Страх, что эта следующая волна автоматизации продвинется в обесценивании человеческого труда намного дальше, чем первая промышленная революция, – это то, что заставляет многих говорить, что «на этот раз все будет по-другому», когда речь заходит о технологиях и экономике будущего.
Граница между узкоспециализированным ИИ и другим сложным программным обеспечением, способным учитывать многие факторы и за микросекунды принимать решения, нечеткая. Автономные или полуавтономные программы, способные выполнять сложные задачи, на протяжении десятилетий были частью кровеносной системы нашего общества. Мы полагаемся на автоматизированные коммутирующие системы для маршрутизации наших телефонных звонков (когда-то операторы телефонных станций в буквальном смысле соединяли абонентов с конкретной точкой при помощи кабелей), и люди регулярно преодолевают тысячи километров на самолетах, управляемых автопилотом, в то время как человек-пилот сидит рядом «на всякий случай». Несмотря на то что поначалу эти системы кажутся волшебными, никто не думает о них как об искусственном интеллекте.
Персональные помощники, такие как Siri, Google Assistant, Cortana и Alexa компании Amazon, представляются нам «искусственными интеллектами», потому что они слушают нас, говорят и отвечают человеческим голосом, но даже они в действительности не разумны. Это умело запрограммированные системы, существование большинства которых возможно, потому что они имеют доступ к огромным объемам данных, которые могут обрабатывать намного быстрее, чем любой человек.
Но существует одно ключевое различие между традиционным программированием даже самых сложных систем, глубинным обучением и другими методами в сфере передовых технологий ИИ. Вместо того чтобы описывать каждую процедуру, создается базовая программа, такая как распознаватель изображения или классификатор, а затем обучается путем сообщения ей большого количества данных, промаркированных людьми, пока она не сможет распознавать закономерности в данных самостоятельно. Мы обучаем программу тому, как выглядит результат успешной деятельности, а она учится нас копировать. Это порождает опасение, что эти программы становятся все более независимыми от своих создателей.
