Чтобы существенно повлиять на механизмы занятости или поставить под угрозу человеческие рабочие места в сфере услуг, искусственному интеллекту не обязательно становиться универсальным. Нам не придется ждать и 10, 15 или 30 лет, чтобы увидеть, как все случится. Как мера способности машин положить конец нашему нынешнему образу жизни и работы тест Тьюринга едва ли применим.
Для того чтобы считаться интеллектуальными, машинам не нужен интеллект как у людей. По тем меркам, которые мы применяем к животным, Watson, возможно, уже сейчас превосходит многие биологические виды, населяющие сегодня планету. Надо ли машине быть такой же умной, как человек, или еще умнее, чтобы ее можно было назвать интеллектуальной? Нет. По сути, от искусственного интеллекта вообще не стоит ожидать, чтобы он думал как люди. Почему он должен формироваться и прогрессировать так, чтобы думать в точности как мы? Совершенно не должен и, скорее всего, не станет.
Приведу два примера. Между 2009 и 2013 годами вооруженный машинным интеллектом высокочастотный трейдинг (HFT) составлял от 49 до 73 % всего объема рынка акций в США, а в Евросоюзе в 2014 году – около 38 %. Шестого мая 2010 года индекс Доу-Джонса рухнул с рекордной скоростью, хотя компенсировал потери за считаные минуты. После пятимесячного расследования Комиссия по ценным бумагам и биржам США и Комиссия по торговле товарным фьючерсами совместно выпустили доклад, в котором пришли к выводу, что HFT внес существенный вклад в волатильность этого мгновенного обвала. Крупная фьючерсная биржа СМЕ Group в своем расследовании заключила, что алгоритмы HFT стабилизировали рынок и ослабили удар от этого падения.
Для индустрии, которая за последние 100 лет довела биржевую торговлю до уровня высокого искусства, алгоритмы HFT знаменуют заметный отход от практики торговых залов Goldman Sachs, UBS и Credit Suisse. Сами эти алгоритмы очень далеко ушли от типичного человеческого поведения. Анализ сценариев HFT продемонстрировал совершенно иное поведение и принятие решений, нежели у людей. Что привело к этому сдвигу? Возможно, тот факт, что у HFT нет ни предвзятости, какая может быть у трейдеров-людей (например, привычки сохранять ставку на какой-нибудь класс активов дольше, чем рекомендуется, просто потому, что конкретному трейдеру нравится эта акция или отрасль), ни этической основы принятия решений. Некоторые возразят, что Уолл-стрит не слишком похожа на твердыню морали, и все же у алгоритма HFT этические основания для принятия решений попросту отсутствуют, если соответствующий навык не запрограммирован.
В 2014 году Audi тестировала на гоночной трассе беспилотные автомобили – две модификации Audi RS7 с мозгом величиной с игровую приставку PS4 в чехле. На данном этапе эти гоночные Audi еще нельзя назвать полностью самоуправляемыми, поскольку инженеры должны сперва проехать на них несколько кругов, чтобы машины выучили границы. Эти две машины известны как Ajay и Bobby
[168], и, что интересно, у них сформировались разные стили вождения, несмотря на идентичное «железо», программы и системы навигации. Инженерная команда Audi, при всей ее гигантской экспертной квалификации, не готова объяснить, откуда эта наглядная разница взялась.
Наверное, машинное сознание продемонстрирует еще много разновидностей «интеллекта», которые не впишутся в стандартную человеческую модель или в наши ожидания и тем не менее позволят одновременно и усовершенствовать принятие решений людьми, и пересмотреть традиционный человеческий подход к критическому мышлению. То, что интеллект, развивающийся у машины, отличается от нашего, не делает его ниже или примитивнее. Те, кого больше всего тревожит, что он захватит мир или поработит людей, вероятно, видят в нем подобия людей со сверхвысоким IQ: с такими же желаниями, этикой, склонностью к эгоизму и насилию, которые присущи нам, людям. Сверхинтеллектуальная версия человека действительно была бы страшноватой. Однако у нас нет причин ожидать, что искусственный интеллект проявит человеческие склонности, предрассудки и субъективность. Гораздо более вероятно обратное.
Те виды искусственного интеллекта, которыми мы располагаем сейчас, через несколько лет сумеют не только распознавать эмоции и чувства, но и определять, когда человек лжет. В какой-то момент мы, вероятно, поручим одному из них выбирать правительство. Представьте, как мог бы выглядеть по-настоящему чистый, честный выборный процесс, особенно если использовать искусственный интеллект для того, чтобы интересы каждого законного избирателя были представлены как можно лучше с помощью оптимальной конфигурации границ избирательных округов.
А как насчет распределения ресурсов и работы над такими проблемами, как, например, изменение климата? Когда искусственный интеллект сумеет с высокой точностью смоделировать климат планеты на протяжении тысячи лет и дать точную, верифицируемую количественную оценку использования ископаемого топлива или, например, влияния коровьих кишечных газов
[169] на уровень углекислоты (CO2) в атмосфере, – подумайте, как это скажется на распределении ресурсов и применении возобновляемых источников энергии.
Да, искусственный интеллект угрожает сложившемуся положению вещей, потому что, скорее всего, он окажется чистейшей формой логики и здравого смысла. Все, что сегодня «попахивает», в мире искусственного интеллекта будет разоблачено очень быстро. Добавьте к этому способность машины обучаться и строить гипотезы, и очень скоро нам придется защищать плохие человеческие решения перед лицом непогрешимой машинной логики, вооруженной таким объемом фактов и таким эффективным мышлением, с которыми мы, люди, просто не сможем тягаться. Через 15 лет в некоторых городах людям могут запретить садиться за руль, потому что самоуправляемые автомобили докажут, что они менее опасны. Страховые компании будут брать дороже за страховку автомобиля с водителем-человеком.
Нам предстоит убедиться, что в своих отдельных разновидностях машинный интеллект может очень отличаться от человеческого и наверняка станет революционной технологией задолго до того, как будет создан искусственный эквивалент нашего ума. Тот факт, что до его создания пройдет еще 20–30 лет, не означает, что все сказанное – только теория. Машины уже давно отнимают работу у людей; это началось 200 лет назад, с парового двигателя. Алгоритмы и роботы – всего лишь очередная машина в длинном ряду новейших технологий.
Глава 4
Преимущество роботов
Ключевым в 2025 году будет вопрос: для чего существуют люди, если миру больше не нужен их труд, а нужна только горстка тех, кто управляет «экономикой ботов»?
Стоу Бойд, ведущий исследователь в Gigaom Research
Автор: Алекс Лайтман
