Технология частичной автономности 3-го уровня существует уже сегодня. Но, как было показано уже не раз, люди плохо взаимодействуют с частичной автономией. Даже если водители знают, что должны непрерывно следить за дорогой, порой они этого не делают, а поскольку автомобили не способны справляться с возникающими ситуациями, аварий в таком случае не избежать.
Каков итог? Полная автономность вождения требует общего ИИ, который, скорее всего, не появится в ближайшем времени. Частично автономные автомобили существуют и сейчас, но представляют опасность, потому что управляющие ими люди не всегда следят за дорогой. Для решения этой дилеммы, скорее всего, придется изменить определение полной автономности и позволить беспилотным автомобилям ездить только в определенных зонах, где создана инфраструктура для обеспечения их безопасности. Универсальный вариант этого решения называется геозонированием. Джеки ДиМарко, бывший главный инженер по беспилотным автомобилям Ford Motor Company, объяснила принцип геозонирования следующим образом:
Когда речь идет об автономности 4-го уровня, это полная автономия в пределах геозоны, то есть области, для которой составлена карта высокого разрешения. Имея такую карту, вы понимаете среду, в которой находитесь. Вы видите, где расположены фонарные столбы и переходы, какие правила действуют на дороге, какие установлены ограничения скорости и так далее. Мы считаем, что автономия будет расти в определенной геозоне, а затем выходить за ее пределы по мере совершенствования технологии и методов обучения, а также появления способности решать все большее количество проблем
[362].
Конечно, в пределах геозоны тоже никуда не деться от вездесущих докучливых людей. Исследователь ИИ Эндрю Ын полагает, что пешеходов необходимо научить вести себя более предсказуемо рядом с беспилотными автомобилями: “Мы говорим людям: «Не нарушайте закон и будьте предупредительны»”
[363]. Компания Ына по разработке беспилотных автомобилей Drive.ai запустила целый парк полностью беспилотных такси-фургонов, которые развозят пассажиров в определенных геозонах Техаса – одного из немногих штатов, где законы допускают движение таких автомобилей. Скоро мы увидим, чем обернется этот эксперимент и оправдается ли оптимистичная надежда Ына на обучение пешеходов.
Вопрос: приведет ли ИИ к массовой безработице?
Не знаю. Полагаю, что нет – по крайней мере не в ближайшем будущем. Утверждение Марвина Минского о том, что “простые вещи делать сложно”, по-прежнему справедливо в большинстве сфер ИИ, и освоить многие человеческие профессии компьютерам (или роботам), скорее всего, гораздо сложнее, чем кажется.
Несомненно, системы ИИ заменят людей в некоторых областях – это уже произошло, причем во многих случаях на благо обществу. Но никто пока не знает, какое влияние ИИ окажет на рынок труда, потому что никто не может предсказать, какие способности обретут будущие технологии искусственного интеллекта.
Вероятное влияние ИИ на безработицу оценивается во множестве докладов, где основное внимание уделяется уязвимости миллионов профессий, предполагающих необходимость вождения автомобиля. Возможно, люди, выполняющие эту работу, в конце концов окажутся заменены компьютерами, но сложно сказать, когда именно это произойдет, ведь пока непонятно, когда полностью беспилотные автомобили получат широкое распространение.
Несмотря на неопределенность, вопрос о влиянии технологий на рынок труда (по праву) поднимается в текущей дискуссии об этике ИИ. Отмечается, что исторически новые технологии создают не меньше рабочих мест, чем заменяют, и вполне вероятно, что ИИ не станет исключением. Возможно, ИИ лишит работы дальнобойщиков, но необходимость разработки этики ИИ создаст новые позиции для философов морали. Я говорю это не чтобы преуменьшить серьезность потенциальной проблемы, а чтобы показать, что в этом вопросе пока нет определенности. Это подчеркивается в тщательно подготовленном докладе Совета экономических консультантов США о возможном влиянии ИИ на экономику, составленном в 2016 году: “Наблюдается значительная неопределенность по вопросу о том, как сильно будет ощущаться это влияние и как быстро оно даст о себе знать… На основе доступной в настоящее время информации невозможно сделать конкретных прогнозов, поэтому руководству следует готовиться к целому диапазону потенциальных последствий”
[364].
Вопрос: может ли компьютер обладать творческими способностями?
Многим людям мысль о творческом компьютере кажется оксюмороном. В конце концов, машина по природе своей “механическая”, а это слово в обиходе имеет коннотации, противоположные творчеству. “Компьютер может только то, на что запрограммирован человеком, – скажет скептик. – Следовательно, компьютер не может обладать способностями к творчеству, поскольку творчество подразумевает самостоятельное творение нового”
[365].
На мой взгляд, такая точка зрения – что компьютер по определению не может обладать творческими способностями, поскольку умеет лишь то, на что непосредственно запрограммирован, – ошибочна. Компьютерная программа может генерировать вещи, о которых программист и не задумывался. Моя программа Copycat (описанная в предыдущей главе) часто строила аналогии, которые никогда не пришли бы мне в голову, но при этом обладали собственной странной логикой. Я уверена, что теоретически компьютер может обладать способностями к творчеству. Но также я уверена, что творческие способности предполагают возможность понимать и оценивать свое творение. В этом смысле ни один из существующих компьютеров нельзя назвать творческим.
Сопутствующий вопрос состоит в том, может ли компьютерная программа создать прекрасное художественное или музыкальное произведение. Объективно оценить красоту невозможно, и все же на этот вопрос я даю однозначно положительный ответ. Я видела множество сгенерированных на компьютере произведений искусства, которые считаю прекрасными. Примером может служить “генетическое искусство” информатика и художника Карла Симса
[366]. Симс запрограммировал компьютер создавать цифровые произведения искусства, используя алгоритм, вдохновленный дарвиновским естественным отбором. С помощью математических функций со случайными элементами программа Симса создает семь разных работ-кандидатов. Человек выбирает из них одну, которая понравилась ему больше остальных. Программа создает вариации выбранной работы, внедряя случайность в свои математические функции. Человек выбирает лучшую из мутаций и так далее много раз. Такой процесс привел к созданию восхитительных произведений абстрактного искусства, которые часто выставляются в различных музеях.
