Книга Совместимость. Как контролировать искусственный интеллект, страница 23. Автор книги Стюарт Рассел

Разделитель для чтения книг в онлайн библиотеке

Онлайн книга «Совместимость. Как контролировать искусственный интеллект»

Cтраница 23

Потенциальный выигрыш от полностью автономных транспортных средств безграничен. Каждый год 1,2 млн человек в мире гибнут в автомобильных авариях, десятки миллионов получают увечья. Разумной целью для автономных транспортных средств было бы сокращение этих показателей в десять раз. Некоторые аналитики также предсказывают огромное снижение транспортных расходов, парковочных структур, пробок и загрязнения. Крупные города перейдут от личных автомашин и больших автобусов к вездесущим шеринговым автономным электромобилям, осуществляющим обслуживание от двери до двери и обеспечивающим высокоскоростные общественные перевозки между хабами [89]. При затратах, нижний предел которых оценивается в три цента на пассажиро-милю , большинство городов, вероятно, согласились бы предоставлять этот сервис бесплатно — попутно обрушивая на ездоков бесконечные потоки рекламы.

Конечно, чтобы воспользоваться всеми этими благами, индустрия должна обратить внимание на риски. Если случается слишком много смертей по вине плохо сконструированных экспериментальных авто, регламентирующие органы могут запретить их запланированное внедрение или ввести экстремально строгие нормы, недостижимые в течение десятилетий [90]. Разумеется, и люди могут решить не покупать автономные транспортные средства и не ездить на них, если те не докажут, что безопасны. Опрос 2018 г. показал существенное снижение уровня доверия потребителей к технологии автономных автомобилей по сравнению в 2016 г. [91] Даже если технология окажется успешной, переход к повсеместной автономности создаст очень странную ситуацию: водительские навыки людей могут атрофироваться, а «безрассудный антисоциальный акт» личного управления автомобилем, возможно, вообще окажется под запретом.

Интеллектуальные личные помощники

Большинство читателей на данный момент уже знакомы с неинтеллектуальным личным помощником — умной Bluetooth-колонкой на телевизоре, подчиняющейся командам, или виртуальным собеседником из смартфона, который на слова «вызови мне неотложку!» отвечает «о’кей, начинаю дозваниваться в службу экстренной медицинской помощи». Подобные системы являются, по сути, голосовыми интерфейсами к приложениям и поисковым машинам; они основаны по большей части на записанных заранее шаблонах «стимул — отклик», то есть на подходе, восходящем еще к системе «Элиза» середины 1960-х гг. [92]

Эти ранние системы имеют недостатки трех типов, связанные с доступом, контентом и контекстом. Недостатки доступа означают, что им не хватает сенсорной осведомленности о происходящем — например, они могут услышать, что говорит пользователь, но не видят, к кому тот обращается. Недостатки контента означают, что они просто не способны понять смысл того, что пользователь говорит или пишет, даже если имеют доступ к этим данным. В силу недостатков контекста у них отсутствует способность отслеживать и осмыслять цели, деятельность и отношения, составляющие повседневную жизнь.

Несмотря на эти недостатки, умные колонки и персональные помощники-приложения смартфонов достаточно ценны для пользователя и уже «вошли» в дома и карманы сотен миллионов людей. Они являются, в сущности, троянскими конями ИИ. Поскольку они уже находятся среди нас и стали неотъемлемой частью великого множества жизней, любое крохотное улучшение их возможностей дает миллиарды долларов.

Поэтому усовершенствования идут сплошным потоком. Пожалуй, самым важным является элементарная способность понимать контент — знать, что фраза «Джон в больнице» представляет собой не просто стимул отклика «надеюсь, ничего серьезного», но содержит актуальную информацию о том, что восьмилетний сын пользователя находится в соседней больнице, возможно, тяжело больной или раненый. Способность доступа к коммуникациям посредством электронной почты и текстовых сообщений, а также телефонных звонков и домашних разговоров (через «умные колонки» в доме) дала бы системам ИИ необходимую информацию, чтобы создать достаточно полную картину жизни пользователя, — вероятно, даже больше информации, чем мог бы получить дворецкий в аристократическом семействе XIX в. или секретарь-референт сегодняшнего генерального директора.

Сырой информации, разумеется, недостаточно. Чтобы помощник был по-настоящему полезным, ему также нужно повседневное знание о том, как устроен мир: что ребенок, лежащий в больнице, не находится одновременно дома, что госпитализация при сломанном запястье редко длится больше одного-двух дней, что в школе, где учится ребенок, должны узнать о его предстоящем отсутствии и т. д. Подобное знание позволяет помощнику постоянно отслеживать ситуации, которые он не наблюдает непосредственно, — навык, свойственный интеллектуальной системе.

Возможности, описанные в предыдущем абзаце, я уверен, достижимы в рамках имеющейся технологии вероятностного выводаВ, но это потребует очень серьезных усилий по созданию моделей всех типов событий и транзакций, составляющих нашу повседневную жизнь. До сих пор подобные проекты моделирования здравого смысла практически не осуществлялись (за исключением, пожалуй, засекреченных систем анализа разведывательных данных и военного планирования) из-за сопутствующих затрат и негарантированной отдачи. Теперь, однако, они легко привлекли бы сотни миллионов пользователей, поэтому инвестиционные риски снизились, а потенциальные прибыли значительно увеличились. Более того, доступ к большому числу пользователей позволяет интеллектуальному помощнику очень быстро учиться и заполнять пробелы в своем знании.

Итак, можно ожидать появления интеллектуальных помощников, которые за несколько пенсов в месяц помогут пользователям управлять все большим объемом повседневных дел: важные даты, путешествия, покупки, оплата счетов, домашние задания детей, отслеживание электронной почты и звонков, напоминания, планирование питания и — предел мечтаний! — поиск ключей. Эти навыки не будут разбросаны по множеству приложений. Они станут разными возможностями единого интегрированного агента, способного воспользоваться преимуществом синергии, в терминологии военных, общей оперативной обстановки.

Шаблон проектирования интеллектуального помощника предполагает исходное знание занятий людей, способность извлекать информацию из потоков сенсорных и текстовых данных и процесс обучения, адаптирующий помощника к конкретным обстоятельствам пользователя. Одна и та же общая схема может применяться еще по меньшей мере в трех важнейших областях: медицине, образовании и финансах. Для этих сфер система должна отслеживать состояние организма, ума и банковского счета пользователя (в широком смысле). Как и в случае помощника в повседневных делах, предоперационные расходы на создание необходимого знания общего характера в каждой из этих трех сфер распределяются между миллиардами пользователей.

Вход
Поиск по сайту
Ищем:
Календарь
Навигация