Одно время мне казалось, что я должен внушить миру позитивное восприятие виртуальной реальности при помощи гипноза. Мы, техногики, мечтали проложить путь в будущее, исполненное добра и возможностей для творчества, как будто злоупотребления властными полномочиями – не более чем дурные привычки, которые наверняка исчезнут навсегда, стоит лишь однажды сокрушить их посредством технологического перехода.
Тогда Билл меня изрядно развеселил. Его остроумная отповедь, произнесенная с неподражаемым теннессийским акцентом, положила конец нашему разговору: «Джарон, я устал. Но над нами сгущается тьма».
Конечно, это было сказано в шутку. Я знал, что Билл не прислушается к моей просьбе не описывать виртуальную реальность как нечто зловещее, иначе разразилась бы литературная катастрофа!
Спустя несколько десятилетий мы, похоже, начали прокладывать дорогу в один из романов Билла. Но повесть еще не окончена; она еще только начинается.
Интернет наблюдает за вами
Прежде чем тревожиться о том, что и кому видно в Facebook и не опасно ли вводить пароль от Wi-Fi в кафе, следует разобраться с более серьезной проблемой – хорошо ли люди понимают значение своих основных действий, например прогулок. А между тем паранойя еще только на подходе!
На рубеже веков компания Google выкупила небольшой стартап у горстки разработчиков, среди которых был и я. Тот стартап открыл новое направление в деятельности компании – машинное зрение, к которому относились такие начинания, как приложение Google Goggles. Я затронул эту тему лишь затем, чтобы было понятно, что я пишу не о чем-то далеком и расплывчатом, а о мире, к созданию которого сам приложил руку.
В числе прочего, хорошо отстроенное машинное зрение способно отслеживать местонахождение людей независимо от того, попадают ли они в зону видимости подключенного к сети устройства с камерой. К примеру, распознавание лиц или изучение походки (с учетом специфических движений, которыми сопровождается ходьба) поможет добиться желаемого эффекта. Вскоре будет крайне сложно не попасть в поле зрения одного из таких устройств, находясь в общественных местах.
Машинное зрение таит в себе множество угроз. Разве не было в нашей истории войн и смертей во имя того, чтобы правительства никогда не заполучили технологий, позволяющих установить местонахождение любого гражданина в любой момент? И тем не менее в силу некоторых культурных трендов нам недавно представился удобный случай предложить столь же мощное орудие некоторым калифорнийским компаниям, благодаря которым каждый, у кого найдется достаточная сумма денег, сможет насладиться преимуществами нашего изобретения.
Давным-давно, работая над фильмом «Особое мнение», я предположил, что лицо героя может быть запечатлено билбордами и встроено в рекламные объявления. Тогда у него не получится сбежать от полиции, потому что полицейские увидят, на каких билбордах мелькало его лицо. Вот так мог бы осуществляться государственный надзор, ради которого госаппарату не пришлось бы даже пальцем шевельнуть. Классическая уловка серверов-сирен – держаться в стороне, одновременно наслаждаясь информационным превосходством. Когда-то я даже выпустил деморолик на эту тему.
Вне всякого сомнения, Facebook уже сейчас встраивает лица ваших друзей в рекламные объявления, и геолокационные сервисы уже отправляют таргетированную рекламу на мобильные телефоны конкретным людям, когда они появляются в тех или иных местах.
Так к чему же мы придем в итоге? На данный момент вырисовывается совершенно жуткая тенденция. Каждая из ранее описанных мною технологий, способных оставить без работы множество людей, представляет явную угрозу. Чем сильнее влияние ложной модели автоматической «эффективности» в обществе, тем выше вероятность внезапного возникновения проблем, так как в такой ситуации все большее количество игроков будет действовать в обход общественного договора.
Когда-нибудь для изготовления копии ключей, возможно, будет достаточно фотографии, на которой случайно запечатлена чья-то связка ключей на столике в кафе. 3D-принтеры также будут применяться для производства составных частей бомб, средств фиксации, орудий пыток и другого преступного реквизита. (Активисты движения за право ношения огнестрельного оружия уже распространяют в сети файлы для 3D-печати огнестрела с открытым исходным кодом.) Программное обеспечение такси с автопилотом однажды можно будет взломать, чтобы сбивать пешеходов и тут же покидать место происшествия, доставлять автобомбы к местам скоординированных ударов или похищать людей.
Несмотря на реальную возможность использования высоких технологий с целью причинения вреда, я придерживаюсь мнения, что это не более чем инструменты нашей воли. Алгоритм машинного видения изначально разрабатывался безо всякого злого умысла. Тем не менее нелепо утверждать, будто проблема этичного использования программных инструментов ограничивается уровнем личной ответственности.
ВСЕ ТРИ ЖУТКИХ СЕТЕВЫХ ПРОБЛЕМЫ – КОНФИДЕНЦИАЛЬНОСТЬ, ИДЕНТИФИКАЦИЯ И БЕЗОПАСНОСТЬ – ИМЕЮТ ДОЛГУЮ ИСТОРИЮ, НО В НАСТОЯЩИЙ МОМЕНТ ОНИ ДОСТИГЛИ КАТАСТРОФИЧЕСКОГО МАСШТАБА ИЗ-ЗА БОЛЬШИХ МАССИВОВ ДАННЫХ И СЕТЕВЫХ ЭФФЕКТОВ.
На что действительно следует обратить внимание, так это на экономические инициативы. Всех сил полиции не хватит, чтобы искоренить преступную деятельность, подкрепленную экономическими мотивами. По этой причине запреты не работают. Сколько законов ни издавай, при нынешних темпах прогресса законодательная база все равно будет отставать от новых соблазнов. Поэтому почти никто из виновников не был привлечен к ответственности за финансовые махинации, связанные с Мировым экономическим кризисом.
Единственный эффективный способ противостоять угрозам из интернета и бороться с ними должен опираться на базовую экономическую модель. Если экономическое устройство общества склоняется к поддержке разработок, не несущих в себе угроз, делать грязные дела захотят только прирожденные злодеи. Они встречаются довольно редко, так что с ними пусть разбираются правоохранительные органы. В любом обществе обнаруживается некоторое количество социопатов и немало трудных подростков. У законопослушных компаний и специалистов не должно оставаться мотивов нагнетать жуть.
Долгосрочная цель, скажем, стратегии безопасности не может сводиться к тому, чтобы перехитрить преступников, так как преступники в итоге резко поумнеют. (На коротких отрезках времени, само собой, возникают оперативные задачи, когда нужно перехитрить плохих парней.)
Стратегическая цель систем безопасности должна заключаться в том, чтобы изменить расстановку сил в игровой модели таким образом, чтобы ослабить мотивы, подталкивающие к совершению преступлений. В этом вся суть игры в цивилизацию.
Немного аргументов в пользу облачного отслеживания
При нынешнем устройстве сетей одной из вероятных реакций на опасности интернета является желание избегать подключения к облачным программам. Возможно, вам захочется как можно чаще исчезать с радаров, чтобы вас не могли отследить. Вам должно быть стыдно, ведь облачные вычисления дают очевидные преимущества, число которых в будущем будет только расти.
