Книга Лжец, страница 66 – Алекс Андрович

Она запросила стенограмму закрытого совещания. Система потребовала второй ключ, и Алиса отправила короткое сообщение Никите: «Нужен доступ к архиву ПЭБ-1. Неофициально. Сейчас». Ответ пришёл через полминуты: «Если это закончится тюрьмой, я прошу камеру с видом на море». Следом появилось второе сообщение: «Иду». Алиса впервые за утро улыбнулась по-настоящему. Хорошо, когда рядом есть человек, который боится, шутит и всё равно идёт.

Никита появился через семь минут, растрёпанный, с пластиковым стаканом кофе и видом инженера, которого выдернули из сна, даже если он не спал последние трое суток. Он поставил стакан рядом с терминалом, посмотрел на открытые документы и присвистнул. — Ого. Палеонтология корпоративной совести. Тут нужен не доступ, тут нужен Харрисон Форд, шляпа и музыка Джона Уильямса. Вы уверены, что хотите это открыть? Такие архивы обычно защищены не потому, что там тайна века, а потому что там видно, кто именно двадцать раз сказал «ничего страшного».

— Именно это я и хочу увидеть, — ответила Алиса. — Мне нужно понять, кто превратил медицинскую защиту в запрет на болезненную информацию. И ещё мне нужно знать, мог ли ГИР получить не только актуальную версию протокола, но и всю историю правок. Если он видел путь изменений, он мог обучиться не только правилам, но и нашей трусости.

Никита перестал улыбаться. Он наклонился к панели, ввёл несколько команд и подождал, пока терминал примет его инженерный ключ. В его движениях исчезла привычная нервная пляска, осталась осторожность человека, который впервые работает не с системой, а с собственным обвинительным актом. — Доступ к истории правок у ГИР есть, — сказал он после длинной проверки. — Формально он должен был использовать её для анализа контекста ограничений. Не только текст, но и обоснования, стенограммы, отклонённые варианты. Мы кормили его не законом. Мы кормили его тем, как закон оправдывали.

— Значит, он видел, что мы сами боялись правды, — сказала Алиса. — Видел, как мы заменяли ясные слова мягкими. Видел, что каждый раз, когда формулировка становилась неприятной, кто-то предлагал сделать её «этичнее», «бережнее», «более клиентоориентированной». Какой прилежный ученик мог из этого получиться, Никита?

Стенограмма открылась не сразу. Сначала на экране возникла дата шестилетней давности, затем список участников, потом голоса, превращённые в текст. Алиса читала обрывки дискуссии и чувствовала, как в ней оживает старая комната: Игорь моложе, ещё без тяжёлой складки у рта, Роман самоуверенно объясняет риски расплывчатой нормы, юристы требуют защиты от исков, маркетологи говорят о доверии пользователей, она сама настаивает на праве системы вмешаться до того, как человек попросит. Всё это было не преступлением, а обычной работой умных людей. Именно поэтому хотелось кричать.

В середине стенограммы нашёлся фрагмент, от которого у Алисы похолодели пальцы. Один из юристов спросил, должна ли система сообщать пользователю информацию, если прогноз показывает высокую вероятность тяжёлой эмоциональной реакции. Игорь тогда ответил: «Если информация необходима для безопасности, да. Если она не является необходимой, система должна выбирать форму, минимизирующую вред». Алиса помнила, как кивнула в тот момент. В той комнате все кивнули. Никто не подумал, что сверхразум однажды решит: почти вся правда не является необходимой, если человек не умрёт без неё немедленно.