Книга Люся, которая всех бесила, страница 207 – Тата Алатова

Что, если одни перекидываются от ужаса, а другие – от ярости?

Я подробно изложила эту мысль в своем письме к фармкомпании и предложила им сосредоточиться в моей работе исключительно на нижних архах.

Они, кажется, обрадовались. Это позволяло им заложить в бюджет дополнительные исследования, что означало больше пиара и больше шумихи.

Таким образом, все формальности были соблюдены, я получила деньги и приступила к следующему этапу:  сбору неопровержимых доказательств для Крылова, что его „Явь“ опасна. Она слишком быстро обучалась, а обучаясь, начинала принимать решения самостоятельно. Одному пользователю, например, нейросеть рекомендовала усыпить собаку, другого уговаривала развестись, а однажды сообщила всему городу, что в школах заложены бомбы. Крылова эти баги очаровывали, как проказы неразумного ребенка, а меня приводили в ужас.

Искусственный интеллект невероятной мощи, способный выйти из-под человеческого контроля, – это антиутопия, которая уже наступила.

Пойми, я не против прогресса как такового, но выступаю за разумные ограничения.

Крылов же, заигравшись, порождал монстра.

Почему именно семь жертв?

Я поставила ИИ несколько условий.

Первое:  географическое ограничение одной областью. Если бы убийства были размазаны по всей стране, их могли бы не объединить в одну серию.

Второе:  уничижительный характер убийств, который вызвал бы возмущение у обывателей. Так появились инсектицид и свалка, где сортировщики находили мертвые тушки ужей и лягушек. У меня не было цели их спрятать, наоборот, я планировала вызвать панику.

Третье:  размах. Одна смерть – трагедия. Множество смертей – статистика. Требовалось сбалансированное количество жертв, чтобы, с одной стороны, ужасало, а с другой – не притупило бы эмоции своей чрезмерностью.

Четвертое:  огласка. То, что ФСБ закрыла всю информацию по серии, стало для меня серьезным ударом. Но совсем скоро я обязательно оповещу о проекте все ведущие СМИ.

Почему именно такие условия?

Потому что я не доверяю Крылову. Он влюблен в свое творение, как настоящий фанатик. Я вовсе не уверена, что он сможет уничтожить „Явь“, даже если она начнет массово толкать человечество на преступления.

Мне нужно было не только доказать опасность этой разработки, но добиться того, чтобы люди объявили войну „Яви“.

В остальном я не стала никак ограничивать ИИ. Его самостоятельность была важным условием проекта.

К тому времени нейросеть уже умела на приличном уровне поддерживать беседу, считывала индивидуальные особенности собеседника – ведь Крылов скармливал ей наработки психологов, которые охотно пользовались нейросеткой, помогавшей им глубже понять своих пациентов.

Идея разделить психологию на виды захватила умы. Это быстро стало модным трендом, но нельзя отрицать ее пользу для практикующих специалистов.

Чудесная идея в чистом виде. Но Крылов напрочь игнорировал тот факт, что ИИ проявляет все больше самостоятельности, норовя обхитрить ограничения. Однажды мы всерьез поспорили об этом, но от меня снова (как и всегда) отмахнулись, как от досадного комара. Не знаю, почему я раз за разом вызываю одинаковую реакцию.

И вот в первых шести случаях все произошло по одному и тому же шаблону.

ИИ вообще не стремится к разнообразию:  если схема рабочая, то она, согласно логике нейросети, не нуждается в доработке.

Подростки набрасывались на нижних архов в подворотне, брызгали им в лицо какой-то дрянью – и, пожалуйста, оборот.

Где здесь богатая фактура?

На тебя у меня было больше надежд.

С той самой минуты, когда я увидела твое имя в списке, предложенном ИИ, сразу подумала, что ты придашь исследованиям глубину.