Вероятен вариант, что появится другой оптимальный способ поставлять трафик невротикам, но в общем и целом результат будет похожим.
В качестве примера нового источника невротизации рассмотрим, как американские спецслужбы обвинили российские спецслужбы во вмешательстве в президентские выборы. Метод заключался не только в отправке мусорных постов, но и в использовании в качестве «оружия» WikiLeaks, чтобы выборочно распределить информацию, которая навредила только одному кандидату.
Предположим, что компании – разработчики технологий будут применять этические фильтры для блокировки опасных выборочных утечек информации. Следующим шагом может стать неосознанное создание паранойи в отношении кого-то или чего-то с целью заполучить внимание.
Если компании применят фильтры для предотвращения такого, всегда объявится новый метод. Какой степени контроля над нашим обществом мы хотим потребовать от алгоритмов? Где он закончится? Вспомните о том, что задолго до того, как мы стали умолять компании сделать хоть что-нибудь с мусорным постингом, мы требовали от них предпринять хоть что-нибудь против фальшивых новостей, а также риторики, провоцирующей ненависть, и организованного притеснения. Компании начали блокировать определенных пользователей, но стало ли общество в результате сдержаннее?
В какой-то момент, даже если применить автоматические моральные алгоритмы и получится, может все равно остаться необходимость обратиться к старому полубогу экономических поощрений. Существуют альтернативы нынешней экономике и социальным сетям. Например, как я уже предлагал, людям можно платить за создаваемый ими контент в Facebook и платить за контент от других, а Facebook может брать процент. (Мы знаем, что это может сработать, поскольку что-то подобное было уже опробовано в экспериментах вроде Second Life, которую я упоминал раньше.)
Несомненно, существуют и другие потенциальные решения, которые также стоит рассмотреть. Я выступаю за эмпирический подход. У нас должно хватать смелости пробовать разные решения, например платить людям за их данные, но также и смелости принимать результаты, даже если они нас разочаруют.
Мы не должны сдаваться.
Гуманное использование человеческих систем
Дело не в том, что невидимая рука всегда будет выгоднее воображаемого живого искусственного интеллекта или наоборот. Скорее уж людям придется перестать ожидать совершенства от любого из существующих полубогов, которых я обозначу более прямо как организационные системы со множеством участников.
В наш информационный век ценятся люди, у которых хорошо получается думать как компьютер, но не то чтобы этот склад ума был миру в диковинку. Это тот же склад ума, который всегда предпочитал соглашаться с системой, запускать программу; искать социалистического рая, абсолютной теократии или либертарианской колонии сторонников пуризма на плавучем острове, где никто не платит налогов, но остров все равно держится на плаву. Если вы способны думать как компьютерная программа, вы можете зарабатывать целое состояние при помощи компьютерных программ, которые сейчас управляют миром.
Чтобы выжить, человечество также должно ценить людей, которые процветают в неоднозначности и не клялись на крови в верности какому-то одному принципу организации. Религии, рынки, политические режимы, облачные алгоритмы, общественные формации, закон, принадлежность к группам, нации, образование – все это нужно нам, и ничто из этого не совершенно. У всех этих систем есть режимы разрушения, как их заложит инженер. Единственный способ выживания для нас как вида – думать о наших системах так же, как мы думаем о машинах и холодильниках. Даже самые надежные из них – даже облачные алгоритмы! – иногда нас подводят. Признать это – проблема для пуристов.
Если коммерческие структуры смогут когда-нибудь добиться лучшего баланса алгоритмов, как я предлагал, могут существовать и другие сдержки и противовесы между нашими системами, которые можно обозначить и изучить. Алгоритмы – самая молодая разновидность крупномасштабных систем, но это не значит, что все остальные вдруг потеряли значимость.
Многие ученые без конца твердят о том, что искусственный интеллект разрушит все прочие системы за три минуты, так что нам ничего не остается делать, кроме как наслаждаться моментом и ощущением собственного превосходства перед лицом неминуемого, если вы считаете себя нормальным человеком, а не «технарем». Но это отказ от собственной ответственности, особенно если вы инженер.
У нас замечательные системы, с которыми можно работать. Если мы не будем пренебрегать ценностями, которые оставило нам каждое из предыдущих поколений, мы можем построить достойное, стабильное высокотехнологичное общество, которое станет стартовой площадкой для приключений, которые мы себе и вообразить не могли, но мы, инженеры, должны хотя бы немного научиться скромности, чтобы туда попасть.
В этой финальной главе я предельно осторожен и предпочитаю не полагаться на предположения, сможет ли искусственный интеллект когда-либо стать «настоящим», то есть глубоко и всесторонне разумным; или даже обретет сознание для тех, кто, как и я, верит в то, что сознание реально. Приведенные выше аргументы работают и в отношении сценариев, когда в пределах обозримого будущего искусственный интеллект продолжит требовать от людей большие массивы данных, или же он может начать работать с небольшими объемами данных, из-за чего он, предположительно, станет более «автономным».
Например, предположение о том, что микроплатежи могут обеспечить стабильную, творческую и достойную альтернативу модели безусловного основного дохода, также будет иметь смысл, если искусственный интеллект будет меньше зависеть от больших объемов данных.
Даже если появится всеобщее соглашение о том, что искусственный интеллект «выполняет всю работу» в будущем, алгоритмам искусственного интеллекта все так же придется собирать данные людей, чтобы этим людям служить, если человечество окончательно не станет скучным и предсказуемым или не примет решение о массовом самоубийстве. Так что если вы один из тех умников, которые ждут, что компьютер напишет для них идеальную книжку и ему при этом не придется смешивать слова, написанные людьми; даже в этом случае вам могут заплатить за полученные от вас данные. Которые оптимизируют процесс создания для вас текста алгоритмом, и в этом взаимодействии будет распределение власти и благосостояния в обществе, по крайней мере оно станет небольшим фонтанчиком достоинства.
Знаю, знаю, контраргумент, самый популярный контраргумент будет о том, что компьютеры уничтожат людей. Когда я слышу это возражение, я мысленно возвращаюсь обратно в «Хунань», где я просил своих друзей хорошо подумать о морской свинке, управляющей огнеметом. Можно считать, что интернет уже ожил. Вы можете считать, что избрание «не того» президента США – это метод, используя который интернет начал избавляться от людей. Не существует сверхъестественной онтологической полицейской власти, которая сойдет с небес, чтобы вас отругать. Но считать людей способными нести ответственность – одна из доступных интерпретаций, дающих нам возможность брать на себя ответственность.
