Однако печальный побочный эффект богатства состоит в том, что его внимание сосредоточено лишь на том, чем заняты крупные компании, другие идеи не замечаются. Огромное количество идеалистичных начинаний в области информатики не получает той огласки в мире, которой они заслуживают. Каждый из них – это вариант альтернативной реальности, в которой мы могли бы жить или будем жить однажды.
Множество пещер, множество теней, но лишь ваши глаза
Опыт простых фенотропных экспериментов изменил мои философские взгляды. С одной стороны, я осознал, насколько неправильно воспринимать программы как нечто реальное. Биты реальны, поскольку их можно измерить в процессорах или передать, люди тоже реальны, но биты имеют значение только благодаря людям.
Я говорил: «Информация – это отчужденный опыт». Это значит, что биты, когда они помещены в компьютер или извлечены из него, обладают значением, основанным на человеческом опыте, но вне человеческой культуры и интерпретации внутри нее они бессмысленны.
Иными словами, для инопланетянина нет разницы между смартфоном и светильником с гелевым наполнителем. Оба нагреваются, как только какие-то его части достигают определенного предела.
Подтверждение этой точки зрения я нашел в парадоксе Ферми. Насколько возможно, что мы не увидим доказательств инопланетной жизни во Вселенной, если просмотрим все ночное небо? Наверно, потому что жизнь сложно распознать, если ваша культура различна. Там, где мы увидим шум, инопланетяне увидят литературу
[161].
С осознанием того, что биты изначально не обладают значением, становится легче усовершенствовать компьютеры, поскольку тогда единственный оставшийся критерий – это их пригодность для использования людьми.
Такой образ мыслей повышает статус людей. В нас должно быть что-то особенное. На мой взгляд, это совершенно нормально.
Приложение 3
Битва с небожителями
Олдос Хаксли в романе «О дивный новый мир» («Brave New World») предсказывал появление темной стороны виртуальной реальности, вымышленную медиатехнологию под названием «Чувственники». Я не стал обсуждать точку зрения Хаксли, поскольку невозможно рассмотреть все в одной книге. В этом случае мне особенно жаль, потому что Эллери жил вместе с Хаксли на юге Калифорнии, а также Хаксли знаменит тем, что имеет отношение к культуре психоделических наркотиков. И когда я думал, что эта книга окончена, Дональд Трамп был избран на пост президента. Я решил, что вынужден написать этот текст, который перекликается с Хаксли, но вдаваясь в детали с учетом эпохи. Не имею ни малейшего представления, как он будет выглядеть, когда книга выйдет в печать, но включу его, чтобы зафиксировать момент.
Не искусственная, а воображаемая
Помните, в главе «Как мы заложили основу на будущее» я писал, что даже несмотря на то, что роботы и алгоритмы в один прекрасный день будут выполнять всю нашу работу, они все равно ничего не будут делать? A вся информация, которую содержит робот или алгоритм, в конечном итоге поступает от людей. Вся ценность. От вас постоянно уходят данные, и эти данные будут использованы для работы множества схем машинного обучения, которые оставят вас без работы.
Самый простой для объяснения пример относится к машинному переводу, так что я постоянно его использую. Интернет сильно уменьшил доходы профессиональных переводчиков, равно как и записывающихся музыкантов, журналистов, ведущих расследования, и фотографов.
Но если внимательно рассмотреть механизм работы машинного перевода, вы поймете, что алгоритмам приходится каждый день миллионами собирать переводы, сделанные в реальной жизни живыми людьми, которые и служат потом в качестве примеров. (Общественные мероприятия происходят каждый день, поп-культура движется дальше, а вместе с ней и язык.) Алгоритмы только кажутся самодостаточными, но на самом деле они занимаются лишь изменением подачи информации, исходящей от людей, которые не видны. Стоит заглянуть за фасад искусственного интеллекта, и мы увидим миллионы людей, которых просто используют.
Я не утверждаю, что искусственный интеллект – источник зла! Я говорю лишь о том, что искусственный интеллект не конкретен. Бояться искусственного интеллекта – лишь еще один способ умножать вред, который делается во имя его. Страх перед самими алгоритмами, которыми хотят пользоваться люди, – например, беспокойство о том, что алгоритмы неизбежно послужат причиной безработицы или кризиса значимости, – настолько же продиктован фантазией, сколько и попытки считать алгоритмы живыми и представляющими ценность сами по себе без данных, украденных у людей. Единственный способ уменьшить этот вред – перестать верить в искусственный интеллект как в новую разновидность живого существа, а вместо этого оценивать алгоритмы и инструменты, которые используют люди.
Сервисы машинного перевода полезны. Бояться их и запрещать абсолютно нецелесообразно. Идеальным, этичным, а главное, обоснованным вариантом будет отдать должное и заплатить людям, предоставляющим данные (в этом случае фразы для перевода), благодаря которым алгоритмы могут работать.
В 1980-е многим моим друзьям нравилась идея будущего в мнимой экономической бесполезности; тогда все были вынуждены придерживаться либо чистого социализма, либо иных утопических сценариев. Уже в настоящем времени этот образ мыслей возродился в обсуждениях модели безусловного основного дохода (БОД), согласно которой всем бесполезным людям будут выплачивать некое пособие, а роботы будут выполнять всю работу.
(Уже в последние годы, в период расцвета «правой альтернативы», я наблюдаю за тем, как подобная же стратегия высказывается в некоторых более радикальных хакерских кругах, но на этот раз людям предлагают принять некую разновидность расистского абсолютизма. Согласно этой идеологии, когда роботы оставят людей без работы, обычным людям не останется ничего другого.)
Я считаю модель безусловного основного дохода ловушкой. Если ценность будет выборочно игнорироваться, люди почувствуют себя бесполезными и абсурдными, экономика станет деструктивной, и эрацаз-система социальной защиты, которой смогут манипулировать мошенники, перестанет быть таковой. Во главе этой схемы должен будет встать централизованный политический орган, обладающий сверхвластью; это явное приглашение к коррупции.
Я уже писал на эти темы в книге «Кто владеет будущим?» («Who Owns the Future?»). Вот краткое изложение моих аргументов: алгоритмы искусственного интеллекта зависят в разной степени от часто пополняемых больших массивов данных, но в целом проект искусственного интеллекта зависим от незаметного и неразрешенного доступа к массовым данным о людях, и еще чаще – неоплачиваемого. В книге «Кто владеет будущим?» предполагается, что внедрение скрытой ценности данных о людях в формальную экономику через наноплатежи – вместо нынешней интернет-экономики, основанной на бартерном обмене или вовсе хищении
[162], – сможет послужить альтернативой модели безусловного основного дохода. Мотивация не исчерпывается лишь вопросами о том, что БОД рискует выродиться в командную экономику. Универсальная экономика данных послужит альтернативой БОД, которая будет не только устойчива к нестабильной концентрации политической власти, но также и укрепит позиции индивидуального творческого подхода и человеческого достоинства.
