Третий сценарий можно было бы назвать «универсальный помощник», и в некотором отношении это самый оптимистичный сценарий. Он придет немного позже, через несколько лет, возможно, пять или десять. По своим применениям он универсален. Он может быть создан «сверху вниз» и «снизу вверх». Его применение может быть разнообразным, но главное в том, что он дает каждому человеческому существу персонального ассистента, способного выполнять многие из наших задач в фоновом режиме. Люди, которые больше всего пострадают от персонального помощника, – это представители интеллигенции – бухгалтеры, юристы и подобные им. В ближайшие 10–15 лет мы практически точно будем иметь искусственный интеллект, способный решать такие задачи.
Затем, конечно, нужно сказать о сценарии сингулярности – намного позже может появиться супер-ИИ, но я думаю это крайне маловероятно и может случиться намного позже конца текущего века, если вообще когда-нибудь произойдет. А может, и никогда. Итак, возможные сценарии таковы – колосс, малый ИИ, универсальный помощник, сингулярность – этот разброс показывает неопределенности, которые мы имеем сегодня. Мы не знаем, что именно случится, так что же все эти рассуждения дают нам?
Во-первых, я думаю, что волна упомянутых мной малых ИИ не будет шагом к ОИИ. Риски занятости более реальны в краткосрочном периоде, но и они, на самом деле, плод воображения. Основное препятствие для прихода искусственного интеллекта – это недостаток воображения. В том смысле, что эта технология будет постоянно создавать новые категории рабочих мест и целые новые отрасли. В этом отношении история поддерживает оптимистов. Многие из нас делают то, чего раньше никто не делал. И это будет продолжаться. Так что в отношении ближайшего будущего я вполне оптимистичен.
Во-вторых, если и есть угроза, что ИИ перехватит власть, мы предупреждены о ней заранее – за много, много лет. У нас достаточно времени. К тому же понять, как работает мозг, перенести это в программный код и реализовать на каком-либо устройстве – настолько сложно, что это займет еще много десятилетий.
Самый большой риск – случайное формирование ИИ, которого мы не ожидаем. Но более реально, что еще один цикл внимания к ИИ прокрутится вхолостую. Эта третья волна интереса к ИИ с 1950-х и есть большой риск, что в этот раз мы не добьемся никаких существенных результатов и снова утратим общественное внимание. А когда-нибудь потом получим сюрприз.
Я не думаю, что риски, связанные с разумным ОИИ, достаточно высоки, чтобы сворачивать с этого пути. Но нужно, чтобы вся информация об этом была открыта и общедоступна, чтобы все могли участвовать. Еще надо сказать, что недавние статьи в New Scientist и The Economist об искусственном интеллекте обращали внимание на проблему гендера. Почти все исследователи искусственного интеллекта – мужчины, и в результате процесс исследований будет искажен в сторону мужского типа мышления. То есть, помимо прочего, нам нужно, что в этой области работало больше женщин.
Подводя итоги, я думаю, что мы находимся на стадии малого ИИ, вероятно, на пути к ОИИ, а может быть даже к супер-ИИ. Но тревожные сценарии пока относятся к настолько отдаленному будущему, что верным подходом на сегодня скорее будет бдительность, чем сдерживание. При этом нужно обращать внимание на то, как все более разумная окружающая среда уже сейчас преобразует жизнь людей.
Так что в кратко– и среднесрочной перспективе я умеренно оптимистичен, ведь инновации позволят повысить производительность труда и заняться массой новых задач. В отношении далеких перспектив я тоже свободен от предубеждений, так как вижу, что ОИИ и то, что находится за ним – очень сложная задача. Все правдоподобные пути к нему, как через понимание человеческого мозга, так и через формирующееся снизу вверх сообщество разумных устройств, занимают долгое время. Поэтому, если честно, я не слишком обеспокоен и испытываю осторожный оптимизм. Спасибо за внимание!
Евгений Касперский
Средневековье кибербезопасности
Евгений Касперский – всемирно известный специалист по кибербезопасности и успешный предприниматель. Касперский – председатель и генеральный директор «Лаборатории Касперского», крупнейшей в мире частной компании-продавца систем защиты конечных точек и решений в области кибербезопасности. Евгений начал свою карьеру в кибербезопасности благодаря случаю: в 1989 году его компьютер оказался заражен вирусом «Каскад». Специализированное образование Касперского в области криптографии помогло ему проанализировать зашифрованный вирус и понять его поведение, а потом разработать средство для его удаления. В 1990 году Евгений начал собирать команду исследователей-энтузиастов с похожими интересами, чтобы создать антивирусную программу AVP Toolkit Pro. Четыре года спустя университет Гамбурга признал ее наиболее эффективной антивирусной программой в мире. В 1997 году была основана «Лаборатория Касперского», где Евгений возглавил программу антивирусных исследований. Касперский имеет почетную степень доктора Университета Плимута, а в 2012 году он был назван журналом Foreign Policy одним из «главных мировых мыслителей».
Когда были созданы первые компьютерные вирусы, их воспринимали с восторгом. Они казались искусственной жизнью, самокопирующимся компьютерным кодом, способным перепрыгивать с одного компьютера на другой. Они казались почти биологическими и как будто были совершенно новым видом. Новой формой жизни. Но теперь это уже так не выглядит. Компьютерные вирусы принесли нам киберпреступность и кое-что похуже. Об этом я и буду говорить сегодня. Но позвольте начать с некоторых цифр.
Компьютерные вирусы и вредоносные программы: в каких единицах нам их посчитать? В тысячах? В сотнях тысяч? Нет, в миллионах. И, к сожалению, ситуация только ухудшается.
Итак, самый первый вирус для IBM PC. (Помните IBM PC? Сколько из вас не знают, что такое дискета?) Самый первый вирус для IBM PC был обнаружен в 1986 году. 20 лет спустя количество обнаруженных вирусов дошло до миллиона – миллиона вредоносных программ. Однако теперь мы каждую неделю обнаруживаем свыше двух миллионов новых. Каждый день мы находим более 300 000 вредоносных программ – в Интернете, на зараженных компьютерах… где угодно. Вчера – порядка 300 000. Сегодня – порядка 300 000. Завтра – еще 300 000. На выходных, может быть, поменьше. И на Рождество поменьше. На Китайский Новый год – тоже поменьше. Карнавал в Бразилии или большой футбольный матч в Европе – поменьше. Но счет все равно на миллионы.
Хорошо, а что можно сказать о количестве пользователей, пострадавших от вредоносных программ? Сколько человек в этой аудитории все еще не пользуются компьютерами или смартфонами? Немногие, я думаю. Число пользователей компьютеров и смартфонов стабильно растет уже пару десятков лет. И число атак на пользователей тоже. Вот наши данные о проценте наших клиентов, которые были защищены от атак. То есть клиентов, которые были бы заражены, если бы не наша защита. Они соединены с нашим облачным сервисом, так что мы знаем, когда программа обнаруживает вирус – вредоносную программу. Три года назад их было 56 %: 56 % наших пользователей. Два года назад: 57 %. В прошлом году: 62 %. Таким образом, число атак возрастает и возрастает.
