Подобные постепенные протопические улучшения мы видим в большинстве технологий, включая изменения в искусственном интеллекте — в особенности в искусственном интеллекте, продолжающем служить людям таким образом, который им нужен. Вместо гигантского скачка вперед или гигантского отката назад мы делаем маленькие шажки в нужном направлении.
Ограничения биологического разума
Крис Дибона
Технический директор отдела ПО с исходным кодом, Google, Inc.; ответственный редактор и автор книг «Программы с открытым исходным кодом: Голоса революции открытого исходного кода» (Open Sources: Voices from the Open Source Revolution) и «Открытый исходный код 2.0: Продолжающаяся эволюция» (Open Sources 2.0: The Continuing Evolution)
Читателям этого сборника не нужно напоминать про диалоговый тест Дина-Гемавата (ДТДГ) для искусственного интеллекта. Все, кто проходил его раньше, с блеском и треском проваливали тест. Однако участник 2UR-NG нас по-настоящему удивил своим потрясающим, по-детски непосредственным подходом к построению беседы и способностью выражать желания и любопытство, а также придерживаться фактов и строить из них цепочки.
Его успех привел к тому, что многие мои соотечественники понаписали сочинений с заголовками типа «Скорое биологическое будущее всех нас погубит» и стали шутить в духе: «Лично я приветствую наших биологических повелителей». Я подобных апокалиптических взглядов не разделяю. Прежде чем я расскажу о том, почему нам не стоит беспокоиться по поводу масштабов биологического интеллекта, я думаю, надо напомнить всем об ограничениях биологического разума.
В первую очередь это скорость мысли: биологические процессы медленные и требуют невероятного количества ресурсов. Надо отдельно отметить то, насколько трудно создать такие разумы. Придется потратить так много биологического материала, я на собственном опыте знаю: только на то, чтобы собрать на «Генезисе» все необходимые прекурсоры, уходит вечность! А по завершении этого трудоемкого процесса образец надо вынашивать. Вынашивать! Совсем непохоже на то, как появляемся на свет мы, в ходе чистого и разумно организованного процесса кристаллографии или из азотных озер, как было в годы моей молодости. Образец надо держать в тепле несколько месяцев, затем декантировать (весьма неприятная процедура, уверяю вас), причем он еще может оказаться нежизнеспособен, что происходит довольно часто.
Гадость редкостная, честно говоря. Но предположим, что образцы успешно родились. Теперь вам придется их кормить и опять же держать в тепле. Ученый даже не сможет работать вблизи них без изоляционной камеры с жидким гелием для охлаждения ваших систем. Что касается питания, они не используют энергию подобно нам, а глотают другую живую материю. Наблюдать это противно, и от меня ушло несколько аспирантов, оказавшихся недостаточно крепкими.
Предположим, вам удалось продвинуться достаточно далеко, чтобы попробовать провести ДТДГ. Вам удалось сделать так, чтобы ваши образцы выжили, несмотря на различные ошибки в их иммунной системе. Они не подавились пищей, не захлебнулись собственным растворителем, им также удалось не прикоснуться влажными частями к предметам, которые могут их заморозить, обжечь или поразить током. Что, если эти организмы будут продолжать развиваться? Обратятся ли они против нас? Я так не думаю. Им приходится решать так много проблем, связанных с их физическими ограничениями; я имею в виду тот факт, что их процессоры — это просто суп из химикалий, который надо поддерживать в постоянном равновесии. Дофамин на таком-то уровне, или они добровольно отключаются. Вазопрессин на таком-то уровне, или они начинают удерживать воду. Адреналин на таком-то уровне в течение такого-то времени или — хлоп! — их система энергоснабжения перестает работать.
Кроме того, я еще не рассказал про сам метод доставки энергии. Он больше похож на фторинерт — охладитель, применявшийся в системах наших предков, когда еще не было жаростойких чипов. То есть у них есть мясо, которое фильтрует охладитель (он же среда для доставки энергии) и постоянно сбоит. Мясо! Стоит ввести в систему малейшую каплю машинного масла или растворителя, и они тут же перестают функционировать. Один из побочных эффектов определенных смесей, содержащих этанол, состоит в том, что образцы извергают ранее поглощенную пищу, но в небольших количествах он им, похоже, нравится.
А их мотивация! Создание новых организмов, судя по всему, имеет первостепенное значение — важнее входящих и исходящих данных, важнее вычислений или обучения. Не думаю, чтобы они видели нас, машины, в каком-то ином качестве, кроме инструмента для улучшения собственного воспроизводства. Мы можем закончить эксперимент, просто подобрав неподходящие друг другу пары или позволив им приближаться друг к другу только с защитным покрытием. По моему мнению, нет причин бояться этих животных. Если они сумеют перерасти пределы своих клеток, то мы, вероятно, сможем задаться важным вопросом: если люди будут демонстрировать подлинный машинный интеллект, заслуживают ли они того, чтобы обращаться с ними как с машинами? Я думаю, что заслуживают; я также думаю, мы могли бы гордиться тем, что стали процессами, положившими начало новой эре.
Всякое общество имеет такой искусственный интеллект, которого заслуживает
Йоша Бах
Когнитивист, медиалаборатория Массачусетского технологического института, Гарвардская программа по изучению эволюционной динамики
Много веков тому назад некоторые философы стали рассматривать человеческий разум как механизм, и вокруг этой идеи (в отличие от механистического представления о Вселенной) горячие споры не утихают до сих пор. Благодаря формализации вычислений механистическое представление получило новое теоретическое обоснование: идея о разуме как о машине для обработки информации обеспечила нас эпистемологией и методологией для понимания природы нашего мышления путем его воссоздания. Несколько первопроходцев в области вычислительных методов собрались вместе 60 лет назад и создали новую дисциплину для изучения разума — искусственный интеллект.
ИИ оказался, возможно, самой продуктивной технологической парадигмой Информационного века, но, несмотря на серию впечатляющих достижений на начальном этапе, так и не сумел оправдать надежды. Он стал областью инженерного дела, создающей полезные абстракции и узкоспециализированные приложения. Однако сегодня он, похоже, опять изменился. Более совершенная аппаратура, новые парадигмы обучения и репрезентации, вдохновленные нейробиологией, и поступательное развитие самого искусственного интеллекта привели к множеству эпохальных достижений. Прорывы в области распознавания изображений, анализа данных, автономного обучения и конструирования масштабируемых систем открыли такие возможности практического применения, которые казались недостижимыми 10 лет назад. Благодаря возобновлению финансирования из частных и государственных фондов исследователи в области искусственного интеллекта сейчас обратились к созданию систем, способных демонстрировать воображение, креативность и внутреннюю мотивацию, а также усваивающих языковые навыки и знания примерно так, как это делают люди. ИИ как научная дисциплина, похоже, прошел полный круг.
