Онлайн книга
Что случится, если машины превзойдут людей в интеллекте? Они будут помогать нам или уничтожат человеческую расу? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности?В своей книге Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума, и проанализировать его ответную реакцию.
Оглавление книги
- Предисловие партнера
- Неоконченная история о воробьях
- Введение
- Глава первая Прошлые достижения и сегодняшние возможности
- Модели роста и история человечества
- Завышенные ожидания
- Путь надежды и отчаяния
- Последние достижения
- Будущее искусственного интеллекта — мнение специалистов
- Глава вторая Путь к сверхразуму
- Искусственный интеллект
- Полная эмуляция головного мозга человека
- Усовершенствование когнитивных способностей человека
- Нейрокомпьютерный интерфейс
- Сети и организации
- Резюме
- Глава третья Типы сверхразума
- Скоростной сверхразум
- Коллективный сверхразум
- Качественный сверхразум
- Прямая и опосредованная досягаемость
- Источники преимущества цифрового интеллекта
- Глава четвертая Динамика взрывного развития интеллекта
- Время и скорость взлета
- Сопротивляемость
- Пути, не подразумевающие создания машинного интеллекта
- Пути создания имитационной модели мозга и искусственного интеллекта
- Сила оптимизации и взрывное развитие интеллекта
- Глава пятая Решающее стратегическое преимущество
- Получит ли лидирующий проект абсолютное преимущество?
- Насколько крупным будет самый перспективный проект?
- Система контроля
- Международное сотрудничество
- От решающего преимущества — к синглтону
- Глава шестая Разумная сила, не имеющая себе равной
- Функциональные возможности и непреодолимая мощь
- Сценарий захвата власти сверхразумом
- 1. Фаза приближения к критическому моменту
- 2. Рекурсивная фаза самосовершенствования
- 3. Фаза скрытой подготовки
- 4. Фаза открытой реализации
- Власть над природой и другими действующими силами
- Глава седьмая Намерения сверхразума
- Связь между интеллектом и мотивацией
- Инструментальная конвергенция
- Самосохранение
- Непрерывная последовательность целей
- Усиление когнитивных способностей
- Технологическое совершенство
- Получение ресурсов
- Глава восьмая Катастрофа неизбежна?
- Экзистенциальная катастрофа как неизбежное следствие взрывного развития искусственного интеллекта?
- Вероломный ход
- Пагубные отказы
- Порочная реализация
- Инфраструктурная избыточность
- Преступная безнравственность
- Глава девятая Проблемы контроля
- Две агентские проблемы
- Методы контроля над возможностями
- Изоляционные методы
- Стимулирующие методы
- Методы задержки развития
- Методы «растяжек»
- Методы выбора мотивации
- Метод точной спецификации
- Метод приручения
- Метод косвенной нормативности
- Метод приумножения
- Резюме
- Глава десятая Оракулы, джинны, монархи и инструменты
- Оракулы
- Джинны и монархи
- ИИ-инструменты
- Сравнительная характеристика
- Глава одиннадцатая Сценарии многополярного мира
- О лошадях и людях
- Заработная плата и безработица
- Капитал и социальное обеспечение
- Мальтузианские условия в исторической перспективе
- Рост населения и инвестиции
- Жизнь в цифровом мире
- Добровольное рабство, случайная смерть
- В высшей степени тяжелый труд как высшая степень счастья
- Аутсорсеры, лишенные сознания?
- Эволюция — путь наверх или не обязательно?
- А потом появится синглтон?
- Второй переход
- Суперорганизмы и эффект масштаба
- Объединение на договорных началах
- Глава двенадцатая Выработка ценностей
- Проблема загрузки системы ценностей
- Естественный отбор
- Обучение с подкреплением
- Ассоциативная модель ценностного приращения
- Строительные леса для мотивационной системы
- Обучение ценностям
- Вариации имитационной модели
- Институциональное конструирование
- Резюме
- Глава тринадцатая Выбор критериев выбора
- Необходимость в косвенной нормативности
- Когерентное экстраполированное волеизъявление
- Некоторые комментарии
- «…Чтобы наши мысли сближали нас, а не разделяли…»
- «…Чтобы наши желания совпадали, а не пересекались…»
- «Экстраполировать так, как нам хотелось бы экстраполировать; понимать так, как нам хотелось бы понимать…»
- Целесообразность КЭВ
- «Воплощать совершенствование этических норм»
- «Избегать взлома судьбы человечества»
- «Избегать создания мотивов для борьбы за исходные параметры системы»
- «Ответственность за судьбу человечества должна лежать на нем самом»
- Дополнительные замечания
- Модели, основанные на этических принципах
- Делай то, что я имею в виду
- Перечень компонентов
- Описание цели
- Принятие решений
- Эпистемология, или Познание мира
- Ратификация, или Подтверждение
- Выбор правильного пути
- Глава четырнадцатая Стратегический ландшафт
- Стратегия научно-технологического развития
- Различные темпы технологического развития
- Предпочтительный порядок появления
- Скорость изменений и когнитивное совершенствование
- Технологические связки
- Аргументация от противного
- Пути и возможности
- Последствия прогресса в области аппаратного обеспечения
- Следует ли стимулировать исследования в области полной эмуляции головного мозга?
- С субъективной точки зрения — лучше быстрее
- Сотрудничество
- Гонка и связанные с ней опасности
- О пользе сотрудничества
- Совместная работа
- Глава пятнадцатая Цейтнот
- Крайний срок философии
- Что нужно делать?
- В поисках стратегии
- В поисках возможностей
- Конкретные показатели
- Все лучшее в человеческой природе — шаг вперед!
- Библиография
- Список сокращений
- Благодарности
- Об авторе
- Максимально полезные книги от издательства «Манн, Иванов и Фербер»