Показательный пример — проблема, возникшая на самолете компании Airbus. Оборудование по управлению полетом (которое часто называют автопилотом) имеет два режима: один для контроля вертикальной скорости, другой для контроля угла траектории полета при снижении. Однажды, когда пилоты пытались приземлиться, они посчитали, что контролируют угол снижения, но на самом деле нечаянно включили режим управления скоростью снижения. В систему ввели данные (–3,3), это должно было обозначать нужный угол (–3,3°), но из-за ошибки это оказалось слишком большим значением скорости для снижения (–3300 футов в минуту вместо угла –3,3°, который значил –800 футов в минуту). Эта путаница режимов внесла свою лепту в страшную катастрофу, которая в результате произошла. После детального изучения инцидента компания Airbus сменила дисплей на дополнительное устройство, на котором вертикальная скорость всегда отображается в виде четырехзначного числа, а угол — в виде двузначного, что помогает избежать путаницы.
Ошибка режима — это настоящая ошибка дизайна. Ошибки режима особенно вероятны, когда на оборудовании не видно, какой режим установлен, и предполагается, что пользователь должен это помнить. При этом с момента выставления режима иногда может пройти много часов и случиться много отвлекающих событий. Дизайнерам лучше избегать режимов, но, если режимы все же необходимы, оборудование нужно проектировать так, чтобы было ясно, какой режим включен. Повторюсь: дизайнеры всегда должны стараться компенсировать действие мешающих факторов.
Классификация ошибок
Ошибки вызывает выбор неверных целей (составление неверных планов) или неправильное сопоставление результата и целей в процессе оценки. Совершая ошибку, человек принимает неверное решение, не так понимает ситуацию или не может принять в расчет все значимые факторы. Многие ошибки вызваны причудами человеческой мысли; часто это связано с тем, что люди обычно больше полагаются на прошлый опыт, который они помнят, чем на более систематический анализ. Мы принимаем решения, основываясь на том, что мы помним. Но, как уже говорилось в главе 3, извлечение сведений из долговременной памяти на самом деле является реконструкцией, а не точной записью. В результате эта информация подвергается многочисленным искажениям. Кроме того, вспоминая что-то, мы чрезмерно обобщаем обыденное и слишком сильно выделяем единичные случаи.
Датский инженер Йенс Расмуссен выделил три модели поведения: основанное на навыках, основанное на правилах и основанное на знаниях. Эта трехчастная классификация представляет собой очень полезный практический инструмент, который широко используется в определенных областях, например в дизайне многих промышленных систем.
Поведение, основанное на навыках, можно наблюдать у абсолютных экспертов в своей области — они могут выполнять свои повседневные обязанности, вообще не обдумывая их и не концентрируясь на них. Из ошибок при поведении такого типа чаще всего имеют место разного рода промахи.
Поведение, основанное на правилах, мы наблюдаем, когда обычное поведение отныне неприменимо, но новая ситуация знакома человеку, и для нее уже есть хорошо описанный алгоритм действий — правило. Правила могут быть выученным поведением, которое основывается на прошлом опыте, но оно включает формальные процедуры, описанные в лекциях и мануалах. Обычно правила записаны в форме утверждений «если — то», например: «если двигатель не завелся, то сделайте [то-то]». Сбои, которые происходят в результате поведения, основанного на правилах, могут быть и промахами, и ошибками. Если выбрано не то правило, это может быть ошибка. Если сбой происходит на этапе применения правила, скорее всего, это промах.
Когда происходит совершенно новое для нас событие, когда неприменимы ни существующие навыки, ни известные правила, мы начинаем действовать исходя из наших знаний. Такие случаи требуют от нас размышления и поиска решения проблем. Планы можно разрабатывать, проверять, а потом использовать и совершенствовать. На этом этапе жизненно важны концептуальные модели, которые помогут разработать план и разобраться в ситуации.
И в тех случаях, когда мы действуем исходя из правил, и тогда, когда мы руководствуемся знаниями, самые серьезные ошибки случаются, когда мы неверно понимаем ситуацию. В итоге мы руководствуемся неподходящим правилом или (в случае проблем, которые основаны на знаниях) усилия направляются на решение не той проблемы. К тому же если мы неверно понимаем проблему, то мы неправильно понимаем и ситуацию, а также не можем правильно сравнить имеющееся положение дел с нашими ожиданиями. Такие ошибки очень сложно обнаружить и исправить.
Ошибки на основе правил
Иногда нам нужно задействовать новые процедуры или перед нами встают простые проблемы. В этих случаях действия обученных людей основаны на правилах. Некоторые правила сформулированы исходя из нашего опыта, некоторые — формальные алгоритмы из мануалов и сводов правил или менее официальных источников (например, кулинарных книг). В любом случае от нас всего лишь требуется понять, что за ситуация перед нами, выбрать подходящее правило и следовать ему.
Управляя автомобилем, вы ведете себя согласно определенным правилам. Красный свет? Если так, остановите машину. Хотите повернуть налево? Включите поворотники и поверните налево, как только будет можно: сбросьте скорость и дождитесь промежутка в потоке машин, одновременно следя за дорожными знаками и сигналами светофора.
Ошибки на основе правил происходят по-разному:
• Ситуацию неверно поняли, а значит, поставили неправильную цель или составили неправильный план и последовали не тому правилу.
• Применяется нужное правило, но само правило ошибочное либо потому, что оно было неверно сформулировано, либо потому, что условия на самом деле не такие, как предполагали создатели правила. Или же при определении нужного правила человеку не хватило знаний. Все это приводит к ошибкам на основе знаний.
• Выбрано подходящее правило, но результат оценен неверно. Этот сбой в оценке обычно сам вызван неверным пониманием правил или нехваткой знаний, он может привести к дальнейшим проблемам на других этапах цикла действия.
Пример 1
В 2013 году в ночном клубе «Kiss» в бразильском городе Санта-Мария пиротехника, которую использовала группа, стала причиной пожара, унесшего жизни более 230 человек
[38]. Эта трагедия иллюстрирует несколько ошибок. Группа совершила ошибку из-за недостатка знаний — они воспользовались факелами, предназначенными для улицы, и нечаянно подожгли плитки потолка. Группа считала, что факелы не опасны. Многие побежали в туалеты, ошибочно решив, что это выходы. Эти люди погибли. В первых отчетах сказано, что охрана, не зная, что в здании пожар, сначала мешала людям покинуть здание. Почему? Потому что посетители ночных клубов иногда убегают, не заплатив за напитки. Ошибка заключалась в том, что существовавшие правила не учитывали возможности несчастного случая. Анализ первопричин показал бы, что нужно было разработать такой способ пользования дверьми, чтобы не позволить людям убегать, не заплатив, но при этом сделать возможным выход в случае чрезвычайных ситуаций. Одно из возможных решений — двери, на которых включается сигнализация, когда люди пытаются улизнуть, но через которые при этом можно пройти при необходимости.
