Когда у NASA набирается достаточное количество похожих ошибок, оно анализирует их и предоставляет отчеты и рекомендации авиакомпаниям и Федеральному управлению гражданской авиации. Такие отчеты также дают пилотам понять, что их отчеты об ошибках помогли повысить безопасность полетов, как и чек-листы. Нам нужны похожие системы в области медицины, но их не так просто установить. NASA — нейтральная организация, которая отвечает за безопасность полетов, но при этом не является надзорным органом, поэтому пилоты ему доверяют. В медицине нет похожего института: врачи боятся докладывать о своих ошибках, потому что могут лишиться лицензии или на них могут подать иск. Но мы не можем избежать ошибок, если не знаем, что это ошибки. В области медицины заметен определенный прогресс, но это сложная техническая, политическая, законодательная и социальная проблема.
Обнаружение ошибки
Ошибки могут и не привести к каким-то страшным последствиям, если они быстро обнаруживаются. Некоторые категории ошибок обнаружить проще, некоторые — сложнее. В общем, промахи в действиях заметить довольно просто, а ошибки — гораздо труднее. Промахи в действиях довольно просто заметить, потому что обычно легко заметить несоответствие между действием, которое вы собирались выполнить, и тем, которое получилось. Но заметить это можно, только если есть фидбэк. Если вы не видите результата действия, как вы заметите ошибку?
Промахи, вызванные сбоями памяти, заметить особенно трудно, потому что вы не можете увидеть их глазами. Если вас подводит память, то нужное действие просто не происходит. А когда никакого действия не происходит, то и заметить ничего нельзя. Только если не выполненное вовремя действие приводит к нежелательным последствиям, появляется надежда заметить промах, вызванный сбоем памяти.
Ошибки сложно заметить, потому что редко есть что-то такое, что может свидетельствовать о неправильно выбранной цели. А если вы поставили неправильную цель или составили неверный план, те действия, которые вы произведете дальше, будут соответствовать этой неверной цели. Поэтому, даже если вы внимательно следите за действиями, вы не сможете заметить неправильную цель: поскольку действия выполнены верно, вы можете ощутить уверенность в принятом решении.
Также бывает удивительно сложно заметить, что вы неверно поняли ситуацию. Может показаться, что если понимание ситуации неверное, то действия могут быть неэффективными, так что проблему найдут быстро. Но неверное понимание ситуации не случайно. Обычно оно базируется на знаниях и логике. Неверный диагноз обычно разумен и уместен для устранения симптомов, которые мы наблюдаем. В итоге будет казаться, что первые действия верны и помогают справиться с ситуацией. И это еще больше затрудняет поиск ошибки. Настоящая ошибка может оставаться необнаруженной много часов или дней.
Ошибки, вызванные сбоями памяти, особенно сложно заметить. Точно так же как вызванные забывчивостью промахи, отсутствие чего-то, что должно было быть сделано, всегда сложнее заметить, чем присутствие чего-то, что делать не стоило. Разница между промахами и ошибками, вызванными забывчивостью, заключается в том, что в первом случае не выполняется один компонент плана, а во втором человек забывает весь план. Что проще обнаружить? Здесь я вынужден прибегнуть к тому стандартному ответу, который наука дает на вопросы такого рода: «Все зависит от обстоятельств».
Оправдываем ошибки
Чтобы найти ошибку, может потребоваться много времени. Вы слышите звук, похожий на звук выстрела, и думаете: «Наверное, это выхлопная труба автомобиля». Вы слышите, что на улице кто-то кричит, и думаете: «И почему соседи не могут вести себя потише?»
Правильно ли мы поступаем, игнорируя эти события? В большинстве случаев — да, однако, если мы напрасно их игнорируем, наши объяснения этим звукам трудно будет оправдать.
Поиск оправдания для ошибок — общая проблема несчастных случаев на производстве. Большинству крупных аварий предшествуют предупреждающие знаки: неполадки в работе оборудования или необычные события. Часто происходит череда на первый взгляд не связанных друг с другом поломок и ошибок, которые приводят к катастрофе. Почему никто ничего не замечает? Потому что ни один из этих моментов не казался серьезным. Нередко люди, вовлеченные в деятельность, замечали все эти проблемы, но не придавали им значения, находя логичное объяснение для подобных отклонений.
Неверный поворот на шоссе
Мне доводилось неправильно считывать знаки на шоссе, и я уверен, что многим другим водителям тоже. Мы с семьей ехали из Сан-Диего в Маммот-Лейкс в Калифорнии (это горнолыжный курорт примерно в 400 милях севернее). Мы ехали все дальше и все чаще замечали знаки, на которых были обозначены отели и казино Лас-Вегаса, расположенного в Неваде. «Странно», — подумали мы.
Объявления о приближении Лас-Вегаса всегда вешают очень заранее (один такой билборд с рекламой есть даже в Сан-Диего), но объявления о Лас-Вегасе на дороге в Маммот — это, пожалуй, слишком. Мы остановились на заправке, а потом продолжили движение. Лишь некоторое время спустя, ища, где бы поужинать, мы обнаружили, что пропустили нужный поворот больше двух часов назад, еще до того, как остановились, чтобы заправиться, и что мы на самом деле едем в Лас-Вегас, а не в Маммот. Нам пришлось возвращаться назад к тому месту, где мы свернули не туда, в итоге мы потратили дополнительные четыре часа на дорогу. Сейчас это кажется смешным, но тогда так не казалось.
Если люди находят объяснение явной аномалии, им кажется, что они могут не считаться с ней. Но объяснения мы придумываем по аналогии с нашим прошлым опытом, и этот опыт может не соответствовать нынешней ситуации. В истории с неверным поворотом большое количество указателей на Лас-Вегас было сигналом, на который нам стоило обратить внимание, но мы нашли этому простое объяснение. Наш случай можно назвать типичным: многие крупные промышленные аварии происходили из-за неправильных объяснений аномальных событий. Но заметьте: обычно эти явные аномалии нужно игнорировать. Большую часть времени мы правильно объясняем себе их наличие.
Отличить настоящую аномалию от мнимой очень сложно.
В ретроспективе все кажется логичным
Контраст между нашим пониманием ситуации до того, как что-то происходит, и после инцидента может быть разительным. Психолог Барух Фишхофф изучал объяснения, которые люди давали в ретроспективе: события кажутся совершенно понятными и предсказуемыми после того, как они произойдут, но совершенно непредсказуемы до того, как случатся
[44].
Фишхофф раздал участникам эксперимента описания ситуаций и попросил сказать, что случится. Если люди не знали, какие результаты последовали за описанными событиями, угадать итог могли лишь немногие. Потом он рассказал о тех же ситуациях и о последствиях, к которым они привели, другой группе людей, и попросил их сказать, насколько вероятно было, что дело закончится именно так. Когда люди заранее знали, чем все закончится, исход казался правдоподобным и весьма вероятным, а остальные варианты — маловероятными.
