Пример 2
Мы поворачиваем термостат духовки до максимальной отметки, чтобы она побыстрее разогрелась до нужной для готовки температуры. Эта ошибка происходит потому, что наша концептуальная модель того, как работает духовка, неверна. Если человек уйдет на какое-то значительное время и только потом вернется проверить температуру духовки (это будет сбой в работе памяти), то неправильно выставленная температура может привести к несчастному случаю, возможно, даже к пожару.
Пример 3
Водитель, непривычный к антиблокировочным тормозам, в дождливый день попадает в аварийную ситуацию. Чтобы избежать столкновения, он изо всех сил жмет на педаль тормоза, но машина скользит, а антиблокировочные тормоза быстро включаются и выключаются, то есть работают так, как и должны работать. Водитель ощущает вибрацию, думает, что тормоза не работают, и поэтому убирает ногу с педали тормоза. На самом деле вибрация — это сигнал, что антиблокировочные тормоза работают так, как надо. Неправильная оценка ситуации приводит к неправильному поведению.
Ошибок, которые происходят из-за правил, трудно избежать и их сложно заметить. Если человек понял, что перед ним за ситуация, он обычно сразу выбирает соответствующее правило. Но что если он неправильно понял ситуацию? Это трудно обнаружить, потому что обычно есть множество подтверждений неправильной трактовки ситуации и выбора неверного правила. В сложных ситуациях проблема состоит в том, что у нас слишком много информации. У нас есть и такая информация, которая подкрепляет наше решение, и такая, которая противоречит ему. Если у нас мало времени на принятие решения, то очень трудно понять, какую информацию учитывать, а какую нет. Люди обычно принимают решения, сравнивая нынешнюю ситуацию с предыдущими. Хотя человек достаточно хорошо сравнивает примеры из прошлого с текущей ситуацией, это все же не значит, что сравнение точное и верное. Такое сопоставление будет субъективно, потому что события могут быть поняты по-разному в зависимости от того, недавно они происходили или давно, регулярно или редко. Недавние события мы помним гораздо лучше, чем те, которые произошли раньше. Часто повторяющиеся события мы помним из-за того, что они повторяются, а уникальные — потому что они уникальны. Но предположим, что нынешняя ситуация отличается от всех предыдущих, — люди все равно будут пытаться найти какое-то совпадение в памяти, которое позволило бы им сориентироваться. Те же самые силы, которые помогают нам справляться с расхожими явлениями и с уникальными явлениями, при столкновении с совершенно новой ситуацией становятся причиной ошибок.
Что делать дизайнеру? Дать человеку как можно больше подсказок, чтобы убедиться, что текущая ситуация подана в адекватном и понятном формате, в идеале — представлена графически.
Это сложная задача. В большинстве случаев люди, принимающие решения, сталкиваются со сложными событиями реального мира, где проблема нередко заключается в переизбытке противоречивой информации. Часто решения нужно принимать быстро. Иногда даже непонятно, что произошел какой-то сбой или что сейчас мы принимаем какое-то решение.
Подумайте вот о чем. У вас дома наверняка есть несколько сломанных или странно ведущих себя устройств. Возможно, есть несколько перегоревших лампочек или (как у меня дома) есть лампа для чтения, которая какое-то время работает нормально, а потом выключается, и нужно подойти к ней и пошевелить. Или, например, подтекающий кран или другие небольшие проблемы, о которых вы знаете, но все руки не доходят исправить. Теперь представьте себе огромное производственное предприятие (нефтеперерабатывающий завод, химическую фабрику или атомную станцию). На таком предприятии тысячи или десятки тысяч клапанов и датчиков, дисплеев и регуляторов и так далее. Даже на лучших заводах есть какие-то неработающие элементы. У ремонтных бригад всегда есть список приборов, которые нужно починить. Как только появляется какая-то проблема, даже совсем небольшая, отовсюду начинают звучать сигналы тревоги, а в течение дня таких проблем может быть несколько. Как человек должен догадаться, что именно это — важный сигнал, говорящий о серьезной проблеме? Обычно каждый из таких сигналов имеет простое рациональное объяснение, так что разумное решение — не слишком спешить с решением возникшей проблемы. На самом деле ремонтная бригада просто добавляет это к списку дел. В большинстве случаев это правильное решение. В одном случае из тысячи (или даже из миллиона) это решение неверно, и за него ремонтную бригаду впоследствии будут осуждать: как они могли пропустить столь явные сигналы?
Мы все крепки задним умом. Когда комиссия по расследованию происшествия выясняет, какие события привели к возникновению проблемы, они знают, что именно произошло. Поэтому им так легко определить, какая информация связана с делом, а какая — нет. Это ретроспективное принятие решений. Но в момент инцидента люди, возможно, были перегружены обилием не относящейся к делу информации или обладали не таким уж большим количеством необходимых данных. Откуда им было знать, на какую информацию обращать внимание, а какую — игнорировать? По большей части опытные операторы все понимают верно. Но в том единственном случае, когда они ошибаются, ретроспективный анализ будет обвинять их в том, что они упустили очевидное.
Между тем в то время, когда происходили события, возможно, ничто не казалось таким уж очевидным. Мы еще поговорим об этом, но несколько позже.
Вы можете столкнуться с этим, когда ведете машину, когда разбираетесь со своими финансами и когда просто живете своей обычной жизнью. Большинство необычных случаев, о которых вы читаете, не имеют к вам никакого отношения, поэтому вы можете спокойно их игнорировать. На что нужно обращать внимание, а что — игнорировать? В промышленности эта проблема встречается повсеместно, правительства тоже сталкиваются с ней каждый день. Разведслужбы завалены данными. Как они решают, какие дела действительно серьезные? Люди узнают об их ошибках, но не о верных решениях (что случается гораздо чаще). Нам ничего не становится известно о тех случаях, когда они игнорируют информацию как незначительную — и поступают правильно.
Если подвергать сомнению каждое решение, вообще ничего нельзя будет сделать. Но если решения не подвергать сомнению, мы будем допускать серьезнейшие ошибки — редкие, но приводящие к необратимым последствиям.
Задача дизайна состоит в том, чтобы представить информацию о состоянии системы (устройства, транспортного средства, завода или какого-то вида деятельности) так, чтобы ее было просто воспринимать и интерпретировать, а также чтобы легко можно было предоставить альтернативные объяснения или интерпретации. Полезно ставить решения под сомнение, но это невозможно, если каждое действие — или невозможность совершения действия — требует пристального внимания. Это сложная проблема, у которой нет видимого решения.
Ошибки на основе знаний
Поведение, которое регулируется знаниями, имеет место, когда перед нами новая ситуация и у нас нет ни навыков, ни правил, которые могут помочь с ней справиться. В таком случае нужно разработать новый алгоритм действий. Навыки и правила контролируются на поведенческом уровне обработки информации. Поэтому они происходят бессознательно и автоматически. В то время как поведение, которое основано на знании, контролируется на рассудочном уровне, оно медленное и осмысленное.
