Если бы количество аварий, причиной которых был человеческий фактор, варьировало от одного до пяти процентов, я бы, может быть, и поверил, что виноваты люди. Но если процент так высок, то совершенно очевидно, что должны быть задействованы какие-то другие факторы.
Если падает мост, мы анализируем случившееся для нахождения причин крушения и внесения поправок в требования к проектировке мостов, чтобы убедиться в том, что больше никогда ничего подобного не произойдет. Если мы обнаруживаем неисправность в работе электронного оборудования, потому что оно реагирует на неизбежный электрический шум, мы перестраиваем электросхему, чтобы она была менее восприимчива к шуму. Но если предполагается, что авария могла быть вызвана человеком, мы просто обвиняем его и продолжаем делать все как раньше.
Физические ограничения дизайнеры понимают очень хорошо; ментальные остаются непонятыми. Нужно одинаково обходиться со всеми ошибками: найти основополагающие причины и перестроить систему так, чтобы она больше не создавала проблем. Мы проектируем оборудование, которое требует от людей абсолютной сосредоточенности и концентрации в течение долгих часов. Операторы должны помнить устаревшие, запутанные процедуры, даже если используют их очень редко, иногда — раз в жизни. Мы помещаем людей в скучное окружение, где им часами нечем заняться, а потом внезапно требуем от них быстрой и точной реакции. Или мы помещаем их в очень сложное окружение и заставляем часами упорно трудиться, им приходится выполнять множество разных задач одновременно, при этом их постоянно отвлекают. А потом мы удивляемся, откуда берутся несчастные случаи.
Самое плохое, что, когда я говорю с дизайнерами и администраторами этих систем, они признают, что им тоже случалось клевать носом, делая при этом вид, что они работают. Некоторые даже говорили, что на секунду засыпали за рулем. Они сознавались, что им доводилось поворачивать регулятор не той горелки на плите у себя дома и совершать подобные небольшие, но показательные ошибки. Однако когда коллеги или покупатели делают то же самое, их винят в том, что они невнимательны, рассеянны или не следуют инструкциям.
Ошибки случаются по многим причинам. Наиболее распространенная заложена в самой природе задач и процедур, которые требуют от человека неестественного поведения: не терять бдительности часами напролет, давать точные и четкие технические характеристики и при этом выполнять множество других задач, делать несколько дел одновременно, в то время как тебя постоянно отвлекают, заставляя переключаться на другие виды деятельности. Подобные вмешательства в работу — очень частая причина ошибок, они особенно сильно досаждают, если дизайн системы требует от вас полного и безраздельного внимания, а после них бывает очень трудно вернуться к выполняемым задачам. Интересно, что самый опасный виновник ошибок — это отношение людей к ним.
Если в результате ошибки фирма терпит финансовые убытки или, что еще хуже, ошибка приводит к травме или смерти, собирают специальную комиссию, которая расследует дело и практически всегда находит виновников. Следующий шаг — предъявить им обвинение и наказать материальным штрафом, увольнением или тюрьмой. Иногда наказание бывает не таким суровым: группа виновных проходит переподготовку. Обвиняй и наказывай, обвиняй и обучай. Расследования и наказания, которые за ними следуют, помогают людям почувствовать облегчение: «Мы поймали виновных». Но это не решает проблемы: та же ошибка будет повторяться снова и снова. Вместо этого, когда случается ошибка, нам следует определить, почему это произошло, переделать продукт или алгоритм процедур, чтобы этого больше никогда не случилось, а если случится — чтобы причиненный сбоем вред был минимальным.
Мы говорим, что необходимо найти причину аварии, и это отлично звучит. Однако это неверно. Во-первых, большинство аварий не имеет единственной причины: обычно случается одновременно много событий, и если бы какое-то из них не произошло, то и аварии бы не было. Это то, что Джеймс Ризон, известный британский специалист по человеческим ошибкам, назвал «модель аварий “«Швейцарский сыр”» (изображена на рис. 5.3 этой главы ниже, там она описана более детально).
