Когда отключаются автоматические системы самолета, у пилотов обычно есть в запасе много времени, чтобы оценить ситуацию и правильно среагировать. Самолеты летают высоко: выше десяти километров над поверхностью земли, поэтому, даже если самолет вот-вот начнет падать, у пилотов будет несколько минут на то, чтобы как-то среагировать. Кроме того, пилоты очень хорошо обучены. Когда автоматика отключается в автомобиле, у водителя может быть лишь доля секунды, чтобы избежать несчастного случая. И это слишком сложно даже для очень опытного водителя, а большинство автомобилистов не могут похвастать солидным опытом вождения.
В других случаях, например на кораблях, у человека может быть больше времени, чтобы среагировать, но лишь в том случае, если сбой автоматики заметили. В 1997 году круизное судно Royal Majesty село на мель — аппаратура работала неправильно несколько дней, и это заметили только при проведении расследования крушения, после того как корабль сел на мель и компания потерпела ущерб в несколько миллионов долларов[52]. Что произошло? Местоположение корабля обычно определяет система глобального позиционирования (GPS), но провод, с помощью которого спутниковая антенна была подключена к системе навигации, каким-то образом отсоединился (никто так и не понял, как именно). В итоге система навигации перешла с использования сигнала GPS в режим «точный расчет траектории», высчитывая местоположение корабля, прикидывая его скорость и направление движения. Дизайн системы навигации не позволил людям заметить это. Таким образом корабль, который следовал с Бермудских островов в Бостон, отклонился слишком далеко к югу и сел на мель у полуострова Кейп-Код к югу от Бостона. Автоматическая система безотказно работала много лет, поэтому люди доверяли ей и полагались на нее, а значит, не проверяли местоположение корабля вручную и не слишком внимательно наблюдали за дисплеем. Никто не заметил крошечных букв «dr», указывавших на то, что система переключилась на режим «точный расчет траектории» (англ. «dead reckoning»). Это была грандиозная ошибка режима.
Люди — гибкие, разносторонние и творческие. Машины — негибкие и точные, а количество возможных операций у них ограничено. Между нами есть несоответствие, но оно может расширить наши возможности, если использовать его правильно. Представьте электронный калькулятор. Он не может заниматься математикой, как человек, но может решать задачи, которые не может решить человек. Кроме того, калькуляторы не делают ошибок. Поэтому человек и калькулятор представляют собой идеальную команду: мы, люди, определяем, какие проблемы важны и как их решить. А потом используем калькуляторы, чтобы вычислить ответы.
Сложности возникают, если мы не думаем о людях и машинах как о сотрудничающих системах, а передаем машинам все задания, которые можно автоматизировать, предоставляя людям остальное. Это заканчивается тем, что человеку приходится вести себя так же, как машинам, а не так, как ведут себя люди. Мы хотим, чтобы люди следили за машинами, и это значит, что они должны долгое время не терять концентрации, а это люди умеют очень плохо. Мы хотим, чтобы люди с большой точностью и очень четко выполняли повторяющиеся операции — этого требуют наши машины. И, опять-таки, мы в этом не слишком сильны. Если мы разделяем машинный и человеческий компоненты этих заданий, то не можем использовать сильные стороны и способности человека, вместо этого полагаясь на моменты, в которых он генетически, биологически не силен. И все же, если люди при этом совершают ошибку, обвиняют именно их.
То, что мы называем человеческой ошибкой, нередко обычный человеческий поступок, который не соответствует нуждам машин. Таким образом, мы видим пробел в наших технологиях. Это нельзя считать ошибкой. Нам нужно устранить саму идею ошибки. Мы должны понять, что людям может понадобиться помощь для того, чтобы переводить их цели и планы в форму, понятную технологиям.
Если учитывать несоответствие между способностями человека и требованиями технологий, станет ясно, что ошибки неизбежны. Смиритесь с тем, что может случиться какая угодно неполадка, и постарайтесь себя обезопасить. Сделайте так, чтобы все действия можно было отменить; сделайте так, чтобы ошибки обходились вам не слишком дорого. Вот основные принципы дизайна:
• Сделайте так, чтобы знания, которые нужны, чтобы управлять технологиями, были наглядно представлены на самом устройстве. Не требуйте от людей, чтобы они все запоминали. Допускайте людей к управлению, когда они выучили все требования устройства, когда они стали экспертами, которые могут обойтись без помощи внешней информации, но сделайте при этом так, чтобы тот, кто не является экспертом, мог использовать внешние знания. Это также поможет специалистам, когда они должны будут выполнить какую-то редкую операцию или вернуться к использованию технологий после длительного отсутствия.
