В 21:18 двенадцатого февраля 2009 года рейс 3407, который выполняла авиакомпания Colgan Air под код-шерингом с Continental Connection, вылетел из Международного аэропорта Ньюарк. Второй пилот Ребекка Шоу чувствовала себя нехорошо и уже думала о том, как бы поскорее добраться до гостиницы в Буффало, куда они и летели. Капитан Марвин Ренслоу уверял её, что болезненное состояние пройдет, как только они сядут.

Пока их Bombardier Q400, иначе известный как De Havilland Dash 8, набирал высоту 16,000 футов, пилоты по-дружески болтали, обсуждая то проблемы с ушами Ребекки, то дом Марвина во Флориде.

Лететь недалеко, и менее чем через час после взлета экипаж приступил к снижению. В 22:06 пересекли 10,000 футов – как известно, ниже этой высоты существует правило “стерильной кабины”, и все посторонние разговоры должны быть прекращены. Но не в этот раз. “Как уши?” – спросил капитан. “Заложены и хлюпают”, – ответила Ребекка. “Хлюпают – это уже хорошо”, – подметил Марвин. “Да, буду и дальше ими хлюпать”, – заверила его Ребекка. Хихикнув, они стали обсуждать, как предыдущий рейс их компании заходил и садился в Буффало.

Диспетчер тем временем разрешил дальнейшее снижение до 2300 футов, но разговор не прекращался. Поговорили о первоначальном курсе подготовки капитана, который был намного короче, чем у второго пилота. О коллегах Ребекки, которые жаловались, что их долго не вводят на левом кресле. А снаружи было холодно, нарастал лед. Марвин вспомнил, как он, житель жаркой Флориды, попал в Западную Вирджинию, где холод застал его врасплох. Самолет тем временем снижался, уменьшалась и его скорость.

В 22:16 самолет прервал воспоминания пилотов: началась тряска штурвала, предупреждающая о возможном сваливании. “Боже мой”, – сказал, напрягшись, капитан. В панике он взял штурвал  “на себя” вместо того, чтобы дать его “от себя”. Семнадцать секунд спустя он произнес: “Мы упали”, и через две секунды самолет разбился, убив всех на борту и одного человека на земле.

В окончательном отчете расследователи Национального совета по безопасности на транспорте (NTSB) пришли к выводу, что вероятной причиной авиационного происшествия стала “неадекватная реакция капитана на активацию механизма тряски штурвала, что привело к аэродинамическому сваливанию, из которого самолёт не вышел”. В Совете NTSB сообщили, что факторами, которые повлияли на неадекватную реакцию Ренслоу, стали: “(1) неспособность летного экипажа контролировать скорость полета по отношению к увеличивавшемуся тангажу из-за снижения скорости, (2) несоблюдение экипажем правила “стерильных процедур” при пилотировании, (3) неспособность капитана эффективно управлять полетом, и (4) неадекватные процедуры авиакомпании Colgan Air для выбора значения  воздушной скорости и управления ею во время выполнения заходов в условиях обледенения”. Все пункты, кроме четвертого, предполагали простое невнимание экипажа.

В этом отношении пилоты рейса 3407 оказались в русле давно установившейся тенденции.  В 1994 году NTSB провел исследование 37 крупных катастроф, происшедших в период с 1978 по 1990 годы с участием экипажей авиакомпаний, которое показало, что в 31 случае их причина была частично вызвана ненадлежащим контролем со стороны экипажа. Ничего не вышло из строя, ничего не отказало; экипаж просто пренебрег надлежащим управлением воздушным судном.

Изученный период совпал с эпохой повышенной автоматизации кабины: автоматизация была предназначена для спасения жизни людей за счет устранения опасностей, связанных с человеческой ошибкой. В авиации поддерживающая логика была такой же, как и в других областях: люди очень подвержены ошибкам; системы – тем более. Автоматизация предотвратила бы ошибки, вызванные невниманием, усталостью и другими человеческими недостатками, и дала бы людям возможность меньше думать о мелких проблемах и больше – о крупных и, следовательно, принимать лучшие стратегические решения. Однако по мере роста автоматизации человеческая ошибка не исчезла: она до сих пор остается главной причиной авиационных происшествий.

***

В 1977 году Комитет Конгресса США по науке и технике определил на предстоящее десятилетие автоматизацию в качестве одной из основных проблем безопасности, а три года спустя этот прогноз повторил Сенатский комитет по торговле, науке и транспорту. В то время Boeing, McDonnell Douglas и другие ведущие коммерческие авиационные производители разрабатывали новые модели самолётов со все более сложными кабинами пилотов. В связи с неизбежным переходом к автоматизации Конгресс попросил НАСА исследовать влияние вводимых изменений на пилотов.

Исследовательский центр НАСА им. Эймса  возглавлял Эрл Винер, пионер в исследованиях человеческого фактора и автоматизации в авиации. Винер изучал полетные записи с тех пор, как в кабине впервые появилась автоматика. Начиная с 1970-х годов, он опубликовал серию работ, в которых анализируется взаимосвязь между автоматизацией, ошибкой пилота и авиационными происшествиями. К началу 1980-х годов Винер пришел к выводу, что поразительное число нововведений, направленных на устранение предполагаемого риска человеческой ошибки, фактически приводило к авиационным происшествиям. Среди наиболее печально известных примеров, которые он приводил, был рейс 007 авиакомпании Korean Airlines, который в 1983 году отклонился от курса на 550 километров и был сбит советским истребителем. В официальном отчете наиболее вероятной причиной навигационной ошибки была названа “недостаточная бдительность” экипажа. В докладе далее говорится, что такое невнимание в гражданской авиации отнюдь не является уникальным.

К 1988 году Винер добавил в свой список новые события и начал дополнять свои исследования обширными интервью с пилотами. Он прекрасно понимал, что автоматизация может творить чудеса: например, компьютеры значительно улучшили навигацию, и их способность контролировать каждое крошечное колебание самолетов через демпфер рыскания помогло предотвратить потенциально смертельные случаи явления, известного как “голландский шаг”. Но по мере того, как пилоты освобождались от этих обязанностей, они становились все более подверженными скуке и самоуспокоенности – проблемам, которые были еще более коварными, поскольку определить и оценить их было трудно. Как сказал один из пилотов, опрошенных Винером: “Я знаю, что я не в контуре, но я и не совсем вне контура. Больше похоже на то, что я нахожусь где-то рядом с контуром”.

Винер обвинил авиационную отрасль в том, что она поддалась так называемому феномену “давайте просто добавим еще один компьютер”. По его словам, компании внедряют все более специализированные автоматизированные функции для устранения конкретных ошибок, не обращая внимания на их последствия, в то время как они должны были бы медленно и осторожно внедрять инновации, откалиброванные под способности и потребности пилотов. В его нынешнем виде углубление автоматизации в целом не уменьшило человеческих ошибок, а просто изменило их форму.

***

Именно на этом фоне в 1990 году в Центр им. Эймса прибыл Стивен Кэзнер, ученый с докторской степенью по интеллектуальному дизайну систем Питтсбургского университета. Кэзнер изучал автоматизацию, и хотя у него не было особого опыта работы с самолётами (но он вскоре получил свидетельство пилота), он привнёс новую перспективу в проблему: психологию человека. Его консультант в Питтсбурге был психологом, и эта область оказала  на его понимание автоматизации большое влияние. Кэзнер выразил надежду, что новый экспериментальный подход позволит решить имеющуюся проблему путем проверки воздействия компьютеризированных систем на пилотов.

В течение следующих двух десятилетий Кэзнер посвятил себя систематическому изучению того, как именно люди и компьютеры взаимодействуют в кабине и как это взаимодействие можно улучшить, чтобы минимизировать ошибки и риск. Как пилоты решали сложные задачи в ходе полета по обычному маршруту? Насколько хорошо дисплеи и функции соответствовали предпочтениям и поведению пилотов?

Он обнаружил, что системы, которые пилоты должны были использовать в кабине, были им понятны не особенно хорошо. Кэзнер согласился с Винером, что используемые формы автоматизации не особенно хорошо подходят для того, как мозг пилотов работает во время полета. В 2006 году Кэзнер попытался исправить первую часть проблемы, опубликовав учебник по автоматизации в кабине пилота. С тех пор он уделяет проблеме невнимания все больше усилий. В 2013 году Кэзнер объединился с психологом Джонатаном Скулером из Калифорнийского университета в Санта-Барбаре, который изучал внимание и способность решать проблемы, чтобы выяснить, действительно ли автоматизация ответственна за виды ошибок, которые обнаружил Винер. Кэзнер и Скулер задали вопрос: “Если бы компьютеризированные системы функционировали в 99% случаев так, как это было задумано,  как это повлияло бы на способность пилота действовать в любой момент, если бы что-то пошло не так, – как это и случилось с Colgan Air”?

Когда Кэзнер и Скулер провели тесты с помощью симулятора Boeing 747-400, они подтвердили, что степень автоматизации, на которую полагался пилот во время полёта, напрямую повлияла на то, насколько внимательно он выполнял свою работу. Как утверждали сторонники автоматизации, пилоты тратили меньше времени, беспокоясь о мелочах полёта, когда они использовали более автоматизированные системы. Но они не обязательно использовали новое ментальное пространство для выполнения вычислений более высокого порядка. Вместо этого 21% опрошенных пилотов сообщили о том, что они задумывались о несущественных темах, – как в случае с капитаном Марвином Ренслоу и вторым пилотом Ребеккой Шоу.

Ещё более тревожным является то, что исследование, опубликованное Кэзнером и Скулером в журнале Human Factors, показывает, что автоматизация также привела к атрофии некоторых пилотов. В ходе эксперимента группу из шестнадцати пилотов, каждый из которых имел приблизительно восемнадцать тысяч часов налета, попросили полетать на тренажере Boeing 747-400. В ходе этих имитационных полетов исследователи систематически изменяли уровни используемой автоматизации. В какой-то момент полета они отключали систему оповещения, не предупреждая своих субъектов, и вводили в индикаторы приборов ошибки. Казнер и Скулер хотели узнать, заметят ли это пилоты, и если да, то что они будут делать.

Удивительно, но технические навыки пилотов, особенно их способность сканировать взглядом приборы и использовать ручное управление, остались в основном неизменными. Это те навыки, потерей которых были больше всего обеспокоены пилоты и отраслевые эксперты, но оказалось, что летать на самолете – очень похоже на езду на велосипеде. Однако способность пилотов принимать сложные когнитивные решения, – то, что Кэзнер называет навыками “ручного мышления” – потерпела серьезное поражение. Пилоты оказались менее способны визуализировать положение своего самолета, решать, что делать дальше и диагностировать аномальные ситуации. “То, что ты делаешь руками – это хорошо”, – говорит Кэзнер. “Но то, что ты делаешь своей головой, – действительно нужно практиковать”.

Только один пилот смог пройти тест без единой ошибки. Остальные показали то же поведение, которое Кэзнер и Скулер определили в своем предыдущем исследовании: “блуждание разума”. Чем больше дрейфовали мысли пилотов, и это, как утверждали исследователи, увеличивалось с расширением автоматизации полета, тем больше ошибок они совершали. В большинстве случаев они могли обнаружить, что что-то пошло не так, но они не реагировали так, как должны были бы, перепроверяя другие инструменты, диагностируя проблему и планируя последствия. “Мы просим людей делать то, для чего люди просто не подходят”, – сказал Кэзнер. “Сидеть и внимательно смотреть”.

Чем больше автоматизирована процедура, и чем она становится комфортнее для нас, тем сильнее наше ощущение, мы что можем уделять этой процедуре меньше осознанного внимания. В работах Скулера по теме проницательности и внимания он использует рутинные автоматизированные задачи, чтобы вызвать лучшее состояние “блуждания разума” у своих подопечных. Если кому-то и нужно сохранять бдительность, так это пилоту. А вместо этого кабина при проведении экспериментов становится идеалом среды, которая, скорее всего, заставит ваш мозг отвлекаться.

Поскольку автоматизированные системы в кабине стали более надежными, а пилоты привыкли к их надежности, то это особенно касается молодых пилотов, которые не только с самого начала своей карьеры прошли подготовку по этим системам, но и выросли в мире, полном компьютеров и автоматизации – они почти неизбежно начали отказываться от ответственности на более глубоком уровне. “Это самодовольство”, – говорит Кэзнер. “Если прозвенит звонок, я что-нибудь с этим сделаю. Если нет, то я молодец.” Одним из примеров является авиационное происшествие с рейсом 214 авиакомпании Asiana Airlines в июле 2013 года, когда экипаж выполнял посадку в Сан-Франциско. Никто из четырёх пилотов на борту не заметил, что самолёт летел слишком медленно. “Одно из объяснений состоит в том, что они настроили автоматику так, что подобное просто не могло произойти”, – сказал Кэзнер. “Они действительно верили, что самолет будет продолжать лететь на заданной скорости”.

***

Проблемы, выявленные Винером, Кэзнером и Скулером, имеют последствия, выходящие далеко за рамки отрасли авиаперевозок. Подумайте о круиз-контроле в автомобилях: как только вы его установите, вы больше не будете вынуждены бдительно следить за своей скоростью. Это заставит вас внимательнее смотреть на дорогу, или ваш мозг начнет отвлекаться? Кэзнер сравнил такую динамику с нашей современной коллективной неспособностью запоминать телефонные номера, которые мы вводим в наши телефоны – обычно это не проблема, но в случае чрезвычайной ситуации она становится потенциально серьезной проблемой.

“То, что мы делаем, это использование людей в качестве подстраховки, – как резервных копий для компьютеров, и это должно полностью остаться в прошлом”, – сказал Кэзнер. “Было бы намного лучше, если бы вычислительная система наблюдала за нами и вмешивалась тогда, когда мы делаем что-то не так”. В идеале, автоматизация должна принять подход, ориентированный на человека – подход, который серьезно воспринимает нашу неспособность сидеть и внимательно смотреть, предупреждая нас, когда такое предупреждение необходимо, а не просто заменяя наши рутинные задачи компьютеризированными. Такого рода переход от пассивного наблюдения к активному мониторингу помог бы обеспечить, чтобы наш мозг оставался в состоянии стимуляции. Кэзнер сравнил желаемый подход с тем, который выбрали настоящие спасатели. В отсутствие подстраховки они должны оставаться в курсе происходящего. “Они не просто сидят и ждут, чтобы услышать, как кто-то зовет на помощь”, – сказал он. “Они визуально сканируют происходящее и ищут определенные признаки”. В то время как спасателей, например, учат всем возможным признакам, по которым можно определить утопающего, пилоты не получают детальной подготовки по всему, что может у них пойти не так, именно потому, что многие вещи, которые могут пойти неправильно, происходят так редко. “Нам нужно дать пилотам больше практики в мышлении”, – говорит Кэзнер. “Представить им аномальные ситуации, показав нерутинные индикации на панели приборов и спросить: Что происходит”?

Активный мониторинг в авиации может быть трудным для достижения, учитывая степень автоматизации, уже имеющуюся в кабинах пилотов. Но отрасли, в которых автоматизация родилась не так давно – автомобилестроение, медицина, жилищное строительство – все еще имеют возможность учиться на проблемах, которые возникли в кабине пилота. Кэзнер работает с дизайнером Доном Норманом, чтобы применить то, чему он научился в других областях, начиная с автомобильной промышленности. По мере того, как мы представляем себе будущее, в котором все больше наших задач решают машины – беспилотный автомобиль Google, компьютерная хирургия – мы можем сделать наши системы проще и безопаснее, не вызывая самоуспокоенности. Мы предполагаем, что большая автоматизация – лучше, что беспилотный автомобиль или пакет с беспилотником – это прогресс, независимо от того, как он маскируется – но опыт, который у нас был в авиации, учит нас с подозрением относиться к такому предположению. “Не автоматизируйте что-то только потому, потому что вы это можете,” говорит Кэзнер. “Автоматизируйте это только тогда, когда это необходимо”.

Мария Конникова, The New Yorker

Авторизованный перевод
Мельниченко С.А

Фото: planespotters, sciencedirect.com, Bendix/King, ebay, FlightGlobal, LinkedIn