Расследования, проведенные американскими газетами New York Times и Seattle Times, показали, что руководство Boeing было настолько одержимо стремлением опередить Airbus, настолько сосредоточено на скорости производства и стоимости, что инженеры были вынуждены представлять технические планы «вдвое быстрее обычного», а менеджеры работали в «сжатые сроки и с ограниченным бюджетом». Один из информаторов утверждал, что в трех разных случаях компания отклоняла те меры безопасности, которые могли бы предотвратить роковые катастрофы[60].
Процесс принятия решений в Boeing был свернут, когда в компании увлеклись гонкой к финишной черте, а также и позже. В 2017 году, через несколько месяцев после поставки самолетов, в компании Boeing обнаружили сбой с предупреждением о расхождении показаний датчиков угла атаки[61]. Предупреждение о несогласии это стандартная функция, которая сообщает пилоту, что два датчика угла атаки имеют разные показания: это говорит о том, что один из датчиков, возможно, вышел из строя. Сбой, как обнаружили в Boeing, заключался в том, что предупреждение о несогласии в самолетах Max ошибочно связывалось со второй необязательной функцией, «индикатором датчиков угла атаки», которая была премиальной функцией. Это означало, что если перевозчик не покупал опцию «премиум», предупреждение о несогласии у него не срабатывало. Компания Boeing не уведомила об этом ни покупателей, ни пилотов[62]. Вместо этого она решила подождать до следующего запланированного обновления программного обеспечения в 2020 году, чтобы исправить ошибку[63].
Предупреждение о несогласии могло бы проинформировать пилотов компаний Lion Air и Ethiopian Airlines о неисправности одного из датчиков, что могло бы помочь им быстрее распознать проблему. Но ни один из этих перевозчиков не оплатил опцию «премиум», поэтому предупреждение у них не сработало. Такой индикатор для датчиков угла атаки приобрели примерно 20 % всех клиентов Max; следовательно, только эти 20 % также располагали этим средством обеспечения безопасности. Даже среди трех американских перевозчиков, которые купили самолеты Max, за премиальный вариант заплатили лишь American Airlines и Southwest Airlines, а United Airlines нет[64].
Модель Max 8 была запущена в эксплуатацию в 2017 году и быстро стала самым продаваемым самолетом Boeing в истории[65] ошеломительный успех пока вскоре пилоты не оказались вынуждены вести бой против своих самолетов, а сами самолеты не упали с небес на землю. Модель Max была призвана укрепить позицию Boeing как самого уважаемого и успешного производителя самолетов в мире. Вместо этого она пролила свет на этическую проблему, решение которой нельзя откладывать.
* * *
Давайте рассмотрим три важных бинарных решения, с которыми столкнулась компания Boeing.
Во-первых, в 2017 году ее руководители осознали, что они сделали средство обеспечения безопасности (предупреждение о несогласии датчиков угла атаки) премиальным вариантом, а не стандартом. На этом этапе вопрос звучал так: будем ли мы делать это достоянием общественности и все исправлять или нет?
Компания Boeing решила придерживаться позиции, согласно которой предупреждение о несогласии предоставляет только «дополнительную информацию» и не является средством обеспечения безопасности[66]. Возможно, так оно было и с более старыми моделями 737, но в Boeing должны были знать, что мощный характер системы MCAS превратил это предупреждение в необходимую функцию безопасности, предоставляющую пилотам важную информацию. Компания Boeing не сообщила об этом и не исправила эту ошибку, решив вместо этого исправить ее через три года при обновлении программного обеспечения[67].
Во-вторых, после того как в Индонезии разбился первый самолет, выбор был таким: отзываем ли мы самолеты до тех пор, пока не выясним наверняка, что стало причиной катастрофы, и не сможем исправить это и соответствующим образом обучить пилотов, или мы будем продолжать полеты на этих самолетах? Компания не только продолжала полеты; она также заняла бессовестную позицию, обвинив во всем пилотов. «Мы использовали стандартное для нашей отрасли предположение о пилотах и о том, какие у них бывают реакции», свидетельствовал главный инженер Boeing Джон Гамильтон на слушаниях в сенате США в октябре 2019 года[68]. Поскольку неправильные условия работы MCAS были похожи на проблему с неконтролируемым стабилизатором, руководство Boeing предположило, что пилоты должны были знать, что следует щелкнуть переключателями и отключить MCAS. Но, как ранее в том же году заявил конгрессу капитан Салленбергер, пилоты заслуживают того, чтобы летать на самолетах, на которых «не установлены непреднамеренные ловушки»[69].
Вне зависимости от того, что пилоты должны были или не должны были знать, неисправное программное обеспечение Boeing также послужило причиной гибели 189 человек. Это бинарное решение, здесь есть однозначный ответ: отозвать самолеты, а затем устранить нарушения в системах безопасности и обучить пилотов.
Время принимать третье решение, как для Boeing, так и для ФАА, настало, когда в Эфиопии разбился второй самолет: разрешаем ли мы самолетам продолжать полеты или нет? Вместо того чтобы запретить самолетам все рейсы, глава корпорации Мюленбург позвонил президенту Трампу, чтобы заверить его, что полеты безопасны. Компания Boeing настаивала на том, чтобы самолеты Max 737 продолжали летать, и ФАА это разрешило, хотя более шестидесяти стран уже дали им правильный ответ.
Кризис Boeing показывает, что даже простой выбор из двух вариантов можно сделать ошибочно, если мы не сможем интегрировать в процесс принятия решений этику. Если мы не в состоянии правильно ответить на бинарные вопросы, даже когда на кону стоит человеческая жизнь, тогда у нас возникнут гораздо более серьезные проблемы, когда границы станут более размытыми и мы столкнемся с необходимостью принимать небинарные решения.
Если говорить об этике на передовой, сложные этические проблемы в общем и целом требуют, чтобы мы сосредоточились на отключении бинарного мышления, потому что оно способствует упрямству и может привести к чрезмерно упрощенным «правильным» или «неправильным» решениям, не основанным на реальности. Проблемы, лежащие в основе нереалистичного выбора одного из двух вариантов, который, как мы видели, наблюдается по всему миру, например, с вопросом, должна ли Великобритания оставаться в Евросоюзе либо выйти из него (брексит) или следует ли США построить стену на южной границе с Мексикой, требуют более тонкого подхода к принятию решений.
Вот лишь один из примеров такой дилеммы, заслуживающей небинарного ответа, хотя она и выглядит как бинарный вопрос. Ваша подруга удаляет с телефона приложение Uber и говорит, что вы должны сделать то же самое: известно, что компания эксплуатировала водителей и обходила местные законы[70]. «Удалить или оставить» это бинарное решение. Откажитесь от бинарности и вместо этого спросите: когда и при каких обстоятельствах я удалю это приложение? Какие еще факторы и людей вам следует принять во внимание, прежде чем последовать примеру подруги? Может быть, Uber удобнее для вас, потому что вы живете в таком районе, где трудно найти такси. Возможно, вы знаете учителей или одиноких родителей, которые подрабатывают в Uber, когда у них есть время. Как это решение повлияет на них? Компании, организующие совместные поездки (райдшеринг), также помогают жителям определенных районов города, которые подвергаются дискриминации со стороны водителей такси[71]. Как на ваше решение влияют эти факторы? Вместо того чтобы выбирать, «удалить или оставить» приложение, возможно, вы предпочтете его оставить, но будете использовать его только тогда, когда под рукой нет местных такси, автобусов или метро или когда вы выпили и не должны садиться за руль.