フェイルセーフ

身の回りの機械・装置は必ず故障する。機械が壊れた場合必ず安全であり、そうでない場合は別の安全設計をする「フェールセーフ」という考え方が大切だ。

例えば、信号機が故障した場合、同時に青が点灯してしまうと、最悪の事態を招くので、故障しても信号が赤になるように、電気回路が構成されている。
エレベーターのワイヤーが切れると、連動して安全装置がガイドレールを挟み、カゴの落下を防ぐ。
自動車のエンジンが故障した場合、エンジンの制御ができない故障ではなく、回転が停止するように設計する。

人間が作る以上は、絶対安全はないのだ。

『参考資料』

https://resilient-medical.com/human-error/fail-safe-fool-proof