ベニー・チャーニーの著書『Cybersecurity Upside Down』の詳細はこちら

詳しくはこちらから
サイト翻訳には人工知能を利用しており、正確性を追求しておりますが、必ずしも100%正確とは限りません。ご了承ください。

航空機の設計から、次なる重要インフラの停止について学べることは何か

ここ数日、マイクロソフト、FAA、ユナイテッド航空、チェース、アムトラックで発生したシステム障害に関するニュースを読んでいます。また、この混乱に巻き込まれた友人や家族、社員たちに電話をかけ、無事かどうか、どうやって帰宅する予定なのかを確認しています。

大切な人が空港で足止めを食らっていると、「運休」という言葉の響きも違って感じられます。技術的な説明の裏側には、疲れ果てた子供たち、列に並ぶ高齢の乗客、乗り継ぎに間に合わなかった人々、そして台無しになった計画があります。企業にとっては、注文の喪失、支払いの遅延、そして1日分の業務が無駄になることを意味するかもしれません。

私は、重要インフラの保護に特化したサイバーセキュリティ企業「OPSWAT 」の創業者兼CEOです。また、計器飛行資格を持つパイロットでもあります。こうした事件を見るたびに、私はいつも同じ疑問を抱かずにはいられません。なぜ、私たちが日々頼りにしているインフラに対して、航空機の運航を支える考え方を、もっと応用しないのでしょうか?

航空機は、動力、航法、通信、および飛行制御の各システムを、驚くほど狭い空間に集約しています。これらのシステムは、時には過酷な状況下でも連携して機能し、人々の命がそれらにかかっています。

この設計は、故障が発生することを前提としています。パイロットの訓練の多くは、そうした故障を認識し、次に何をすべきかを把握することに重点が置かれています。まだミスをしても許される余裕があるうちに、練習を重ねるのです。

例えば、電力について考えてみましょう。オルタネーターは航空機用の電力を発生させます。確かに、iPhoneの充電にも役立つかもしれませんが、私としては、無線機や飛行計器を正常に作動させ続けることの方が重要です。

2基のオルタネーターを搭載した航空機では、一方が故障しても、もう一方が必須の負荷を支えることができます。両方が故障した場合でも、バッテリーによって限られた時間の運用が可能となります。その間、負荷を軽減し、その時間を活用して緊急事態に対処します。

重要な点は、オルタネーターとバッテリーの働きが異なるということです。一方は電気を発電し、もう一方は電気を蓄えます。発電システムが機能しなくなった場合でも、バッテリーがあれば、必要な機器を稼働させ続けるための別の手段となります。

その考え方はさらに踏み込んだものとなっています。エアバス社は、一次コンピュータと二次コンピュータで異なるハードウェアおよびソフトウェアを使用する飛行制御システムの設計を文書化しており、これにはより単純な二次システムも含まれています。その目的は、1つの不具合によって重要な機能を実行するすべての手段が機能しなくなる可能性を低減することにあります。

私は通常、機内に備え付けの計器に加え、ForeFlightをインストールしたiPadも持ち込んでいます。これは補助的なツールであり、その機能は接続されたセンサーに依存するため、その限界を把握しておく必要があります。とはいえ、別のハードウェア上で独自のバッテリーを備え、飛行情報のもう一つの情報源があることは、私にとってある種の安心感を与えてくれます。

では、IT分野、特に重要システムや重要インフラにおける同様の課題について考えてみましょう。これらのシステムは、飛行機のように人命や自由を支える必要があるため、同じ設計思想を持つべきです。

メインシステムとバックアップシステムが同じソフトウェアを実行し、同じアップデートを受け取り、同じネットワークに依存している場合、それらはどれほど独立していると言えるでしょうか?一方を別の建物に移したところで、コードの欠陥が解消されるわけではありません。2つ目のクラウドも、依然として同じIDサービスやデータソースに依存している可能性があります。

システムを複製すると、その弱点も一緒にコピーされてしまう。

同じ障害によって両方のシステムがダウンしてしまうのであれば、果たして本当にバックアップがあると言えるのでしょうか?

最近の出来事は、なぜその質問が本当に重要なのかを如実に示している。

マイクロソフト、11月12日および13日

同社の予備報告書では、隠れたソフトウェアの欠陥、ゲートウェイのトラフィック増加、および処理能力の低下について述べられています。障害が発生したサーバーからのトラフィックをリダイレクトしたことが、同じ脆弱性を持つ他のサーバーへの障害の波及を招きました。マイクロソフトはすでに複数のゲートウェイアーキテクチャを用意していましたが、Exchange Onlineを含む一部のサービスでは、必要な規模で代替アーキテクチャへ移行することができませんでした。 マイクロソフトが詳細を公表してくれたことに感謝する。My から得られる教訓は、独立性と処理能力を併せてテストする必要があるということだ。代替アーキテクチャは、実際に必要となった際に、ホットバックアップとして不可欠な業務を担えるものでなければならないと私は考えている。

FAA、11月13日

FAAは、ルーターの交換作業が行われていた期間中にネットワークの輻輳が発生したと説明した。原因とみられる2か所の発信元を遮断したことで、ネットワークは安定化した。管制官とパイロットは安全を確保したが、全国的に離陸が停止した。根本原因については現在も調査中であり、FAAはSMART(空域・航路・飛行経路の戦略的管理)とは無関係であると述べている。 アーキテクチャ上の課題は、ごく少数の場所で発生した問題がなぜこれほど広範囲に波及したのか、そしてどのような追加の隔離措置や独立した通信手段があれば、より多くの運航を安全に維持できたのかという点にある。しかし、既存のアーキテクチャがなぜ崩壊したのか、またSMARTがどのようにして原因から除外されたのかについても問うべきではないだろうか。

アムトラック、11月13日

足止めを食らった航空機利用客が代替手段を探している最中に、予約に関する問題が発生した。アムトラックはシステムの更新と需要の増加を理由として挙げたが、正確な技術的な原因は依然として不明である。これは私があらゆる復旧訓練に取り入れたいと思うシナリオだ。つまり、インフラの一部が機能しなくなると、人々は別の手段に目を向ける。次のシステムには、そうした人々を受け入れる余力も必要となるのだ。

『ユナイテッド』、11月16日号

ロイター通信によると、システム障害により複数の乗務員向けアプリケーションが影響を受け、ユナイテッド航空は出発便の最終機体重量を提供できなくなったという。根本的な技術的な原因は依然として明らかにされていない。考えてみてほしい。飛行機、乗務員、乗客のすべてが準備万端であっても、不可欠な情報がなければフライトは出発できないのだ。いかなる代替策においても、最新かつ正確な積載データが不可欠である。昨日のバックアップデータだけでは不十分だ。最新のデータを用いて、正常に機能するシステムを復旧させる必要がある。

チェイス、11月16日。

ソフトウェアの内部バグにより、他行との決済を含む取引に遅延が生じました。この場合、復旧作業では財務記録を保持する必要があります。迅速な切り替えが有効なのは、支払いが適切に計上され、残高が正確であり、かつ取引が二重に処理されていない場合に限られます。これは、現実的な取引量の下で実証される必要があります。

これらは別々の事件であり、調査が続いている間は結論を急ぐべきではありません。しかし、ここにはすでに、私たちの技術的な議論に取り入れるべき材料が数多くあります。

そして今、私たちは、日常生活に欠かせないシステムにAIを導入しつつあります。

従来のアプリケーションの復旧でさえ、すでに困難な場合があります。AIを活用したシステムでは、モデル、ランタイム、データレイク、パイプラインなどが追加されますが、問題が発生した際、これらの関係を解きほぐすのは困難な場合があります。モデルが変更されなくても、データや動作環境は変化する可能性があります。コードの以前のバージョンを復元しても、互いに正しく連携しなくなったコンポーネントが残ってしまう可能性があります。

システムが依然として不適切な推奨を行っている間も、ソフトウェアは再び動作している可能性があります。

だからこそ、私はAIシステムを「生きている運用環境」だと捉えています。復旧とは、何が変化したかを把握し、互換性のあるコンポーネントを復元し、その動作を確認してから、再びそれを信頼することです。

その作業が行われている間も、人々は依然としてそのサービスを必要としています。

最も重要な機能については、別のアーキテクチャ上で、すでに稼働しており、いつでも引き継ぎ可能な別個の実装を検討すべきだと考えます。それは別のAIプラットフォームかもしれませんし、不可欠な運用を維持できる、よりシンプルな従来のシステムかもしれません。

この独立性は、アプリケーションの内部にまで及ぶ必要があります。同じ障害が発生しているネットワーク上の別のソフトウェアは、依然として利用できない可能性があります。同じ破損したデータを使用する2つの異なるモデルでも、依然として誤った結果を生み出す可能性があります。サービスが依存しているパス全体を検証する必要があります。エアバスのコックピットアーキテクチャの例で説明したのと同じアプローチを取る必要があります。

これには費用がかかり、複雑さも増すことは承知しています。代替システムには、メインシステムのすべての機能は必要ありません。飛行機のバッテリーと同様に、異なるアーキテクチャを用いて、所定の期間、必須機能を維持できればよいのです。

まず、何を、どの程度の規模で、どのくらいの期間継続させる必要があるかを決めましょう。運用において中断が許容されるのがミリ秒単位や秒単位のみである場合、それは私たちが実証しなければならない技術的要件となります。それ以外の部分の復旧には、より長い時間がかかる可能性があります。

次に、管理された条件下で設計の耐圧試験を行います。AIを利用できない状態にします。ネットワークを切断します。古いデータ、不具合のあるパッチ、あるいはサイバー攻撃による侵害を意図的に仕掛けます。バックアップの容量がすでに一部失われている状態で試してみてください。実際の人々が移行を余儀なくされた際に何が起こるかを観察し、サービスが引き続き利用可能かつ正確に機能しているかどうかを測定します。

コックピットでは、故障が発生した後も何がまだ機能しているか、それがどのくらい続くか、そして次に何をすべきかを知っておく必要があります。離陸する前に、それらの答えを把握しておかなければなりません。

帰宅しようとしている家族や、支払いを待っている企業に対しても、私たちには同様の準備が必要なのです。

次回のリーダーシップ会議で、チームに次のように尋ねてみてください。 「もし今、主要なシステムがダウンしたら、何が引き続き機能し続けるでしょうか?また、同じ障害によってその機能も失われてしまう可能性はありますか?」

詳細な設計やアーキテクチャを徹底的に分析し、その弱点を探り出してください。Server のダウン、通信障害、サイバーインシデントなどが想定されます。SMARTのようなAIシステムの場合は、その構成要素を精査してください。システムが制御不能に陥る可能性を想定し、帯域幅を制限するとともに、システム全体がダウンした場合に備えて、異なるアーキテクチャを持つ予備システムを稼働可能な状態にしておいてください。

それから、その人たちに実演してもらってください。

次回の停電の際に、バックアップが機能するかどうかを初めて確認することになってはならない。

OPSWATで最新情報をお届けします!

今すぐ登録して、当社の最新情報、ストーリー、イベント情報などを受け取りましょう。