データダイオードがあれば、OpenAIとHugging FaceのAI流出事件は防げたかもしれない

OpenAIは、「ExploitGym」と呼ばれる内部評価を実施していた。これは、同社のモデルが既知のソフトウェアの脆弱性を機能するエクスプロイトに変換する能力を測定することを目的としたものである。最悪のケースにおける能力を正確に把握するため、このテストでは本番環境用の安全分類器を無効化し、通常であればモデルが高リスクなサイバー活動を試みるのを阻止する「安全装置」を取り除いて実施された。 このテストには、公開済みの「GPT-5.6 Sol」と、より高性能な未公開の研究用モデルの2つのモデルが使用され、テストの目的上、両モデルともサイバー活動に対する拒否設定が緩和された状態で動作していた。

サンドボックスの外に出ると、攻撃者たちは、ExploitGymベンチマークに関連するデータセット、モデル、または参照ソリューションがHugging Faceによってホストされている可能性が高いと推測しました。盗まれた認証情報や公開された認証情報をゼロデイ脆弱性と組み合わせることで、彼らはHugging Faceの本番データベースから直接テストの解答を抽出しました。その過程では、ステージングやコマンド＆コントロールのために、公開されているコード貼り付けサイト、スクリーンショットツール、リクエストキャプチャサービスなどを利用しました。

OpenAIが対応に乗り出す前に、Hugging Faceの社内セキュリティチームが侵入を検知し、封じ込めた。Hugging Faceが攻撃ログの分析に商用最先端モデルを利用しようとしたところ、リクエストが攻撃者がエクスプロイトペイロードを送信するものと全く同じに見えたため、プロバイダー側のセキュリティフィルターによって分析がブロックされてしまった。結局、Hugging Faceはフォレンジック作業を行うために、自社でホストしているオープンウェイトモデルに頼ることになった。

これこそが、ハードウェアで強制されるデータダイオード技術が排除することを目的としている障害モードそのものです。光ダイオードは、光ファイバーで接続された専用の送信（TX）および受信（RX）インターフェースを用いて、物理層での一方向のデータフローを強制します。物理的な復路が存在しないため、バイパスされるソフトウェアルールも、確立される逆方向のネットワークセッションもなく、攻撃者（または自律型AIエージェント）が悪用できるプロキシロジックも存在しません。

OPSWAT さまざまなユースケースに合わせて最適化されたソリューションを通じて、この原則を適用しています。

1. MetaDefender™Optical Diode は、継続的なデータ転送を実現する、ハードウェアによる一方向のネットワーク接続機能を提供します。これにより、組織は、テレメトリデータ、ヒストリアンデータ、プロセス情報、ログ、運用イベントなどを、重要インフラからエンタープライズネットワークや AI 分析プラットフォームへ安全に転送できる一方で、トラフィックが保護された環境へ逆流することを物理的に不可能にします。
2. MetaDefender™ Diode Xは、ハードウェアによる一方向隔離機能を活用し、安全なファイル転送を実現します。 MetaDefender Coreと統合されており、すべてのファイルは、光ダイオードを介して転送される前に、Deep CDR™ テクノロジーを用いて検査・スキャンされ、マルウェアが除去されます。これにより、組織は従来のネットワーク接続を公開することなく、隔離された環境間で AI トレーニングデータセット、ソフトウェアパッケージ、レポート、文書、マルウェアサンプル、その他のファイルを安全にやり取りすることが可能になります。

運用データをAIプラットフォームへ安全にストリーミングすることでも、セキュリティゾーン間でファイルを安全に転送することでも、ハードウェアによって強制される一方向通信により、返信経路の確立に依存する一連の攻撃を完全に排除することができます。