AIデータの爆発的増加が、金融サービスのセキュリティのあり方を一変させている

クリーンなPDFとして届く電信送金指示を想像してみてください。不正なコードも、既知の不正な署名もなく、送信者も信憑性があり、あらゆる自動チェックを通過するメタデータ――しかし、これらはすべて、本物と全く同じに見えるように、モデルによってわずか数セントで生成された完全な偽造物です。人間による作成者が存在しないため、その出所から偽物だと見破る手がかりは一切ありません。PDF連結手法について詳しく知る

今日利用されているファイルセキュリティ対策の多くは、「ファイルは人間によって作成される」という、従来から受け継がれてきた前提に基づいています。この前提によって、ファイルの到着ペースや蓄積率、そして異常を判断するための「正常」の定義が決まります。ファイル1つあたりのコストは人的労力に連動しており、処理量の限界も人員数によって決まっていたため、この前提は数十年にわたり通用してきました。

生成AIは、その制約を取り払った。世界のデータ量は、2019年の45ゼッタバイトから、2025年には175ゼッタバイト（289％増）に達すると予測されており、2029年には527ゼッタバイトに達すると見込まれている（IDC）。しかし、データ量という側面は、この話においてそれほど重要ではない。 より重要な変化は、その出所にある。現在、企業の新規ファイルの推定40～50％が機械によって生成されており、多くの場合、人間が作成したものであるという確かな手がかりがない。

その成長率も同様の傾向を示しています。AI導入以前の時代、企業におけるファイル作成量は年間およそ20～23％のペースで増加していました。AIを活用したワークフローを標準化した組織では、現在、ファイル総量の増加率は年間55～68％と推定されています。 企業における生成AIの導入率は、わずか1年で33％から71％へと約2倍に増加しました（スタンフォードHAI）。また、組織の3分の2が、測定可能な生産性の向上を報告しています（デロイト）。ファイル作成量は初めて従業員数との連動性を失い、これら2つの曲線の間に広がるギャップこそが、新たなセキュリティリスクの温床となっています。

金融サービス業界は、他のどの業界よりも早く「ファイルの爆発的増加」を経験してきました。その理由は、同業界には他の多くの業界にはない3つの「ファイル生成エンジン」が稼働しており、生成AIがその3つすべてを同時に加速させたからです。

第一に、合成データです。これは最大の要因でありながら、最も目立たないものです。不正検知、マネーロンダリング対策（AML）、与信モデルのトレーニングには、プライバシー規制によって制約される規模のデータが必要となります。生成AIは、AMLテストにおいて本番データと96～99％の有用性同等性を達成する、統計的に現実的な合成レコードを生成することで、この制約を解決します。1つの機関で、トレーニングサイクルごとに数十億件のレコードを生成することが可能であり、その一つひとつが、適切に保存・管理・保護されたデータ資産となります。

2つ目はKYC関連文書です。これは義務付けられているため、最も定量的に評価しやすいカテゴリーです。AIの導入により、アナリスト1人あたりの処理能力が向上したほか、機械生成によるリスク説明文、ネガティブ報道の要約、所有権マップといった、まったく新しい種類の文書が登場しました。 世界のKYC/KYBシステムへの支出は、2030年までに約40％増加して305億ドルに達すると予測されています（Juniper Research）。また、世界中で実施される本人確認チェックの件数は、2024年の750億件から2025年には860億件へと増加しており、それぞれが取得、保存、審査の対象となる文書となります。

3つ目は、これまで大量の成果を生み出していなかったあらゆる部門（営業、マーケティング、法務、人事、リスク管理）におけるLLMの直接的な活用です。部門ごとの生産量は推定で3倍から5倍に増加しており、企業からは、作成が必要なコンテンツ量が前年比で54％増加したと報告されています（デロイト）。 英国の金融企業の4分の3はすでにAIを活用しており（イングランド銀行／FCA）、生産性の向上を報告している企業の割合は1年でほぼ2倍の59％に達した。最も多くのファイルを生成している金融機関は、まさにそれらを生成する技術に最も積極的に投資している企業である。

これは、生産性の問題がセキュリティの問題へと転じる転換点である。ピッチブックを作成するツールは、ペイロードを作成するツールと全く同じである。

生成AIが普及して以来、AIを利用したフィッシング攻撃は10倍以上（+1,265%）に急増しており、現在検出されるフィッシングメールの82%以上にAI生成コンテンツが含まれています。 2024年には、デジタル文書の偽造が前年比244％増加した。カスペルスキーは1日あたり約50万件の悪意のあるファイルを検知している。また、ディープフェイクを用いたなりすまし詐欺の試みを報告した企業の割合は、2年間で37％から49％に上昇した。ファイル経由の脅威は、正規のファイルと同じペースで増加している。なぜなら、同じ技術で両方が生成されるからである。

ファイルについて私たちが用いる用語は、もはやファイルの現状に合致しなくなっています。ファイルは、人が開くまでただ静止しているだけの受動的な容器ではなくなりました。むしろ、それはますます「インテリジェントファイル（IntelligentFILE）」へと変化しつつあります。つまり、データ、指示、識別情報、コードなどの埋め込まれた知能を持ち、処理、開封、または送信された際に何らかの結果をもたらすアクションを引き起こすファイルのことです。

IntelligentFILE の最大の特徴は、その二面性にあります。同じオブジェクトが、ビジネス、コンプライアンス、信頼の原動力となり得る一方で、武器にもなり得ます。KYC パッケージには法的拘束力があり、それに基づいて下されるあらゆる決定には下流への影響が伴います。合成された AML データセットは、数百万件もの取引を管理するモデルの「真実の源」となります。 AIが生成したコンプライアンス報告書は、適切に管理されていれば正当なものですが、そうでなければデータ汚染の媒介となります。マルウェアが埋め込まれたPDFは、表面的な検査をすり抜け、内部に侵入した後に実行されるよう設計されています。AIが生成した送金指示書は、文脈的に正確で、取引相手と一致しており、構造的にも本物と見分けがつきません。

「協力的なバージョン」と「敵対的なバージョン」の違いは、表面的にはほとんど見分けがつかないが、そこがまさに核心的な問題である。

現在使用されている制御手段の多くは、機械生成ファイルにはもはや確実に存在しない特性からリスクを推測しています。シグネチャベースのマルウェア対策エンジンは、その脅威が過去に確認されたものであることを前提としていますが、生成モデルは既知のシグネチャを持たない新規のペイロードを生成します。 メールゲートウェイは、危険なファイルがメールで届くことを前提としていますが、現在では、ファイルはクラウドへのアップロード、API、Webフォーム、ポータル、コラボレーションツールなどを通じて流入しています。分類処理は、ファイルに作成者の情報や正確なメタデータが含まれていることを前提としていますが、機械生成されたファイルにはそれらが欠けており、合成データは実際の顧客レコードを模倣しています。

産地情報からは安全性が推測できると考えられていますが、その産地はますます、組織の境界の外にあるモデルとなりつつあります。

これこそが「保護のギャップ」です。これは、個々のツールの失敗ではなく、人間のペースで作成され、人間によって作成されたファイル向けに設計された制御手段と、そのどちらにも当てはまらないファイル群との間の、アーキテクチャ上の不整合なのです。

送信元がもはや信頼できないのであれば、制御ポイントを適応させる必要があります。セキュリティ対策は、ファイルが環境内に侵入した後に脅威を検知する方式から、指定された送信元や個々のエンジンによるフラグの有無にかかわらず、取り込みの瞬間にすべてのファイルを検査・浄化するという方式へと転換しなければなりません。プロヴェナンスは、推測する対象から、強制的に適用する対象へと変化するのです。

実際には、これは次のようなことを意味します。すなわち、検知よりも予防を優先すること、あらゆるチャネルを侵入経路として扱うこと、既知の悪意あるファイルを単に検知するだけでなく、アクティブなコンテンツを削除してファイルを再構築することで無害化すること、単一の検知エンジンに依存しないこと、そしてマシン生成データや合成データを、それ自体が管理対象となるデータクラスとして扱うことです。

市場はすでにこの方向へと再編が進んでいる――現在、セキュリティ責任者の96％が、AIを自社のサイバー防衛の中核と位置付けている（EY）。一方、セキュリティ侵害による平均コストは440万ドル近くに上る（IBM）。

適切に調整されたセキュリティ対策は、AIによって加速されたビジネスのペースを鈍らせる必要はありません。しかし、境界でのチェックを行うことで、ファイルの爆発的な増加が生産性を向上させつつ、無防備な脅威の標的となる領域を同程度に拡大させないよう確保できます。