生成AIは、組織を攻撃する新しい手口を生み出したわけではありません。最も古い手口、すなわち相手が信頼している人物になりすますという行為から、手間を取り除いたのです。
なりすましは、サイバー犯罪者にとって以前から好まれてきた手口です。マルウェアを開発するより安価で、ゼロデイを見つけるより迅速であり、あらゆる組織が機能するうえで依存しているもの、すなわち信頼を悪用します。変化したのはその経済性です。AIによって、なりすまし攻撃はより速く仕掛けられ、より説得力を持ち、より容易に規模を拡大できるようになっており、金銭的被害額にもそれが表れています。FBIのインターネット犯罪苦情センター（IC3）は、2025年だけでビジネスメール詐欺（BEC）による被害額が30億4,600万ドル（訳注：1ドル＝150円換算で約4,570億円）に達したと報告しており、これは米国において投資詐欺に次いで2番目に被害額の大きいサイバー犯罪のカテゴリーです。この数字にフィッシングおよび政府機関へのなりすましによる被害額を加えると、メールにおける信頼を悪用する攻撃に関連した被害総額は40億ドルを超え、前年比46%の増加となります。
01 なりすましリスクの新たな計算式
過去10年間の大半において、BECによる被害額は着実かつ予測可能な形で増加してきました。しかしAIが本格的に登場したことで、その曲線は予測可能なものではなくなりました。
FBIのインターネット犯罪苦情センターに年次で報告されたビジネスメール詐欺の被害額 出典：FBI IC3 年次インターネット犯罪報告書、2020年～2025年
FBIの2025年インターネット犯罪報告書 では、同局の25年の歴史において初めて「AI関連詐欺」というカテゴリーが導入され、AIを利用した手口に直接関連する2万2,000件を超える苦情と8億9,300万ドルの被害額が記録されました。 フィッシングメールにはAIが生成した文章が含まれる例が増えており、クローン音声、合成映像、AIが作成したスクリプトといったAI主導の要素は、ビジネスメール詐欺の試みにおいてますます大きな割合を占めるようになっています。
これらの数字の背後にあるパターンは一貫しています。攻撃者は新しい手口を生み出しているというより、従来の手口から手間を取り除いているのです。ドメインのなりすまし、類似ドメイン（lookalike domain）、侵害されたサプライヤーのアカウントといった、長年にわたりなりすまし被害を生み出してきた手口こそが、まさに今AIによって加速されているものです。
02 AIが書き換える攻撃の手引書
公表されたAI支援型のなりすましおよびBEC事案に基づく複合的なパターン
- 生成AIが違和感を消し去る: スパムフィルターやセキュリティ意識向上トレーニングといった従来型の防御策は、文法上の誤り、ありきたりな書き出し、稚拙な書式といった、攻撃者が不慣れな言語や文体で書いた際に残る「指紋」を検知するために作られてきました。生成AIはそうした指紋を消し去ります。大規模言語モデルが作成したおとり文面は、なりすまされている本人が書いたかのように読めます。なぜなら、ある意味において、まさにそう書くように学習しているからです。
- 類似ドメインを産業規模で: かつて類似ドメインを1つ登録するには手作業が必要でした。適切な文字の置き換えを見つけ、取得可能かを確認し、ホスティングを立ち上げるという作業です。しかし攻撃者は今や、ドメイン生成アルゴリズムと生成AIを組み合わせ、説得力のある類似ドメインを一度に数百単位で作成・展開しています。そのそれぞれには、標的とするブランドやサプライヤーに合わせてAIが作成したコンテンツが用意されています。これらのドメインは攻撃者自身が所有しているため、SPF、DKIM、DMARCのチェックを問題なく通過します。認証は、そもそも自社のものではないドメインを検知するようには設計されていません。
- ディープフェイクが攻撃を完結させる: かつてはテキストによるなりすましが攻撃のすべてでした。しかし今では、それは多くの場合、序章にすぎません。広く報じられたある事例 では、エンジニアリング企業Arup（アラップ）の財務担当従業員が2024年初頭、同社のCFOや複数の同僚に見える人物たちとのビデオ会議に参加しました。その会議に参加していた全員が、公開されている映像素材から作られたAI生成のディープフェイクでした。この従業員は、会議が実在しなかったと誰かが気づくまでに、総額およそ2,560万ドルにのぼる15件の送金を承認していました。
03 従来型の防御策では不十分な理由
ほとんどのメールセキュリティ基盤は、悪意のあるペイロード、すなわち不正なリンク、感染した添付ファイル、既知の不正送信者を検知するために作られています。なりすまし攻撃には、そうした要素がまったく含まれていないことが少なくありません。巧妙に作り込まれたBECメールには、サンドボックスで検査すべきリンクも、スキャンすべき添付ファイルもなく、あるのは受信者がすでに信頼している人物からの、説得力のある言い回しで書かれた依頼だけです。またDMARCのような認証プロトコルは不可欠ではあるものの、保護できるのは実際に自社が所有するドメインだけです。攻撃者が自ら登録した類似ドメインや、ひそかに侵害された正規のサプライヤーのアカウントを阻止することはできません。
そこになりすましの本当の難しさがあります。これは単一の解決策で対処できる単一の問題ではありません。なりすまされたドメイン、類似ドメイン、認証されていないアプリケーションからのメール、侵害された信頼済みアカウントといった、複数の重なり合う問題であり、そのすべてが同じ結末に収束します。すなわち、攻撃者があなたの信頼を借りて、誰かに行動を起こさせるという結末です。
04 多層的ななりすまし対策という選択
この課題に対処するには、単一の対策ではなく、層を重ねて構築された戦略が必要です。
自社が所有するものを認証する — SPFとDKIMに裏打ちされた強力なDMARCの強制適用により、攻撃者が自社のドメインそのものになりすます道を断ちます。
自社が所有していないものを監視する — 類似ドメインの継続的な検知により、自社ブランドやサプライヤーを模倣するために攻撃者が登録したドメインを、大規模に悪用される前に捕捉します。
信頼できる第三者を注視する — サプライヤーやパートナーが格好の標的となるのは、まさに自社のシステムがすでに彼らを信頼しているからです。サプライヤーリスクや侵害されたアカウントの挙動を可視化することで、この死角を解消します。
自動化しているものを保護する — アプリケーションからのメール、トランザクションメール、そして今や自律的にメールを送信するAIエージェントにも、人が送信するメールと同じ認証とポリシー制御が必要です。さもなければ、それらが最も悪用しやすい領域となってしまいます。
05 プルーフポイントによる支援
プルーフポイントがなりすましに多層的なアプローチで取り組んでいるのは、リスクそのものが多層的だからです。そのリスクはドメイン、アカウント、メッセージにまたがっており、そのメッセージが人によって書かれたものであれ、機械によって生成されたものであれ変わりはありません。
- SPF、DKIM、DMARCのホスト型サービスを、専門家による導入支援とともに提供します。これにより、DMARCの習得に伴う負担をお客様のチームだけで抱えることなく、強力な認証を強制適用できます。
- 数億件規模のドメインを継続的にスキャンし、自社ブランドやサプライヤーを標的とする悪意のある類似ドメインを検知するとともに、迅速なテイクダウン支援を組み合わせて提供します。
- 認証とポリシー制御を、アプリケーション、トランザクション、AIエージェントが生成するメールにまで拡張し、自動送信されるメッセージが攻撃者の侵入口とならないようにします。
- 振る舞いを分析するAIと脅威インテリジェンスにより、侵害されたサプライヤーのアカウントや乗っ取られたやり取りを通知し、対処を自動化して保護を維持します。
詳細についてはプルーフポイントのなりすまし対策ソリューション、またはなりすまし対策ソリューションを含むProofpoint Collaboration Security Primeをご覧ください。より詳しいご相談をご希望の場合は、担当者、あるいはお問い合わせフォームにてお気軽にお問い合わせください。
出典：FBI IC3 年次インターネット犯罪報告書（2020年～2025年）、FBI IC3 2025年AI関連詐欺データ、公表されたディープフェイクによるBEC事案。統計は公開時点のものであり、新たな報告書の公表に伴い変更される場合があります。
本ブログは英語ブログ「AI-Accelerated Impersonation: Why Trust Has Become the Attack Surface」の日本語訳です。英語原文との間で内容に齟齬がある場合には、英語原文が優先します。