「ビデオ会議で上司の顔を見て、声を聞いて、指示を受けた。だから送金した」――少し前まで、この判断を責められる担当者はいなかったはずです。その常識を覆したのが、2024年に報じられた英エンジニアリング企業Arupの香港拠点の事件です。財務担当者がビデオ会議で本社のCFO(最高財務責任者)らから指示を受け、約2億香港ドル(報道によれば約38億円)を送金。しかし会議に映っていた「CFOと同僚たち」は、全員がディープフェイク(AIで生成された本物そっくりの偽の映像・音声)だったと報じられています。
この事件が示したのは、単なる巨額被害の怖さではありません。「見た」「聞いた」という、人間が何百年も頼ってきた本人確認の手段が、証明として通用しなくなり始めたという事実です。今回は、この変化に会社としてどう備えるかを考えます。
何が起きたか ― 「会議室ごと偽物」という構図
報道によれば、この事件で担当者は最初から騙されきっていたわけではありません。発端となったメッセージには不審な点があり、担当者は一度疑いを持ったとされています。ところが、その後のビデオ会議に見知った顔ぶれが揃い、聞き慣れた声で指示が飛び交うのを目にして、疑いを解いてしまった。「怪しいと思ったから確認した。その確認の場である会議そのものが偽物だった」――ここがこの事件の核心です。
従来の詐欺メールは、不自然な日本語や差出人アドレスの違和感で見抜く余地がありました。ところがディープフェイクでは、「相手の顔を見て話す」という、これまで最も確実とされてきた確認行動そのものが攻撃の舞台になります。慎重な担当者ほど「念のため会議で確認しよう」と考え、その会議で説得されてしまう。真面目さが仇になる構図であることを、まず押さえておく必要があります。
もうひとつ見落とせないのは、この事件で使われた素材が、特別な内部情報ではなかったとみられる点です。役員の顔と声は、公開されている動画や登壇映像から集めることができます。つまり、どの会社でも同じことが起こりえます。「うちは狙われるほどの会社ではない」という感覚は、攻撃の手間が人手に依存していた時代の名残です。生成AIによって偽装のコストが下がった今、標的の裾野は確実に広がっています。
「見た・聞いた」の証拠能力が失われる
この脅威を支える技術は、すでに特別なものではありません。数秒から数十秒の音声サンプルがあれば、本人そっくりの声を合成する技術は一般に利用できる水準まで普及しています。そして経営者の声は、決算説明会、講演、採用動画、インタビューといった形で、すでに大量に公開されています。役職が上の人ほど、声と顔の「素材」が世の中に出回っているのです。
映像も同様です。静止画から動く顔を生成する技術や、ビデオ会議にリアルタイムで合成映像を流す技術が登場し、品質は年々向上しています。「電話の声で本人と判断する」「会議で顔が見えたから本人と判断する」という業務慣行は、こうした技術の前では構造的に脆弱です。個々の偽物を見抜けるかどうかという話ではなく、声と顔を本人確認に使う慣行そのものが、前提から崩れ始めていると捉えるべきです。
ここで「社員教育で見抜く力を鍛えよう」と考えるのは、方向としては自然ですが限界があります。不自然なまばたきや口元の動きといった「見抜くコツ」は、技術が一世代進めば通用しなくなるからです。教育で伝えるべきは見抜き方ではなく、「声と顔は証明にならない」という前提の転換そのものです。
防御は「技術」より「手順」
「ならばディープフェイクを検知するツールを入れればよい」と考えたくなりますが、これには限界があります。生成技術と検知技術はいたちごっこの関係にあり、検知をすり抜ける生成手法が次々に現れます。検知ツールは補助にはなっても、それだけに頼る防御は危険です。
確実に効くのは、技術ではなく手順です。原則はひとつ。重要な指示ほど、指示が来た経路とは別の経路で確認することです。具体的には、かかってきた電話にそのまま応じるのではなく、自分から社内名簿にある既知の番号へかけ直す「コールバック」。口頭やチャットの指示ではなく、社内システム上の承認ワークフローを通さなければ実行しないルール。あらかじめ本人同士で決めておいた合言葉による確認。いずれも地味ですが、攻撃者が偽装した経路の「外」で確認する限り、どれほど精巧なディープフェイクでも突破できません。
裏を返せば、「会議で指示されたから」「電話で本人の声だったから」を、送金や重要操作の根拠として認めないということです。これは業務ルールの問題であり、経営が決めれば明日から変えられます。
狙われやすい業務の棚卸し
次にやるべきは、自社の中で「音声・映像ベースの指示で動いてしまう業務」を洗い出すことです。狙われやすいのは、おおむね次のような業務です。
- 送金・支払いの実行(特に緊急・例外扱いの振込)
- 取引先の口座情報の変更(振込先変更の依頼は詐欺の定番です)
- 機密情報・顧客データの社外への提供
- アクセス権の付与やパスワードのリセット(情報システム部門への「本人を名乗る」依頼)
これらの業務について、「口頭・電話・ビデオ会議の指示だけでは実行しない。必ず別経路の確認を挟む」という手順を義務化します。ここで重要なのは例外を作らないことです。「社長からの電話だけは例外」といった抜け道は、攻撃者がまさに狙う穴になります。偉い人を装うのが、この種の詐欺の基本だからです。
棚卸しの際は、正規の手順だけでなく「実際の運用」も見てください。規程上はワークフロー承認が必須でも、急ぎの案件では電話一本で先に実行し、承認は後追い――という運用が黙認されている会社は少なくありません。攻撃者が突くのは、まさにこの「急ぎのときの抜け道」です。緊急時こそ確認を厚くする、と手順の設計思想を逆転させることが、ディープフェイク時代の要諦です。
経営としての初動 ― 「私の声でも手順を飛ばすな」と言う
この問題への備えは、経営者自身の一言から始まります。まず、「自分の声と顔は複製されうる」という前提に立つこと。そのうえで、全社に向けてこう明言することです。「私からの急ぎの電話やビデオ会議での指示であっても、決められた確認手順を飛ばすな。確認されて怒る私は偽物だと思え」と。
この種の詐欺は、権威と緊急性で現場の確認をためらわせることで成立します。「社長の指示を疑うのは失礼ではないか」「急ぎと言われたのに確認していたら叱られるのではないか」――その心理的なためらいこそが、攻撃者の最大の武器です。トップが先回りして「確認する部下が正しい」と宣言しておけば、現場は安心して手順を守れます。お金のかかる対策の前に、この一言が最も費用対効果の高い防御になります。
あわせて、主要な取引先にも「振込先の変更やまとまった支払いの依頼は、必ず別経路で確認させていただきます」と伝えておくとよいでしょう。確認の連絡を「疑われた」と受け取られない土壌を、平時のうちに作っておくためです。自社を装った偽の依頼から取引先を守ることにもつながり、信頼関係はむしろ深まります。なお、こうした対策を社内の誰が主管すべきかという体制の問題は、次回のAIセキュリティの所管で詳しく扱います。
DSB Consultingでは、ディープフェイク詐欺を想定した送金・承認プロセスの点検や、別経路確認ルールの整備を支援しています。自社のどの業務が狙われやすいか一度確認したい方は、無料相談をご利用ください。