ディープフェイクを、顔の崩れや不自然な声だけで確実に見分ける方法はありません。最初に送金・ログイン・拡散を止め、元データを保存し、出所と文脈を調べ、本人へ別の連絡手段で確認することが重要です。画像・動画・音声の違和感や検出ツールの判定は、断定材料ではなく追加確認のきっかけとして扱います。
ディープフェイク（deepfake）とは、深層学習などを使って人物の顔、動き、声を本物らしく合成・変換したコンテンツの総称です。高度な合成は自然に見え、本物の映像も圧縮や暗所撮影で不自然に見えるため、「見た目当て」だけでは誤判定が起こります。
この記事では、個人や小規模な組織でも実行できる15項目の確認手順と、相談時に渡せる記録票を紹介します。犯罪者の特定や真偽の断定ではなく、追加被害を防ぎ、根拠を保全し、適切な窓口へつなぐことが目的です。
情報確認日：2026年7月20日（日本時間）
結論：見た目より「行動・出所・別経路確認」を優先する
疑わしい画像・動画・音声を受け取った直後の順番
- 送金、認証コード共有、リンク操作、再投稿を止める
- 投稿URL、送信者、時刻、元ファイルを変更せず保存する
- 公式サイトや既知の電話番号など、別経路で本人・組織へ確認する
- 出所、過去の投稿、報道、Content Credentialsを照合する
- 画像・動画・音声の兆候と検出結果を複数の材料として記録する
- 被害や脅迫があれば、所属組織、サービス運営者、警察等へ相談する
IPAは2026年のAIセキュリティ情報で、生成AIにより外見だけで詐欺師を見破ることが難しくなったとして、重要な依頼を一つの手段だけで確認しない考え方を示しています。「動画が本物に見えるから送金する」ではなく、「登録済み番号へ自分から電話し、社内の承認経路でも確認する」のように手段を分けます。
最初に拡散と追加被害を止める
緊急性を演出する依頼ほど一度止まる
音声や映像の真偽を調べる前に、相手が求める行動を確認します。次の依頼が含まれる場合は、コンテンツが本物に見えても処理を止めてください。
- 今すぐの送金、暗号資産、ギフトカード購入
- パスワード、ワンタイムコード、本人確認書類の共有
- 遠隔操作ソフトの導入、QRコードや短縮URLの読み取り
- 秘密にするよう求める連絡、通常と異なる口座・手順の指定
- 刺激的な映像を「確認前に広めて」と促す投稿
FTCやFBIも、声や表示名を信用せず、自分が以前から知っている電話番号・連絡先へ折り返して確認するよう案内しています。相手から示された番号は、攻撃者が用意した連絡先かもしれません。
元データを変更せず保全する
スクリーンショットだけでなく、可能なら投稿URL、アカウント名、受信日時、メッセージ全体、元ファイルを保存します。SNSから再ダウンロードしたり、編集アプリで開いて保存し直したりすると、metadata（メタデータ：撮影日時や形式などの付随情報）が失われる場合があります。
注意：違法性が疑われる性的画像や児童に関する画像は、むやみに複製・転送しないでください。URL、時刻、送信者など必要最小限を記録し、サービス運営者や警察等の窓口へ相談します。
ファイルを扱える場合は、hash（ハッシュ：ファイル内容から計算する照合用の値）を記録すると、後から同じファイルか確認できます。macOSやLinuxでは次のようにSHA-256を計算できます。
shasum -a 256 suspicious-video.mp4ハッシュ値は真偽を証明しません。「調査中にファイルが変わっていないか」を確認するための記録です。元ファイルは読み取り専用の複製を作り、解析は複製側で行うと安全です。
出所と文脈を確認する
最初の投稿と公式発表を探す
切り抜き動画では、映像自体が本物でも字幕や投稿文が偽っている場合があります。投稿者が引用した元URLをたどり、人物・組織の公式サイト、認証済みアカウント、会見の全編、信頼できる複数の報道を照合します。
画像は逆画像検索を使い、過去の掲載日や別の説明文を探します。同じ画像が数年前の出来事として公開されていれば、「今回の事件を写した画像」という主張は誤りです。見つからないことは本物の証明にはなりません。
本人へ独立した経路で確認する
独立確認とは、疑わしいメッセージの返信先を使わず、別に保管してある連絡先から確認することです。家族なら普段の電話番号、会社なら社員名簿や代表番号、取引先なら契約書に記載された連絡先を使います。
合言葉だけに依存しない：家族間の合言葉は有効な補助策ですが、会話やSNS投稿から推測される可能性があります。折り返し電話、別の家族への確認、送金保留などを組み合わせます。
Content Credentialsを確認する
Content Credentials（コンテンツ認証情報）とは、C2PAという標準に基づき、作成・編集・署名などの来歴を示す仕組みです。対応サービスでは、誰がどの機器・ソフトウェアで作成し、どの編集が加わったかを確認できる場合があります。
ただし、認証情報があるだけで内容が真実とは限らず、認証情報がないだけで偽物とも限りません。投稿サイトの変換処理で情報が外れたり、画面録画で来歴が引き継がれなかったりするためです。C2PA自身も、来歴は真実判定そのものではないと説明しています。
画像・動画の不整合を探す
視覚上の兆候は「疑わしさを上げ下げする材料」です。単一フレームだけでなく、前後の動き、音声、光源、背景、元投稿の文脈を合わせて見ます。
| 確認箇所 | 疑わしい兆候の例 | 誤判定しやすい原因 |
|---|---|---|
| 顔の境界 | 髪、耳、眼鏡、歯の輪郭が動くたびに変わる | 低解像度、強い手ぶれ補正、背景ぼかし |
| 光と影 | 顔と首で光の方向や色が合わない | 複数照明、HDR、画面からの反射 |
| 口と音声 | 子音の瞬間や横顔で口の動きがずれる | 配信遅延、吹き替え、Bluetooth遅延 |
| 時間的一貫性 | ほくろ、指輪、ロゴ、文字がフレームごとに変わる | 動画圧縮、モーションブラー、可変フレームレート |
| 物理的整合性 | 鏡・窓の反射、遮蔽物、手と物の重なりが不自然 | 広角レンズ、ローリングシャッター、合成編集 |
HDRは明暗差を合成する撮影処理、モーションブラーは動いた被写体のぶれ、可変フレームレートは場面に応じて1秒あたりの画像数が変わる方式です。どれも本物の映像に不自然さを生むため、兆候を見つけても「生成AI製」と即断しません。
静止画だけでなく連続するフレームを見る
動画を一時停止し、顔が横を向く瞬間、手が顔の前を通る瞬間、照明が変わる瞬間を確認します。生成・合成処理は、遮蔽物や急な向きの変化で一貫性を保ちにくいことがあります。一方、SNSの再圧縮でも同じ箇所にブロック状の乱れが生じます。
切り抜きで判断せず、可能なら発言の前後を含む長い映像を探してください。短いクリップでは文脈改変、音声の差し替え、別場面の接合を見落としやすくなります。
音声とmetadataを検証する
音声は声質より会話の条件を確認する
音声クローンは本人らしい声質を再現できます。声の高さだけでなく、話し方、固有の言い回し、周囲の音、質問への反応を確認します。ただし、秘密の質問を次々に投げると個人情報を相手へ渡すことになるため、会話を長引かせず別経路で本人へ連絡します。
- 呼吸音や環境音が不自然に途切れないか
- 感情、抑揚、間の取り方が内容と合っているか
- 返答が質問を避け、定型文や緊急性の強調を繰り返していないか
- 通常と異なる連絡手段、口座、秘密保持を指定していないか
回線品質、ノイズ除去、翻訳音声、病気などでも声は変わります。声の違和感は本人を疑う理由ではなく、行動を保留して確認手段を増やす理由です。
metadataは補助情報として読む
ExifToolやffprobeを利用できる場合は、解析用の複製からファイル形式、作成日時、エンコーダー、映像・音声の長さを確認できます。
exiftool suspicious-image.jpg
ffprobe -hide_banner suspicious-video.mp4編集ソフト名が記録されていても、通常の色補正や字幕追加かもしれません。逆に、metadataは削除・変更できるため、カメラ情報がなくても偽物とは限りません。主張、出所、連絡経路、ファイル内容と組み合わせて判断します。
検出結果を断定せず対応する
AI検出ツールは確率的な補助にとどめる
検出ツールは、対象形式、生成方式、圧縮率、言語、学習データによって結果が変わります。同じファイルを複数のツールで調べても判定が割れることがあります。「AI生成の可能性90%」という表示も、法的な真偽判定や人物の意図を証明するものではありません。
業務で使う場合は、元ファイルを外部サービスへアップロードしてよいか先に確認してください。機密会議、顧客情報、顔・声などの個人情報を、利用規約や保存条件を確認せず検出サービスへ送らないようにします。安全なAI利用の基本は生成AIを安全に使う方法も参照してください。
15項目のチェックリスト
- 行動を止めた：送金、共有、ログイン、再投稿を保留した
- URLを記録した：投稿・プロフィール・添付元のURLを保存した
- 時刻を記録した：受信・閲覧・削除確認の時刻とタイムゾーンを残した
- 元ファイルを保全した：可能な範囲で再保存せず保存した
- ハッシュを記録した：解析前後で同じファイルか照合できるようにした
- 独立確認した：既知の電話番号や公式窓口から本人・組織へ確認した
- 元投稿を探した：切り抜き前の映像、会見、公式発表を確認した
- 過去画像を照合した：逆画像検索等で別の日時・文脈を探した
- 来歴情報を確認した：Content Credentialsの有無と内容を見た
- 連続フレームを見た：境界、遮蔽、反射、文字の一貫性を確認した
- 音声条件を見た：口の動き、環境音、会話の反応、依頼内容を確認した
- metadataを読んだ：形式、日時、エンコーダーを補助情報として記録した
- 外部情報を照合した：公式発表と信頼できる複数の情報源を確認した
- 断定を避けた：兆候と確認済み事実を分けて記録した
- 相談・報告した：被害に応じて所属組織、サービス、警察等へ連絡した
インシデント記録票
| 記録項目 | 記入例 |
|---|---|
| 発見日時 | 2026-07-20 14:32 JST |
| 媒体・URL | メッセージアプリ、投稿URL、送信元ID |
| 相手の要求 | 30分以内の送金、口外禁止 |
| 保全ファイル | 元ファイル名、SHA-256、保存場所 |
| 確認済み事実 | 既知番号へ折り返し、本人は送信を否定 |
| 未確認・兆候 | 口元のずれ、metadataなし。真偽は未断定 |
| 実施した対応 | 送金停止、アカウント報告、社内窓口へ連絡 |
| 相談先・受付番号 | サービス受付番号、警察相談日時 |
インシデント（incident）は、情報セキュリティ上の事故や事故につながる出来事です。記録票では、観察した兆候と確認できた事実を分けます。「顔が不自然だった」は兆候、「本人が既知番号で送信を否定した」は確認結果です。
被害・脅迫・なりすましへの対応
送金済みなら金融機関や決済事業者へ直ちに連絡し、ログイン情報を渡した場合は正規サイトからパスワード変更、セッションの無効化、多要素認証、端末確認を行います。会社の情報が関係する場合は、個人で調査を続けず情報システム・法務・広報など所定の窓口へ報告してください。
なりすまし投稿は、投稿URLと時刻を記録してからサービスの報告機能を使います。被害、脅迫、名誉・プライバシー侵害が疑われる場合は警察や専門窓口へ相談します。公開の場で相手を犯人と断定すると、誤認や二次被害につながるため避けます。
組織内の承認経路、緊急連絡、証拠保全をあらかじめ決める場合は、企業向け生成AI利用ガイドラインの作り方も参考にしてください。
よくある質問
目や指が不自然ならAI生成ですか？
断定できません。生成AIの兆候である可能性はありますが、圧縮、暗所、広角レンズ、手ぶれ補正でも形が崩れます。元データ、連続フレーム、出所、別経路確認を組み合わせます。
metadataが消えていたら偽物ですか？
いいえ。SNSやメッセージアプリは、アップロード時にmetadataを削除することがあります。metadataが残っていても変更できるため、存在・不在のどちらも単独の決め手にはなりません。
検出ツールで本物と出たら信用できますか？
単独では信用できません。未対応の生成方式や再圧縮によって偽陰性が起こります。本物を偽物と判定する偽陽性もあります。重要な意思決定は、独立確認と複数の証拠に基づいて行います。
本物の動画でも危険なことはありますか？
あります。本物の映像に偽字幕を付ける、別の音声へ差し替える、前後を切って意味を変える手口があります。ディープフェイク検出だけでなく、元発言と文脈の確認が必要です。
まとめ：真偽当てより、被害を止めて根拠を積み上げる
ディープフェイクの品質は上がり続けるため、顔や声の不自然さだけに依存する対策は長続きしません。重要な依頼を止める、既知の連絡先で確認する、原本と時刻を保全する、出所と来歴を調べるという手順は、生成方法が変わっても有効です。
検出結果は「本物・偽物」のラベルではなく、次に何を確認するか決める材料として使います。15項目の記録を残し、金銭・アカウント・脅迫・名誉に関わる場合は、個人で断定せず適切な窓口へ早めにつないでください。