AI生成映像を見分ける方法（自分を欺かないために）

生成映像は十分に速く進歩したので、指を数える、溶ける文字を探すといった昔の助言は、今ではしばしば失敗し、しかも両方向に失敗する。実践的なのは層になった確認だ。クリップがどこから来たか、動きが何をしているか、細部が何を語るか、ファイルの来歴が何を主張するか。どれも決定的ではない。合わせて、証拠がどれだけの確信を支えられるかを教えてくれる。

ピクセルではなく出所から始める

フレームを調べる前に、誰がいつクリップを投稿したかを見つける。最初のアップロードを検索し、アカウントの履歴を読む。普段こうした映像を投稿するのか、元の出所か転載か。周辺の記事や投稿を探す。速報として提示されたクリップと、デモとして提示されたクリップでは、証明の負担が違う。他の媒体が独自に検証しているか、ファイルが何度も再アップロードされていないかも確認する。再エンコードと転載は、人が頼る小さな視覚的手がかりを壊す。

投稿者が何を得るのかを問う。エンゲージメントを追うアカウント、ツールを売る企業、訂正方針を持つ報道機関は、ピクセルが何を示そうと、同じ信頼度の語り手ではない。

動きと物理を確認する

通常速度で見て、次にフレームごとに見る。生成映像は接触と重さでしばしば苦戦する。滑る足、物体を通り抜ける手、持ち上げると質量が変わる物体。液体、煙、布、髪はよくある失敗点で、群衆や背景の人物も同様だ。漂流し、融合し、繰り返すことがある。反射と影の整合性を見て、カメラ自体も見る。本物のカメラには物理的なシャッター、レンズ、スタビライザーがあり、その動きにはたいてい連続した原因がある。

本物の映像も不可能に見える瞬間を生む。ローリングシャッター、強い圧縮、低フレームレートのスローモーション。物理の誤りが一つあることは、もっとよく見る理由であって、判決ではない。

圧力の下で細部を見る

文字、手、歯、耳、装身具、繰り返し模様、髪と背景の境目は、生成モデルが歴史的に滑ってきた場所だ。文字は実際に読めるのではなく、ほとんど読める程度かもしれない。指は奇妙に曲がったり融合したりする。背景の顔は構造を隠すようにぼやけていたり、小さな違いを伴って繰り返されたりする。輪郭には被写界深度と合わない柔らかいハローが出ることがある。

注意すべきは、こうした痕跡はすぐに古くなることだ。現在のツールは数年前より手や短い文字をはるかにうまく扱い、慎重な作業者はポストで多くのアーティファクトを直せる。細部の確認は疑いを生むために使い、検証は別の場所で行う。

光と光学を確認する

説得力のある偽物はレンズの振る舞いを再現しなければならない。焦点距離に合う被写界深度、シャッターに合うモーションブラー、フレーム全体で一貫するセンサーノイズ、カメラが明暗の間を動くときに理にかなって反応する露出。生成クリップは時に、画像全体で均一なシャープさ、ショットごとに変わる粒子、顔と背景で食い違う光の方向を示す。

本物の映像も同じ理由でおかしく見える。強いノイズ除去、アップスケーリング、フィルター、再グレーディングは、まさに確認している手がかりを平らにする。きれいな画像は真正性の証拠ではない。

音を聴く

トーキングヘッドのクリップでは、声が疑いへの最短経路であることが多い。呼吸、口の雑音、ルームトーン、自然な会話の小さな重なりを聴く。合成音声は単体ではきれいに聞こえても、部屋の中では奇妙になる。長い文の前に呼吸がない、話し手が振り向いても環境音が変わらない、唇の動きが言葉より先か後になる。声のクローンは映像生成とは別の問題で、どちらも独立に偽造できる。

来歴を読む

一部のカメラ、スマートフォン、編集ツールは署名された来歴メタデータを付加できる。C2PA はコンテンツがどこから来てどう編集されたかを記録するオープンな技術標準で、Content Credentials はそのメタデータの消費者向けツールでの名称であり、検証サービスは署名者と編集履歴を表示できる。映像にとって、これは保管の連鎖に最も近いものだ。あるデバイスやアプリが何を主張し、誰がその主張に署名したかを教えてくれる。

万能薬ではない。メタデータは削除でき、プラットフォームはしばしば剥がし、多くのカメラは何も署名せず、署名済みのクリップでも誤ってラベル付けされうる。資格情報がないことは何も証明しない。存在すれば有用な証拠で、特に既知のカメラや発行者を名指しし、もっともらしい編集履歴を示す場合は。

痕跡が証明できないこと

上のどの信号も確率的で、正直な結論はたいてい判決ではなく確信の度合いだ。本物の映像も、圧縮、ノイズ除去、アップスケーリング、度重なる転載の後にアーティファクトを示しうる。生成映像も、動きの少ない短いクリップでは完璧でありうる。検出ツールは存在するが、特定の生成器に対して訓練されており、証明ではなくスコアを出す。新しいモデルや軽い再グレーディングで、クリップは検出器の境界を越える。さらに深い問題がある。偽物の存在を知った人々は、本物の映像を偽物として退ける。この力学は時に「嘘つきの配当」と呼ばれる。

以下のワークフローは、ピクセルの確認より出所の確認を先に置く。問いはめったに「これは絶対的な意味で合成的か」ではない。「何を信じるべきか、そして何を信じていると言うべきか」だ。

10分間のチェック

1. 最も古い版を見つける。 クリップの特徴的なフレーズや画像を検索し、それを投稿した最も古いアカウントを記録する。
2. アカウントと周辺の投稿を読む。 動機を特定し、投稿者が自らを出所と称しているかを見る。
3. 独立した報道を確認する。 クリップを検証した報道機関や専門の検証者がいないか探す。
4. 物語として一度、物理として一度見る。 おかしく見える具体的な瞬間をタイムスタンプ付きで記す。
5. 来歴を探す。 Content Credentials のピンやメタデータビューアを確認し、署名者を読む。
6. 知っていることを言う。 何も確認できていなければ、偽物か本物かではなく未検証と表現する。

それでも確信が持てないなら

クリップを事実として提示せず、証明済みの偽物としても提示しない。投稿した人にどこから来たのかを尋ね、答えを記録する。転載ではなく最も古い出所を共有する。すでに合成的だと分かったものを共有してしまっていたら、同じ場所で訂正し、その痕跡を説明する。静かな削除は誰も教えない。

これらの技能は、より速いツールに適用した普通のメディアリテラシーだ。これらのシステムがそもそもどう映像を生成するかはAI動画モデルの仕組みを参照。語彙はAI映画用語集が平易な言葉で扱う。そして自分が何であるかに率直なAI作品の例としては、AI生成短編映画ガイドを眺めてほしい。