AI가 만든 영상을 알아보는 방법 (스스로를 속이지 않으면서)

생성 영상은 빠르게 좋아져서, 손가락을 세고 녹아내리는 텍스트를 찾으라는 옛 조언은 이제 자주 실패하고 양방향으로 실패한다. 실용적 접근은 점검의 층이다: 클립이 어디서 왔는지, 움직임이 무엇을 하는지, 세부가 무엇을 말하는지, 파일의 출처가 무엇을 주장하는지. 어느 것도 결정적이지 않다. 함께 보면 증거가 지탱할 수 있는 확신의 정도를 알려 준다.

픽셀이 아니라 출처에서 시작한다

프레임을 연구하기 전에 누가 언제 클립을 게시했는지 찾는다. 가장 이른 업로드를 검색하고 계정 이력을 읽는다: 평소 이런 푸티지를 올리는가, 원출처인가 재게시인가? 주변 기사나 게시물을 찾는다. 속보로 제시된 클립과 데모로 제시된 클립은 증명 부담이 다르다. 다른 매체가 독립적으로 검증했는지, 파일이 여러 번 재업로드되었는지 확인한다. 재인코딩과 재게시는 사람들이 의존하는 작은 시각적 단서를 파괴한다.

게시자가 무엇을 얻는지 묻는다: 참여를 좇는 계정, 도구를 파는 회사, 정정 정책이 있는 뉴스룸은 픽셀이 무엇을 보여 주든 똑같이 신뢰할 만한 화자가 아니다.

움직임과 물리를 확인한다

정상 속도로 본 다음 프레임 단위로 본다. 생성 푸티지는 접촉과 무게에 자주 어려움을 겪는다: 미끄러지는 발, 물체를 통과하는 손, 들어 올릴 때 질량이 바뀌는 물체. 액체, 연기, 천, 머리카락은 흔한 실패 지점이고, 군중과 배경 인물도 흐트러지거나 합쳐지거나 반복될 수 있다. 반사와 그림자의 일관성을 보고, 카메라 자체도 본다: 실제 카메라는 물리 셔터, 렌즈, 스태빌라이저가 있고 그 움직임에는 보통 연속적인 원인이 있다.

실제 푸티지도 불가능해 보이는 순간을 만든다 — 롤링 셔터, 심한 압축, 낮은 프레임 레이트의 슬로모션. 물리 오류 하나는 더 자세히 보라는 이유이지 판결이 아니다.

압박 아래 세부를 본다

텍스트, 손, 치아, 귀, 장신구, 반복 패턴, 머리카락이 배경과 만나는 경계는 생성 모델이 역사적으로 미끄러진 곳이다. 텍스트는 실제로 읽히기보다 거의 읽힐 듯할 수 있다. 손가락은 이상하게 휘거나 합쳐질 수 있다. 배경 얼굴은 구조를 숨기는 방식으로 흐려지거나 작은 차이로 반복될 수 있다. 경계에는 피사계 심도와 맞지 않는 부드러운 후광이 있을 수 있다.

주의할 점은 이런 단서가 빠르게 낡는다는 것이다. 현재 도구는 몇 년 전 도구보다 손과 짧은 텍스트를 훨씬 잘 다루고, 신중한 작업자는 후반에서 많은 아티팩트를 고칠 수 있다. 세부 점검은 의심을 만드는 데 쓰고, 검증은 다른 곳에서 한다.

빛과 광학을 확인한다

설득력 있는 가짜는 렌즈의 동작을 재현해야 한다: 초점 거리에 맞는 피사계 심도, 셔터에 맞는 모션 블러, 프레임 전체에서 일관된 센서 노이즈, 카메라가 빛과 그림자 사이를 이동할 때 합리적으로 반응하는 노출. 생성 클립은 때때로 이미지 전체에 균일한 선명도, 숏마다 바뀌는 그레인, 얼굴과 배경 사이에서 어긋나는 조명 방향을 보여 준다.

실제 푸티지도 같은 이유로 잘못 보일 수 있다: 강한 노이즈 제거, 업스케일링, 필터, 재색보정은 당신이 확인하는 단서를 정확히 평평하게 만들 수 있다. 깨끗한 이미지는 진본성의 증거가 아니다.

오디오를 듣는다

토킹 헤드 클립에서 목소리는 종종 의심으로 가는 가장 빠른 길이다. 호흡, 입 소리, 룸 톤, 자연스러운 말의 작은 겹침을 듣는다. 합성 음성은 단독으로는 깨끗하게 들리지만 방 안에서는 이상할 수 있다: 긴 문장 전에 호흡이 없고, 화자가 돌아설 때 앰비언스가 바뀌지 않고, 입 움직임이 말보다 앞서거나 뒤처진다. 음성 복제는 영상 생성과 별개의 문제이며 각각 독립적으로 위조될 수 있다.

출처를 읽는다

일부 카메라, 휴대폰, 편집 도구는 서명된 출처 메타데이터를 붙일 수 있다. C2PA는 콘텐츠가 어디서 왔고 어떻게 편집되었는지 기록하는 공개 기술 표준이고, Content Credentials는 소비자 도구에서 그 메타데이터에 쓰이는 이름이며, 검증 서비스는 서명자와 편집 이력을 보여 줄 수 있다. 푸티지에서 이것은 관리 연속성에 가장 가까운 것이다: 기기나 애플리케이션이 무엇을 주장하는지, 누가 그 주장에 서명했는지 알려 준다.

만능 진실 묘약은 아니다. 메타데이터는 제거될 수 있고, 플랫폼은 자주 이를 벗겨내며, 많은 카메라가 아무것도 서명하지 않고, 서명된 클립도 잘못 라벨될 수 있다. 자격 증명의 부재는 아무것도 증명하지 않는다. 존재는 유용한 증거이며, 특히 알려진 카메라나 발행자를 지목하고 그럴듯한 편집 이력을 보여 줄 때 그렇다.

단서가 증명하지 못하는 것

위의 모든 신호는 확률적이며, 정직한 결론은 보통 판결이 아니라 확신 수준이다. 실제 푸티지도 아티팩트를 보일 수 있고, 특히 압축, 노이즈 제거, 업스케일링, 반복 재게시 후에는 그렇다. 생성 푸티지는 흠 하나 없을 수 있고, 특히 움직임이 적은 짧은 클립에서 그렇다. 탐지 도구도 있지만 특정 생성기에 맞춰 학습되어 증거가 아니라 점수를 낸다. 새 모델이나 가벼운 재색보정이 클립을 탐지기의 경계 너머로 옮길 수 있다. 그리고 문제가 하나 더 있다: 사람들이 가짜의 존재를 알게 되면 진짜 푸티지가 가짜로 치부된다. 이 역학을 때때로 거짓말쟁이의 배당금이라고 부른다.

아래 워크플로는 픽셀 점검보다 출처 점검을 앞에 둔다. 질문은 “이것이 절대적 의미에서 합성인가?”인 경우가 드물다. “나는 무엇을 믿어야 하고, 무엇을 믿는다고 말해야 하는가?”이다.

10분 점검

1. 가장 이른 버전을 찾는다. 클립의 특징적인 문구나 이미지를 검색하고, 그것을 올린 가장 오래된 계정을 기록한다.
2. 계정과 주변 게시물을 읽는다. 인센티브를 파악하고 게시자가 원출처라고 주장하는지 본다.
3. 독립 보도를 확인한다. 클립을 검토한 뉴스룸이나 전문 검증 기관을 찾는다.
4. 이야기를 위해 한 번, 물리를 위해 한 번 본다. 이상해 보이는 특정 순간을 타임스탬프와 함께 기록한다.
5. 출처를 찾는다. Content Credentials 핀 또는 메타데이터 뷰어가 있는지 확인하고 서명자를 읽는다.
6. 아는 것을 말한다. 확인된 것이 없으면 가짜나 진짜라고 하지 말고 미검증이라고 설명한다.

여전히 확신이 서지 않는다면

클립을 사실로 제시하지 말고, 증명된 가짜로도 제시하지 않는다. 게시자에게 어디서 왔는지 묻고 답을 기록한다. 재게시본이 아니라 가장 이른 출처를 공유한다. 이미 합성임이 밝혀진 것을 공유했다면 같은 자리에서 정정하고 단서를 설명한다. 조용한 삭제는 아무도 가르치지 못한다.

기술은 더 빠른 도구에 적용한 평범한 미디어 리터러시다. 이 시스템이 애초에 어떻게 푸티지를 만드는지는 AI 영상 모델은 어떻게 작동할까를 보라. 어휘는 AI 영화 용어집이 쉬운 말로 다룬다. 그리고 AI로 만든 작업이 자신이 무엇인지 공개하는 예를 보려면 AI 생성 단편 영화 가이드를 둘러보라.