Как распознать сгенерированные ИИ кадры (и не обмануться)

Генеративное видео улучшилось настолько быстро, что старый совет — считать пальцы, искать плавящийся текст — теперь часто не работает, причём в обе стороны. Практический подход — слой проверок: откуда пришёл клип, что делает движение, что говорят детали и что заявляет происхождение файла. Ни одна не решает вопрос; вместе они говорят, какую уверенность могут выдержать доказательства.

Начинать с источника, а не с пикселей

Прежде чем изучать кадр, выясните, кто опубликовал клип и когда. Найдите самую раннюю загрузку, затем прочитайте историю аккаунта: обычно ли он публикует такие кадры, и это оригинальный источник или репост? Ищите окружающую статью или пост, потому что клип, поданный как срочная новость, и клип, поданный как демо, несут разную доказательную нагрузку. Проверьте, подтвердили ли его независимо другие издания и загружался ли файл много раз. Перекодирование и репосты уничтожают мелкие визуальные подсказки, на которые опираются люди.

Спросите, что получает автор поста: аккаунт, гонимый за вовлечённостью, компания, продающая инструмент, и редакция с политикой исправлений — не одинаково надёжные рассказчики, что бы ни показывали пиксели.

Проверять движение и физику

Посмотрите клип на нормальной скорости, а затем покадрово. Сгенерированные кадры часто плохо справляются с контактом и весом: ступни скользят, руки проходят сквозь объекты, предметы меняют массу при подъёме. Жидкости, дым, ткань и волосы — частые точки отказа, как и толпы и фоновые персонажи, которые могут дрейфовать, сливаться или повторяться. Проверяйте отражения и тени на согласованность и саму камеру: у настоящей камеры есть физический затвор, оптика и стабилизатор, и её движение обычно имеет непрерывную причину.

Настоящие кадры тоже дают невозможные на вид моменты — rolling shutter, сильное сжатие, замедленная съёмка с низкой частотой кадров. Одна физическая ошибка — повод присмотреться, а не приговор.

Смотреть на детали под давлением

Текст, руки, зубы, уши, украшения, повторяющиеся узоры и края, где волосы встречаются с фоном, — места, где генеративные модели исторически ошибались. Текст может быть почти разборчивым, но не действительно читаемым. Пальцы могут странно сгибаться или слипаться. Фоновые лица могут быть размыты так, что скрывают структуру, или повторяться с небольшими отличиями. У краёв может быть мягкий ореол, не соответствующий глубине резкости.

Осторожность в том, что эти подсказки быстро устаревают. Нынешние инструменты справляются с руками и коротким текстом куда лучше, чем инструменты нескольких лет назад, а аккуратный оператор может исправить много артефактов на посте. Используйте проверку деталей, чтобы вызвать подозрение, а затем проверяйте в другом месте.

Проверять свет и оптику

Убедительная подделка должна воспроизводить поведение объектива: глубину резкости, соответствующую фокусному расстоянию, смаз движения, соответствующий затвору, шум сенсора, одинаковый по всему кадру, и экспозицию, которая разумно реагирует, когда камера переходит между светом и тенью. Сгенерированные клипы иногда показывают резкость, равномерную по всему изображению, или зерно, меняющееся от кадра к кадру, или направления света, которые расходятся у лица и фона.

Настоящие кадры могут выглядеть неправильно по тем же причинам: сильное шумоподавление, апскейл, фильтры и повторная цветокоррекция могут сгладить именно те подсказки, которые вы проверяете. Чистое изображение не доказывает подлинность.

Слушать звук

Для клипа с говорящим человеком голос часто — самый быстрый путь к сомнению. Слушайте дыхание, звуки рта, тон помещения и небольшие наложения естественной речи. Синтетические голоса могут звучать чисто в изоляции, но странно в комнате: нет вдоха перед длинной фразой, атмосфера не меняется, когда говорящий поворачивается, или движения губ опережают слова или отстают от них. Клонирование голоса — отдельная проблема от генерации видео, и каждое может быть подделано независимо.

Читать происхождение

Некоторые камеры, телефоны и монтажные программы умеют прикреплять подписанные метаданные о происхождении. C2PA — открытый технический стандарт для записи того, откуда пришёл контент и как его редактировали; Content Credentials — название этих метаданных в потребительских инструментах, а сервисы проверки могут показать подписанта и историю правок. Для видеоматериала это ближайшее к цепочке сохранности: он говорит, что заявляет устройство или приложение и кто подписал заявление.

Это не сыворотка правды. Метаданные можно удалить, платформы часто их вырезают, многие камеры ничего не подписывают, а подписанный клип всё равно может быть неверно маркирован. Отсутствие учётных данных ничего не доказывает. Присутствие — полезное свидетельство, особенно если оно называет известную камеру или издателя и показывает правдоподобную историю правок.

Чего подсказки доказать не могут

Каждый сигнал выше вероятностный, и честный вывод обычно — уровень уверенности, а не вердикт. Настоящие кадры могут показывать артефакты, особенно после сжатия, шумоподавления, апскейла или повторных репостов. Сгенерированные кадры могут быть безупречными, особенно в коротком клипе с малым движением. Инструменты-детекторы существуют, но они обучены против конкретных генераторов и выдают оценки, а не доказательства; новая модель или лёгкая перекраска может сдвинуть клип через границу детектора. Есть и ещё одна проблема: как только люди узнают, что подделки существуют, настоящие кадры начинают отвергать как подделку — динамика, которую иногда называют дивидендом лжеца.

Порядок ниже ставит проверку источника перед проверкой пикселей. Вопрос редко звучит как «синтетично ли это в абсолютном смысле?». Он звучит так: «чему мне следует верить и что мне следует говорить, что я верю?»

Проверка за десять минут

1. Найдите самую раннюю версию. Поищите характерную фразу или изображение из клипа и отметьте самый старый аккаунт, опубликовавший его.
2. Прочитайте аккаунт и окружающий пост. Определите мотив и то, заявляет ли автор, что он источник.
3. Проверьте независимые материалы. Поищите редакцию или специализированного фактчекера, который изучал клип.
4. Посмотрите раз на историю, раз на физику. Отметьте конкретные моменты, которые выглядят неправильно, с таймкодами.
5. Поищите происхождение. Проверьте наличие пина Content Credentials или просмотрщика метаданных и прочитайте подписанта.
6. Скажите, что знаете. Если ничего не подтверждено, опишите клип как непроверенный, а не как подделку или подлинник.

Если вы всё ещё не уверены

Не подавайте клип как факт и не подавайте его как доказанную подделку. Спросите человека, который его опубликовал, откуда он взялся, и сохраните ответ. Делитесь самым ранним источником, а не репостом. Если вы уже поделились чем-то, что оказалось синтетическим, исправьте это в том же месте и объясните подсказку — тихое удаление никого ничему не учит.

Эти навыки — обычная медиаграмотность, применённая к более быстрым инструментам. О том, как эти системы вообще создают материал, читайте в как работают видеомодели ИИ. Для словаря глоссарий AI-кино объясняет термины простыми словами. А для примера работы, сделанной ИИ, которая открыто говорит, чем она является, просмотрите путеводитель по короткометражкам, созданным с ИИ.