Эти модели отвечают на вопрос, настоящая ли запись: не подменено ли лицо на видео, живой ли человек перед камерой, не синтезирован ли голос, не сгенерирована ли картинка или текст. Важно понимать границы: любой такой детектор ошибается в обе стороны, поэтому его вывод — повод для проверки человеком, а не доказательство. Ставятся такие модели на своём сервере, чтобы спорные материалы не уходили наружу.
Водяной знак для картинок любого разрешения, сделанный для инициативы Content Authenticity: умеет и ставить метку, и снимать её. Детектор ошибается в обе стороны — вывод проверяет человек.
Лёгкий детектор сгенерированных картинок, обученный на 2,7 млн примеров почти от 5000 разных генераторов. Ошибается в обе стороны: результат — повод для проверки человеком, а не доказательство.
Проверка присланных фото и иллюстраций
Фильтрация ИИ-картинок в потоке контента
Разметка подозрительных изображений для ручной проверки
Ранний и до сих пор используемый подход: поверх замороженного CLIP обучается простой классификатор, который переносится на незнакомые генераторы. Ошибается в обе стороны — вывод требует проверки человеком.
Проверка изображений от новых, незнакомых генераторов
Базовая линия при сравнении детекторов
Быстрое внедрение проверки без дообучения крупной модели
Водяной знак для видео и картинок, устойчивый к перекодированию и обрезке. Детектор ошибается в обе стороны: отсутствие метки не доказывает подделку, а её находка — повод для проверки человеком.
National Institute of Informatics, Yamagishi Lab · Япония
Семь речевых энкодеров (wav2vec 2.0, XLS-R, MMS, HuBERT), дообученных различать живую и синтезированную речь. Разработчики сами отмечают: качество сильно зависит от набора данных, вывод проверяет человек.
IBM Research и The Chinese University of Hong Kong · США
Детектор ИИ-текста, обученный вместе с перефразировщиком: его специально учили не сдаваться, когда текст переписали своими словами. Ошибается в обе стороны, вывод проверяет человек.
Проверка текстов, которые могли переписать после генерации
Предварительный отсев в редакции или приёмной комиссии
The Chinese University of Hong Kong, Shenzhen (SCLBD) · Китай
Набор из десятков открытых детекторов подмены лица на видео и фото под общим кодом и с готовыми весами. Детектор ошибается в обе стороны: его вывод — повод для проверки человеком, а не доказательство подделки.
Первичная проверка присланного видео или селфи
Сравнение нескольких детекторов на своих данных
Дообучение детектора под свой поток заявок
Размеры
детекторы уровня Xception и EfficientNet, десятки миллионов параметров
Водяной знак для картинок, который можно поставить на отдельные участки: модель показывает, какая часть изображения помечена. Ошибается в обе стороны — итог проверяет человек.
Пометка сгенерированных и отредактированных изображений
Xiaohongshu, USTC и Shanghai Jiao Tong University · Китай
Детектор ИИ-картинок из нескольких экспертов: одни смотрят на визуальные артефакты, другие на шум. Вместе с ним выпущен сложный набор Chameleon. Ошибается в обе стороны — итог проверяет человек.
Проверка реалистичных ИИ-изображений без явных артефактов
Ищет следы монтажа и показывает картой, какие участки изображения выглядят изменёнными: подходит для сканов договоров, справок и фото документов. Ошибается в обе стороны — решение принимает человек.
Проверка сканов справок и договоров на правку
Подсветка изменённых участков фото для эксперта
Отсев явно перерисованных документов до ручной проверки
Размеры
трансформерная модель с картой подозрительных областей
Свежий открытый детектор ИИ-текста на DeBERTa-v3-large, обучен на наборе RAID; есть отдельная версия под учебные работы. Ошибается в обе стороны — итог всегда проверяет человек.
Незаметная метка в синтезированной речи и быстрый детектор, который находит её даже в куске длинной записи. Детектор ошибается в обе стороны: срабатывание — повод для проверки человеком, а не доказательство.
Пометка речи, синтезированной вашим сервисом
Поиск своей метки в чужих публикациях
Проверка, не подмешан ли синтез в запись разговора
Размеры
генератор и детектор водяного знака, 16 бит сообщения
Детектор ИИ-текста на Longformer: держит длинный документ целиком и обучен на текстах от множества разных языковых моделей. Ошибается в обе стороны, его вывод — повод для проверки человеком.
Открытая модель поиска подделок в изображениях: выдаёт попиксельную маску изменённых участков. Ошибается в обе стороны, её карта — подсказка эксперту, а не доказательство подделки.
Поиск вклеенных и затёртых фрагментов на фото
Проверка сканов документов на правку
Базовая линия при сравнении моделей поиска монтажа
Один из первых открытых классификаторов ИИ-текста, обучен на корпусе HC3 из пар ответов человека и ЧатГПТ. Ошибается в обе стороны: его вывод — повод поговорить с автором, а не доказательство.
Предварительная проверка учебных работ
Отсев шаблонных откликов и отзывов
Разметка подозрительных текстов для ручной проверки
Развитие AASIST: вместо сырого звука берётся речевой энкодер wav2vec 2.0, из-за чего модель лучше держится на незнакомых способах синтеза. Ошибается в обе стороны — итог проверяет человек.
Базовая открытая модель против подмены голоса: слушает сырую запись и отличает живого человека от синтеза и записи. Ошибается в обе стороны — её вывод повод для проверки человеком, а не доказательство.
Практически единственный полностью открытый набор весов для проверки живого лица по одному кадру: отличает человека от фото, экрана или маски. Ошибается в обе стороны — отказ должен уметь оспорить человек.
Открытую модель можно поставить на свой сервер: данные не уходят в чужое облако, нет оплаты за каждый запрос, модель можно дообучить на ваших документах.
ПодберуМодель и размер под задачу и бюджет на железо
ПоставлюНа ваш сервер или в закрытый контур, с API
