От продавца поступает новое объявление. Фотография товара четкая, хорошо освещена и привлекательна. Настоящее ли это фото товара? Подлинное фото, доработанное с помощью генеративной заливки? Или изображение, которого не касалась ни одна камера?
Для многих команд маркетплейсов честный ответ заключается в том, что никто не знает, и выясняется это после того, как объявление публикуется. Покупатель жалуется, оформляется возврат с отметкой «не соответствует описанию», либо другой продавец сообщает о краже его фотографии. К этому моменту ущерб, нанесенный объявлению и доверию покупателей к платформе, уже нанесен.
Этот пробел становится еще более важным сейчас, когда регуляторы обращают внимание на синтетический медиаконтент. Положения Закона ЕС об искусственном интеллекте о прозрачности вводят обязательства по раскрытию информации для некоторого контента, созданного и измененного с помощью ИИ. Даже там, где закон не применяется, ожидания остаются прежними: платформы должны знать, что они публикуют.
Ответ на вопрос до того, как изображение будет опубликовано — это задача обнаружения контента, созданного ИИ. Создать такую возможность — простая часть задачи. Обеспечить ее точность — сложная часть.
Инструменты генерации изображений выпускают обновления с периодичностью в несколько месяцев, а иногда и недель. Каждый релиз изменяет характерные артефакты, которые детекторы научились распознавать: текстуру кожи, то, как свет падает на металл, текст, напечатанный на этикетке. Модель, обученная на прошлогодних результатах, ищет отпечатки пальцев, которые инструменты этого года уже не оставляют.
Это превращает модерацию ИИ-контента в проблему обслуживания, а не в разовую разработку. Скрипт или классификатор, обученный один раз и оставленный без внимания, незаметно деградирует. Точность падает, и никто этого не замечает, пока синтетические изображения не начинают проникать в больших объемах.
Стандарты происхождения, такие как C2PA, помогают там, где они существуют. Манифест C2PA содержит защищенную от несанкционированного доступа запись о том, откуда взялось изображение и как оно редактировалось. Но большинство фотографий, загружаемых продавцами, поступают без цифровых меток контента, и у любого, кто выдает поддельное изображение за настоящее, нет причин их добавлять. Для стороннего контента обнаружение по-прежнему выполняет основную работу.
«Создано ли это с помощью ИИ?» — это лишь один из вопросов, которые вызывает фотография продавца. Полезный уровень обнаружения проверяет несколько параметров одновременно, поскольку каждый из них представляет собой способ, которым изображение может ввести покупателя в заблуждение. Как минимум, это означает четыре проверки:
- Изображения, созданные ИИ. Модели обнаружения помечают визуальные материалы, которые выглядят синтетическими, чтобы рендер товара не выдавался за фотографию реального изделия.
- Изображения из интернета. Обратный поиск изображений позволяет находить фотографии, скопированные у другого ритейлера, с сайта производителя или из объявления конкурента — это знак того, что у продавца может не быть товара в наличии.
- Водяные знаки и промо-значки. Выявление водяных знаков со стоковых сайтов, наклеек о распродажах и других наложений помогает удерживать объявления в рамках правил, к тому же эти отметки часто показывают, что изображение было заимствовано из другого источника.
- Дубликаты и почти полные дубликаты. Обнаружение одного и того же изображения, либо его слегка обрезанной или перекрашенной версии в разных объявлениях мешает одной фотографии заменять множество товаров или препятствует повторному использованию чужих снимков товаров продавцами.
В совокупности они охватывают распространенные типы нарушений: сфабрикованные, заимствованные, брендированные и переработанные материалы. Детектор, который отвечает только на первый вопрос, оставляет остальные три открытыми. Cloudinary Moderation включает в себя встроенные проверки для всех четырех пунктов.
Флаг (отметка) — это еще не решение. Как только изображение отмечается как возможно созданное ИИ или взятое из интернета, должен быть способ решить, что делать дальше: одобрить его, отклонить или отправить на рассмотрение человеку.
Эффективная модерация ИИ-контента делает эту маршрутизацию очевидной. Cloudinary Moderation сортирует входящие изображения и видео на одобренные, отклоненные или требующие проверки, с указанием четкой причины для каждого результата. Очевидные случаи разрешаются автоматически. Двусмысленные, например подлинная фотография товара с фоном, созданным ИИ, направляются модератору, который может оценить контекст.
ИИ выполняет первичную обработку в объемах, с которыми не справится ни одна команда; люди принимают окончательное решение там, где важна экспертная оценка. Поскольку система модерации настраивается в соответствии с вашими собственными правилами, именно ваша политика определяет, что считается приемлемым, а не настройки поставщика по умолчанию.
История изменений важна так же, как и сам флаг. Когда продавец оспаривает отклонение или команда по соблюдению нормативных требований спрашивает, почему изображение было опубликовано, вам нужно показать, что было проверено, что было обнаружено и кто принял решение. Контрольный журнал делает каждое решение по модерации тем, которое вы можете объяснить и обосновать.
Рассмотрим платформу ресторанов, которая получает негативные отзывы с прикрепленными фотографиями некачественно приготовленной еды. Если эти фотографии были созданы ИИ или скопированы с другого сайта, они ничего не доказывают. Однако для каждого посетителя, прокручивающего отзывы, они выглядят как доказательство. Ресторан несет репутационный ущерб, а отзывы на платформе становятся менее достоверными для всех.
Маркетплейсы сталкиваются с той же динамикой. Замените блюдо на объявление о товаре: синтетическая фотография, приукрашивающая товар, приводит к возвратам и жалобам, а скопированное фото искажает представление о том, что есть у продавца на самом деле. В любом случае ущерб наносится авторитету платформы, а не только одному объявлению.
Решение заключается в том, чтобы перехватывать эти изображения при загрузке, до публикации. Это разница между тихим отклонением и проблемой публичного доверия.
Большинство команд контент-операций смогли бы создать первую версию детектора ИИ-изображений. Мало кто хочет нанимать сотрудников для поддержания его точности: отслеживания новых генеративных моделей, сбора свежих примеров, переобучения, повторной валидации и начала работы с нуля при выходе следующего релиза.
В этом и заключается реальная ценность поддерживаемого стека модерации. Любой вендор может продемонстрировать детектор, который работает сегодня. Важно то, кто поддерживает его работоспособность по мере изменения инструментов генерации ИИ-изображений. Когда обнаружение работает внутри вашей медиаплатформы, обновления происходят централизованно, а ваша команда тратит время на политику и нестандартные случаи, а не на техническое обслуживание моделей.
Это также позволяет оставить модерацию в том же рабочем процессе, что и все остальное, что вы делаете с фотографиями продавцов. Помеченные материалы можно просматривать и исправлять без переключения инструментов, а одобренные — сразу передавать на трансформацию и доставку.
Cloudinary Moderation проверяет изображения и видео, загруженные продавцами, поставщиками, партнерами и клиентами на соответствие вашим правилам до того, как они будут опубликованы. Система может:
- Обнаруживать контент, созданный ИИ, заимствованный из интернета, содержащий водяные знаки и дубликаты.
- Направлять каждый объект на одобрение, отклонение или проверку человеком с указанием четкой причины.
- Там, где это возможно, предлагать или применять исправления с помощью инструментов трансформации Cloudinary.
Генеративные инструменты будут продолжать меняться, и ваша модерация должна идти в ногу с ними. Узнайте, как Cloudinary Moderation проверяет каждое отправленное пользователем фото до того, как его увидят покупатели.
Достоверность ИИ-контента — это практика подтверждения того, откуда взялось изображение или видео и были ли они созданы или изменены с помощью ИИ. Для маркетплейсов это означает понимание того, показывает ли фотография продавца реальный товар до того, как его увидят покупатели. Cloudinary Moderation выполняет эти проверки по мере поступления изображений в ваш рабочий процесс.
Модели обнаружения анализируют изображение на предмет паттернов, оставляемых генеративными инструментами, и возвращают уровень достоверности. Результаты носят вероятностный характер, поэтому наиболее надежный подход объединяет обнаружение с обратным поиском изображений и проверкой человеком в неопределенных случаях. Cloudinary Moderation включает в себя правила для изображений, созданных ИИ, и проверки на оригинальность.
C2PA — это открытый стандарт для учетных данных контента (Content Credentials), представляющий собой защищенную от подделок запись о происхождении и истории редактирования изображения. Большинство фотографий, загружаемых продавцами, поступают без учетных данных, поэтому платформам по-прежнему необходимы средства обнаружения стороннего контента. Прочитайте о том, как Cloudinary поддерживает стандарт C2PA.
Обязательства по прозрачности, предусмотренные Статьей 50 Закона ЕС об искусственном интеллекте (EU AI Act), вступили в силу 2 августа 2026 года. Они устанавливают требования к маркировке и раскрытию информации для разработчиков и развертывающих определенные системы ИИ. Проконсультируйтесь с вашей юридической командой о том, как эти правила применяются к вашей платформе.
Проверяйте четыре параметра: изображения, созданные ИИ, изображения, скопированные из интернета, водяные знаки или рекламные бейджи, а также дубликаты. Добавьте правила контроля качества и композиции, такие как разрешение и фон, чтобы поддерживать единый стиль объявлений. Узнайте, как Cloudinary работает со сторонним визуальным контентом.
Ваша команда. ИИ выполняет первичную проверку, и каждый актив получает результат «Одобрено», «Требуется проверка» или «Отклонено» с пояснением. Проверяющие могут отменить любой результат. В статье о запуске Cloudinary Moderation подробно описан процесс проверки.
Cloudinary Moderation включает бесплатный тарифный план для оценки сервиса на вашем собственном контенте. Обнаружение изображений, созданных ИИ, обнаружение изображений из веб-источников и автоматическая модерация при загрузке доступны на продвинутых тарифах. Попробуйте Moderation в консоли Cloudinary или сравните тарифные планы.
