SenseTimeSenseTime2026/09/1750
Мы представляем SenseNova U1.5, нативно унифицированную мультимодальную модель, построенную на архитектуре 8B-MoT, которая понимает, анализирует и генерирует визуальный контент без внешних визуальных энкодеров или вариационных автоэнкодеров (VAE). Мы усовершенствовали визуальный интерфейс с помощью подхода реконструкции, который сохраняет пространственную когерентность между патчами изображения, а также масштабировали обучение с использованием отобранных данных генерации и редактирования, улучшенного моделирования задач, структурированного дополнения промптов и обучения при нативных разрешениях до 4K. На этапе постобучения мы раздельно оптимизируем специалистов по визуальной эстетике, двуязычному рендерингу текста, генерации инфографики и редактированию изображений, а затем объединяем их возможности с помощью многоэкспертной дистилляции в процессе обучения (on-policy).
Всесторонние оценки показывают, что SenseNova U1.5 достигает значительного прогресса в точности воспроизведения изображений, рендеринге текста, сложных композициях, редактировании с несколькими референсами и чередующейся генерации, одновременно улучшая следование инструкциям и сохраняя постоянство идентичности объектов, геометрической структуры и нередактируемых областей. Несмотря на ограниченное покрытие структурированных форматов в обучающих данных для генерации, модель эффективно генерализируется на длинные и сложные структурированные визуальные инструкции, что дополнительно демонстрирует способность мультимодального понимания переноситься на визуальное планирование и создание.
Эти результаты показывают, что нативная унифицированная модель открывает перспективный путь к сквозным системам, объединяющим восприятие, рассуждение и созидание. Мы откроем исходный код обучения, включая контролируемую тонкую настройку (SFT), обучение с подкреплением и дистилляцию в процессе обучения. Код и дополнительная информация о модели:https://www.sensenova.cn/
Обзор оценки SenseNova U1.5
Рисунок 1. Примеры генерации инфографики и людей моделью SenseNova U1.5.
Рисунок 2. Примеры редактирования изображений и генерации изображений по нескольким референсам моделью SenseNova U1.5.
1 Введение
В последние годы визуальная генерация быстро вышла за рамки традиционного синтеза изображений, став универсальной средой для визуального творчества. Теперь она включает в себя многоязычную типографику и верстку, дизайн с высокой плотностью информации, рендеринг высокого разрешения, композицию изображений по нескольким референсам, мелкозернистое редактирование объектов и фона, а также чередующуюся генерацию. Это расширение, однако, выявило фундаментальный архитектурный водораздел: большинство систем воспринимают изображения через предобученные визуальные энкодеры (VE), но генерируют их через вариационные автоэнкодеры (VAE). В результате понимание и генерация работают в разных пространствах представлений: первое оптимизировано для семантической абстракции, а второе — для точности на пиксельном уровне. Хотя такое разделение эффективно, оно ограничивает возможности совместной и бесшовной работы восприятия, рассуждений и генерации в рамках единой визуальной структуры для различных форм визуального творчества.
Нативная унифицированная модель использует иной подход, обучаясь напрямую на пикселях и тексте. SenseNova U1 продемонстрировала жизнеспособность этой парадигмы благодаря своей архитектуре NEO-unify, которая не зависит от внешних энкодеров или VAE и объединяет восприятие, рассуждения и генерацию в пространстве пикселей в единую сквозную модель. Тем не менее, ее намеренно облегченный визуальный интерфейс реконструирует каждый визуальный токен как независимый патч RGB-изображения. Будучи эффективным, этот факторизованный подход мешает финальному этапу формирования изображения обмениваться информацией между соседними патчами, из-за чего швы, разрывы текстур и геометрические несоответствия становятся все более заметными при высоких разрешениях.
В этой статье представлена SenseNova U1.5, нативно унифицированная мультимодальная модель с 8B-MoT для визуального понимания, рассуждения и генерации. Ее первый крупный вклад заключается в фундаментальном архитектурном сдвиге: от независимого предсказания патчей изображения к пространственной совместной реконструкции. Вместо того чтобы сопоставлять каждый визуальный токен с пикселями изолированно, мы проецируем токены в двумерное поле признаков и постепенно реконструируем изображение с помощью пространственных сверток и апсемплинга Pixel Shuffle. Это позволяет соседним областям обмениваться информацией до окончательного формирования пикселей, совместно определяя цвет, текстуру и геометрическую структуру вместо обработки каждого патча по отдельности. Полученный дизайн сохраняет эффективность компактной визуальной последовательности, существенно улучшая пространственную согласованность и поддерживая нативную генерацию в разрешениях до 4K.
Второе значительное достижение заключается в переходе от оптимизации совместной награды к стратегии «сначала специализация, затем унификация». Визуальное творчество охватывает принципиально разные возможности, включая генерацию изображений для визуальной эстетики, двуязычный рендеринг текста, дизайн инфографики и редактирование изображений. Каждая возможность задействует отличные друг от друга сигналы награды, динамику траекторий выборки и проблемы оптимизации. Совместная оптимизация этих возможностей в рамках одной политики может запутать конкурирующие цели и снизить прирост производительности в конкретных задачах. Поэтому мы сначала специализируемся, а затем унифицируем: для каждой возможности мы раздельно оптимизируем выделенных экспертов по обучению с подкреплением (RL), используя специально подобранные данные, награды, стратегии выборки и методы регуляризации, а затем интегрируем их взаимодополняющие сильные стороны посредством многоэкспертной дистилляции в процессе обучения. Эта дистилляция выполняется по собственным траекториям генерации модели-студента, сохраняя взаимодополняющие сильные стороны экспертов и одновременно перенося их возможности в единую политику.
Обширные оценки дополнительно показывают, что единое нативное визуальное представление может служить общей основой для понимания, рассуждения, генерации и редактирования — без параллельных путей визуальной обработки или повторяющихся преобразований между признаками энкодера и скрытыми пространствами VAE. Хотя каждая область размером 32×3 пикселя сжимается в один визуальный токен, это компактное представление по-прежнему поддерживает эффективный вывод, обеспечивая при этом высокую производительность в точности изображений, двуязычной верстке текста, сложных композициях, редактировании по нескольким референсам, чередующейся генерации, следовании инструкциям, сохранении визуального контента и мелкозернистом управлении. Что еще более примечательно, несмотря на ограниченную зависимость во время обучения от фиксированных шаблонов генерации, SenseNova U1.5 обобщается на более длинные, композиционные и высокоструктурированные визуальные инструкции. Это предполагает, что структурные знания и возможности планирования, приобретенные благодаря мультимодальному пониманию и рассуждениям, могут естественным образом переноситься на визуальное творчество. В совокупности эти результаты показывают, что нативная унификация — это больше, чем архитектурное упрощение: компактное, разделяемое визуальное представление может эффективно поддерживать как «видение», так и «создание», позволяя возможностям, усвоенным через одну форму визуального интеллекта, усиливать другую.
2 Связанные работы
2.1 Нативная унификация данных генерации изображений в мультимодальных моделях
Нативные зрение-языковые модели (VLM) обрабатывают визуальные входные данные напрямую, без использования внешних энкодеров. Такие модели, как Fuyu-8B, EVE, Mono-InternVL, NEO, Gemma4-12B и Inkling, неуклонно сокращают разрыв в производительности с ведущими модульными VLM. Параллельная тенденция наблюдается в области визуальной генерации: в недавних исследованиях пиксели моделируются напрямую, что демонстрирует отсутствие необходимости в высокосжатых латентных пространствах для высококачественного синтеза. Опираясь на эти достижения, все больше нативных унифицированных мультимодальных моделей стремятся объединить понимание и генерацию в рамках единой архитектуры. Дискретные нативные модели унифицируют мультимодальное обучение с помощью авторегрессии на уровне токенов, в то время как непрерывные нативные подходы исследуют сквозное (end-to-end) моделирование без явных токенайзеров или латентных узких мест. Развивая идеи NEO-unify, наша серия SenseNova-U продолжает движение в сторону полностью нативной базовой архитектуры, в которой понимание, рассуждение и генерация возникают на основе общей визуальной основы.
2.2 Обучение с подкреплением для диффузионных моделей
В языковом моделировании обучение с подкреплением на основе отзывов людей (RLHF) сформировало общую парадигму пострейнинга, в которой изученные награды направляют оптимизацию политик (policy optimization), а PPO обеспечивает стабильные обновления относительно эталонной политики. Примечательно, что GRPO и DAPO повышают эффективность и масштабируемость за счет отказа от явной модели ценности (value model), введения относительных преимуществ внутри группы и использования улучшенных стратегий онлайн-оптимизации. Онлайн-обучение с подкреплением также получило распространение в визуальной генерации: ReFL, DDPO и DPOK оптимизируют диффузионные модели с использованием наград на основе предпочтений или градиентов политики, в то время как AlignProp и D3PO повышают эффективность и снижают зависимость от явных моделей наград. Совсем недавно Flow-GRPO и DanceGRPO перенесли внутригрупповую относительную оптимизацию на диффузионные модели и модели сопряжения потоков (flow-matching), улучшив согласование с предпочтениями, точность композиции, отрисовку текста и визуальное качество.
Для моделей сопряжения потоков онлайн-обучение с подкреплением должно обеспечивать стохастическое исследование (exploration) помимо детерминированного вывода с помощью обыкновенных дифференциальных уравнений (ОДУ). Flow-GRPO реализует такое исследование посредством выборки траекторий на основе стохастических дифференциальных уравнений (СДУ). Выборка с сохранением коэффициентов (CPS) и Precise улучшают малогошаговую выборку за счет лучшего сохранения базовой динамики потока и балансировки исследования с верностью распределению. Помимо выборки, GRPO-Guard смягчает проблему чрезмерной оптимизации наград (reward overoptimization) посредством контролируемого усечения (clipping) и пересчета градиентов с учетом шума. Существующие подходы к обучению зрение-языковых моделей с подкреплением также опираются на специфичные для задач награды, включая модели предпочтений, оценивающие перцептивное качество и соответствие текста и изображения, а также специализированные награды за типографику и редактирование. Вдохновленные этими достижениями, мы используем пострейнинг с помощью обучения с подкреплением, зависящего от задачи, который объединяет выборку CPS или Precise с чередующимися наградами или наградами под конкретные задачи для удовлетворения различных требований оптимизации при генерации и редактировании.
2.3 Дистилляция on-policy для унифицированных моделей
Недавно дистилляция on-policy (OPD) решила проблему несоответствия распределений в традиционной дистилляции знаний, обеспечивая студента плотным контролем со стороны учителей на траекториях, сгенерированных самим студентом. Опираясь на эту парадигму, MOPD расширяет OPD для интеграции возможностей от нескольких учителей: независимо оптимизированные эксперты предметных областей контролируют траектории on-policy выборки студента, тем самым объединяя множество возможностей рассуждения в единую модель. Помимо языкового моделирования, OPD также применяется для мультимодального понимания и рассуждения, где учителя контролируют мультимодальные траектории, созданные студентами. Ее применения недавно расширились на визуальную генерацию. В частности, Flow-OPD, DiffusionOPD и DanceOPD дистиллируют специализированные под задачи генераторы вдоль траекторий шумоподавления, созданных студентом, используя сигналы согласованности учителя, сопоставление переходов и регрессию поля скоростей соответственно. В то же время DiffusionOPSD исключает внешнего учителя и использует градиенты дифференцируемых наград для построения ограниченной цели самодистилляции. Наш подход дополняет эти методы: вместо того чтобы заставлять все задачи использовать единую схему дистилляции, мы сохраняем четырех специализированных под задачи внешних экспертов и используем жесткую маршрутизацию (hard routing) для передачи их сигналов контроля в ту же нативную модель пиксельного пространства. Такой дизайн объединяет специализированные возможности, сохраняя при этом зависящие от задачи условные входные данные, методы гайданса и стратегии разрешения каждого эксперта.
3 Методология
3.1 Архитектура модели
Визуальный интерфейс SenseNova U1.5 практически без потерь сохраняет легкий нативный визуальный интерфейс, предложенный в NEO, напрямую преобразуя исходные изображения или зашумленные визуальные входы в компактные последовательности токенов без внешнего визуального энкодера или VAE. В частности, две сверточные проекции с активациями GELU выполняют 16-кратное и 2-кратное уменьшение дискретизации соответственно, благодаря чему каждая область изображения 32 × 32 соответствует одному визуальному токену. Двумерные синусоидальные позиционные эмбеддинги сохраняют пространственные координаты, а специальные токены разграничивают отдельные визуальные блоки. Текст токенизируется с помощью оригинального языкового токенайзера, после чего визуальные и текстовые представления проецируются в общее скрытое пространство и совместно обрабатываются унифицированным бэкбоном. Такой дизайн сохраняет практически без потерь визуальную информацию, удерживая при этом длину последовательностей в диапазоне, удобном для крупномасштабного мультимодального моделирования.
Рисунок 3. Обзор SenseNova U1.5. По сравнению с SenseNova U1, в версии U1.5 усовершенствован нативный визуальный интерфейс как на этапе кодирования, так и на этапе декодирования. Обусловливание шумом с учетом разрешения (resolution-aware noise conditioning) расширено до 4096 × 4096, а исходная выходная «голова» MLP для каждого блока изображения заменена легким пространственным декодером, использующим Pixel Shuffle и свертки 3 × 3. Эти улучшения сохраняют компактное представление, в котором каждая область пикселей 32 × 32 соответствует одному визуальному токену, одновременно повышая пространственную непрерывность, высокую точность передачи высокого разрешения и надежность в последующих задачах (downstream).
Таблица 1. Конфигурация SenseNova U1.5. Модель использует более высокий коэффициент пространственного сжатия, дизайн Pre-Buffer, нативный RoPE для унифицированного пространственно-временного кодирования и архитектуру Mixture-of-Transformers для совместного мультимодального понимания и генерации.
Для задач генерации эффективная амплитуда шума варьируется в зависимости от разрешения изображения, что делает разрешение важным условием для процесса деноизинга. SenseNova U1.5 явно внедряет эмбеддинги масштаба шума, зависящие от разрешения, и расширяет разрешение эталонного изображения с 2048 × 2048 до 4096 × 4096 для лучшей поддержки нативной генерации высокого разрешения. Модель нормализует и кодирует соответствующий масштаб шума, а затем объединяет его с представлением временного шага диффузии. Это позволяет деноайзеру учитывать как текущий этап деноизинга, так и характеристики шума, связанные с разрешением, что дает ему возможность более стабильно адаптироваться к различным разрешениям и соотношениям сторон.
Компактное разбиение изображений на блоки снижает затраты на моделирование изображений, однако независимое декодирование каждого блока изображения с помощью многослойного перцептрона (MLP) может нарушить локальную непрерывность, приводя к появлению швов, сеточных артефактов и разрывов текстур при высоких разрешениях. Чтобы решить эту проблему, SenseNova U1.5 заменяет исходный выходной слой MLP на легковесный пространственно-связанный декодер. Как показано на Рисунке 3, декодер сначала восстанавливает визуальные токены, выданные базовой сетью, до двумерной карты признаков, а затем постепенно реконструирует полноразмерное RGB-изображение с помощью трех этапов повышения разрешения Pixel Shuffle. Локальные свёртки между этапами позволяют соседним областям обмениваться информацией и совместно определять пиксели вблизи границ блоков изображения, а не прогнозировать каждый блок независимо.
Декодер восстанавливает локальные пространственные взаимодействия перед синтезом пикселей, что позволяет совместно оптимизировать глобальную семантику, композицию и мелкозернистую структуру в рамках единого сквозного фреймворка. Он обучается вместе с базовой сетью в рамках задачи сопоставления потоков (flow-matching). При лишь скромном увеличении вычислительных затрат он улучшает согласованность между патчами и локальную непрерывность, уменьшает краевые артефакты и повышает стабильность генерации высокого разрешения и нисходящей адаптации.
Нативный дизайн Mixture-of-Transformers. SenseNova U1.5 сохраняет нативный дизайн Mixture-of-Transformers (MoT), объединяя понимание и генерацию в единой архитектуре Transformer вместо разделения их на две полностью независимые сети. Контекст «чистое изображение — текст» и визуальные состояния, обусловленные шумом, чередуются в единой последовательности, что позволяет семантическим представлениям, визуальным свидетельствам и динамике генерации взаимодействовать напрямую через разделяемое самовнимание (self-attention). Такой дизайн позволяет процессу генерации непрерывно использовать представления, сформированные в ходе мультимодального понимания, без внедрения вспомогательных модулей слияния или межпространственных трансформаций признаков.
Паттерны внимания структурно спроектированы для координации авторегрессионного языкового моделирования с двунаправленным визуальным взаимодействием. Текстовые токены учитывают только предшествующий контекст, в то время как токены внутри каждого патча чистого изображения учитывают двунаправленный контекст для захвата пространственных зависимостей. Токены генерации, обусловленные шумом, аналогичным образом взаимодействуют двунаправленным образом внутри своих соответствующих патчей изображений и учитывают весь предшествующий чистый мультимодальный контекст. Обратный путь информации явно маскируется, что предотвращает доступ чистых представлений к случайно сгенерированным состояниям. Этот асимметричный поток информации позволяет процессу генерации использовать богатый семантический и визуальный контекст, сохраняя при этом целостность представлений, используемых для понимания и рассуждения.
Что особенно важно, архитектурная унификация не означает, что все позиции разделяют одни и те же параметры. Понимание и генерация сохраняют раздельные проекции внимания, слои нормализации и модули прямой связи (feed-forward), при этом токены динамически маршрутизируются по типу на каждом слое Transformer. Таким образом, разделяемое внимание служит интерфейсом для коммуникации между потоками, в то время как специфичные для потоков параметры сохраняют уникальные вычисления, необходимые для восприятия и синтеза. Эта комбинация плотного взаимодействия и специализации параметров позволяет обоим направлениям извлекать выгоду из общего пространства представлений, не навязывая их различные цели оптимизации одному и тому же вычислительному пути.
Унифицированные цели обучения. SenseNova U1.5 объединяет авторегрессионное языковое моделирование, сопоставление потоков в пространстве пикселей (pixel-space flow matching) и перцептивное супервизирование для совместного обучения возможностей понимания и генерации в рамках одной модели.
Для мультимодального понимания модель последовательно предсказывает последующие текстовые токены на основе существующего контекста изображения и текста, а также предшествующего текста. Повышая вероятность правильных предсказаний, она осваивает семантическое понимание и мультимодальные рассуждения.
Для визуальной генерации модель изучает непрерывное преобразование из шума в изображения непосредственно в пространстве пикселей RGB. Во время обучения реальные изображения смешиваются с гауссовским шумом, масштаб которого настраивается под целевое разрешение, создавая зашумленные состояния, соответствующие различным этапам генерации. На основе этих состояний модель предсказывает чистое изображение и использует его для оценки скорости траектории генерации, после чего минимизирует разницу между предсказанной и целевой скоростями с помощью функции потерь сопоставления потоков (flow-matching loss).
Опираясь на эту основу, модель внедряет перцептивные потери LPIPS для сравнения предсказанных и эталонных изображений в пространстве признаков. Это дополнительно ограничивает структурную согласованность, локальную текстуру и визуальную когерентность, дополняя сигнал надзора в пространстве пикселей. Три типа потерь объединяются с помощью весов и оптимизируются совместно, что позволяет семантическому пониманию, генерации изображений и ограничениям визуального качества работать в унисон, благодаря чему высокоуровневая семантика и низкоуровневая визуальная генерация изучаются совместно в рамках единого представления.
3.2 Процесс обучения
SenseNova U1.5 постепенно развивает нативные мультимодальные возможности посредством генеративного претренинга, унифицированного промежуточного обучения и унифицированной донастройки с учителем (этапы 1–3), как подробно описано в Таблице 2. Затем модель проходит обучение, ориентированное на конкретные возможности (этап 4), и дистилляцию с единой политикой для множества экспертов (этап 5).
Таблица 2. Конфигурация обучения для SenseNova U1.5.
Этап 1: Генеративное предварительное обучение. Опираясь на предварительно обученную ветку понимания, мы случайно инициализируем генеративную ветку и обучаем ее с использованием сопоставления потоков в пространстве пикселей, обусловленного представлениями, предоставляемыми замороженной веткой понимания. SenseNova U1.5 увеличивает вычислительный бюджет и вводит специализированный этап нативного обучения в разрешении 4K. На начальном этапе используется текст-изображение данные с разрешениями от 256×256 до 1024×1024. На этом этапе обучение ведется в течение 180 тыс. шагов с постоянной скоростью обучения 2×10 и длиной последовательности 8196. Затем мы расширяем данные текст-изображение до более высоких разрешений от 512×512 до 4096×4096, чтобы улучшить возможности модели по нативной генерации 4K. Этот этап длится 100 тыс. шагов с постоянной скоростью обучения 1×10 и увеличивает длину последовательности до 20 480. На заключительном этапе мы внедряем задачи редактирования изображений и чередующейся генерации и продолжаем обучение в течение 185 тыс. шагов, расширяя генеративные возможности модели на широкий спектр сценариев последующей обработки. Смешанные обучающие данные состоят из 60% данных текст-изображение, 30% данных редактирования изображений и 10% чередующихся данных изображение-текст. Мы используем косинусное расписание скорости обучения, снижая скорость обучения с 1×10 до 2×10, при этом сохраняя длину последовательности 20 480. Начиная с этого этапа, мы добавляем перцептивную потерю на основе LPIPS к цели сопоставления потоков с весом 0,1, чтобы улучшить генерацию мелкозернистых визуальных деталей и локальной визуальной когерентности. Примечательно, что эта комбинированная генеративная цель остается неизменной на последующих этапах унифицированного промежуточного обучения и контролируемой точной настройки.
Этап 2: Унифицированное промежуточное обучение. Мы совместно оптимизируем обе ветки, используя совместное внимание для облегчения обмена информацией между ветками при сохранении специфичных для задач представлений. Для балансировки универсальных мультимодальных возможностей с разнообразными генеративными возможностями мы создаем смешанный корпус, состоящий из 30% чистых текстовых и мультимодальных данных понимания, 40% данных текст-изображение, 20% данных редактирования изображений и 10% чередующихся данных изображение-текст. Эта смесь предоставляет модели взаимодополняющие формы восприятия, синтеза, редактирования и мультимодального взаимодействия во время унифицированного обучения. Модель обучается в течение 80 тыс. шагов с максимальной длиной последовательности 32 768 токенов и постоянной скоростью обучения 2×10. Веса потерь понимания и генерации составляют 0,1 и 1,0 соответственно. Такое взвешивание помогает сохранить предварительно обученные возможности понимания, одновременно назначая больший вес оптимизации более сложной генеративной цели, обеспечивая стабильное совместное обучение и более эффективную интеграцию возможностей.
Этап 3: Унифицированная контролируемая точная настройка. Мы провели дальнейшую точную настройку модели на тщательно отобранных высококачественных данных следования инструкциям с составом задач, аналогичным Этапу 2. Этот этап еще больше улучшил следование инструкциям и закрепил возможности, приобретенные в ходе раннего обучения, в единой модели. Обучение длилось 10,5 тыс. шагов с использованием косинусного расписания скорости обучения, снижая скорость обучения с 2×10 до 0 при сохранении тех же коэффициентов потерь, что и на Этапе 2, для поддержания баланса между целями понимания и генерации.
Рисунок 4. Процесс послеобучения для SenseNova U1.5, включая мультиэкспертное обучение с подкреплением и дистилляцию on-policy.
Этап 4: Мультиэкспертное обучение с подкреплением. Как показано на рисунке 4, мы обучили четырех экспертов отдельно для эстетики, рендеринга текста, генерации инфографики и редактирования изображений. Каждый эксперт использовал специфичные для задачи данные, вознаграждения, семплирование и настройки регуляризации.
(1) Эстетический эксперт. Оптимизация только под визуальные предпочтения может улучшить общий вид в ущерб удобочитаемости текста. Поэтому мы чередовали данные эстетических предпочтений и данные типографики в течение эпох обучения, чтобы обучить эстетического эксперта. Образцы из каждого раздела данных направлялись на специфичные для задач вознаграждения: HPSv3++ оценивал перцептивное качество и соответствие подсказки изображению, в то время как двуязычное вознаграждение OCR на основе PaddleOCR измеряло точность текста. Такая маршрутизация позволила избежать смешивания вознаграждений с разными масштабами и семантикой при сохранении точности типографики во время оптимизации предпочтений.
Для каждого промпта мы сгенерировали 16 результатов-кандидатов, используя траектории из 30 шагов, шкалу руководства 4,0 и сдвиг временного шага 3. Мы использовали семплирование с сохранением коэффициентов (CPS) с η = 0,7, чтобы уменьшить артефакты ограниченного числа шагов, связанные с обычным SDE-семплированием, и одновременно ввести стохастическое исследование.
3.3 Моделирование вознаграждения
4 Построение данных
4.1 Данные генерации изображений
4.2 Данные редактирования изображений
4.3 Чередующиеся данные изображения-текст
4.4 Данные для обучения с подкреплением
5 Эксперименты
5.2 Генерация изображений
5.3 Редактирование изображений