Первые сверточные слои обычно обнаруживают простые признаки, такие как ребра, углы и текстуры. Последующие слои строят более абстрактные признаки, объединяя меньшие детали в более сложные структуры, такие как объекты и образцы.

Архитектура сверточных слоев включает следующие основные компоненты:

– Фильтры (ядра): это матрицы весов, которые применяются к небольшим окнам входного изображения. Количество фильтров определяет количество выходных каналов в сверточном слое.

– Размер окна (Kernel Size): это размер фильтра, который указывает на его область входного изображения. Часто используются фильтры размером 3x3 или 5x5.

– Шаг (Stride): это параметр, который определяет, насколько далеко перемещается фильтр при применении к изображению. Шаг 1 означает перекрытие, а шаг 2 – нет.

– Заполнение (Padding): это параметр, который позволяет сохранить размеры изображения после свертки. Заполнение добавляет нулевые значения вокруг входного изображения, чтобы убедиться, что фильтр может применяться к пикселям на границах.

Пример использования в GAN:

В генераторе, сверточные слои могут использоваться для увеличения размера скрытых представлений и создания более сложных структур изображений. Они могут быть задействованы в процессе декодирования входного вектора шума из латентного пространства в изображение.

В дискриминаторе, сверточные слои позволяют анализировать изображения и выделять важные признаки, которые помогают отличить реальные данные от сгенерированных.

Современные архитектуры GAN часто используют сверточные слои в различных комбинациях, таких как сверточные нейронные сети (CNN), сверточные автокодировщики (CAE) и условные GAN (cGAN). Эти архитектуры эффективно генерируют изображения, улучшают качество генерации и устойчивы к различным типам данных и задачам.

Сверточные слои являются ключевым инструментом для работы с изображениями в архитектурах GAN и имеют большое значение для успешной генерации и дискриминации данных.

2. Пакетная нормализация (Batch Normalization):

Пакетная нормализация (Batch Normalization) – это техника, применяемая в нейронных сетях, включая генеративные нейронные сети (GAN), для стабилизации обучения и улучшения производительности модели. Она была предложена в 2015 году и стала широко используемым методом для улучшения обучения нейронных сетей.

Основной проблемой, которую решает пакетная нормализация, является "внутренняя ковариация" (internal covariate shift). В процессе обучения распределение активаций слоев может меняться, что приводит к затуханию или взрыванию градиентов и, как следствие, замедлению сходимости модели. Пакетная нормализация решает эту проблему, нормируя активации каждого слоя по мини-пакетам обучающих данных.

Как работает пакетная нормализация:

На каждом шаге обучения пакетная нормализация нормирует активации каждого слоя по мини-пакетам обучающих данных, а не по отдельным примерам. Это помогает уменьшить дисперсию и выравнивает распределение активаций, что содействует стабильности обучения.

Для каждого слоя пакетной нормализации есть два настраиваемых параметра: масштабирование (scaling) и сдвиг (shift). Эти параметры позволяют модели учиться сдвигать и масштабировать нормализованные активации, чтобы сохранить гибкость обучения.

Во время инференса (применения модели на новых данных) параметры пакетной нормализации используются для нормализации активаций, но они могут быть заменены средними значениями и стандартными отклонениями активаций, вычисленными во время обучения.

В GAN, пакетная нормализация может быть применена как в генераторе, так и в дискриминаторе. Ее применение помогает стабилизировать обучение и предотвращает исчезновение или взрывание градиентов, что особенно важно при обучении глубоких моделей GAN.