Capas de normalización

Capas de normalización personalizadas para admitir varios modelos en 🤗 Diffusers.

AdaLayerNorm

clase diffusers.models.normalization.AdaLayerNorm

( embedding_dim: intnum_embeddings: int | None = Noneoutput_dim: int | None = Nonenorm_elementwise_affine: bool = Falsenorm_eps: float = 1e-05chunk_dim: int = 0 )

Parámetros

embedding_dim (int) — El tamaño de cada vector de embedding.
num_embeddings (int, opcional) — El tamaño del diccionario de embeddings.
output_dim (int, opcional) —
norm_elementwise_affine (bool, por defecto `False) —
norm_eps (bool, por defecto False) —
chunk_dim (int, por defecto 0) —

Capa de normalización modificada para incorporar embeddings de paso de tiempo.

AdaLayerNormZero

clase diffusers.models.normalization.AdaLayerNormZero

< source >

( embedding_dim: intnum_embeddings: int | None = Nonenorm_type = 'layer_norm'bias = True )

Parámetros

embedding_dim (int) — El tamaño de cada vector de embedding.
num_embeddings (int) — El tamaño del diccionario de embeddings.

Capa de normalización adaptativa: normalización de capa cero adaptativa (adaLN-Zero).

AdaLayerNormSingle

clase diffusers.models.normalization.AdaLayerNormSingle

< source >

( embedding_dim: intuse_additional_conditions: bool = False )

Parámetros

embedding_dim (int) — El tamaño de cada vector de embedding.
use_additional_conditions (bool) — Si se deben usar condiciones adicionales para la normalización o no.

Capa de normalización adaptativa: normalización de capa única adaptativa (adaLN-single).

Como se propone en PixArt-Alpha (ver: https://huggingface.co/papers/2310.00426; Sección 2.3).

AdaGroupNorm

clase diffusers.models.normalization.AdaGroupNorm

< source >

( embedding_dim: intout_dim: intnum_groups: intact_fn: str | None = Noneeps: float = 1e-05 )

Parámetros

embedding_dim (int) — El tamaño de cada vector de embedding.
num_embeddings (int) — El tamaño del diccionario de embeddings.
num_groups (int) — El número de grupos en los que separar los canales.
act_fn (str, opcional, por defecto None) — La función de activación a utilizar.
eps (float, opcional, valor predeterminado 1e-5) — El valor de epsilon a utilizar para la estabilidad numérica.

Capa GroupNorm modificada para incorporar embeddings de paso de tiempo.

AdaLayerNormContinuous

clase diffusers.models.normalization.AdaLayerNormContinuous

< source >

( embedding_dim: intconditioning_embedding_dim: intelementwise_affine = Trueeps = 1e-05bias = Truenorm_type = 'layer_norm' )

Parámetros

embedding_dim (int) — Dimensión de embedding a utilizar durante la proyección.
conditioning_embedding_dim (int) — Dimensión de la condición de entrada.
elementwise_affine (bool, defaults to True) — Boolean flag to denote if affine transformation should be applied.
eps (float, por defecto 1e-5) — Factor epsilon.
bias (bias, por defecto True) — Bandera booleana para indicar si se debe usar sesgo.
norm_type (str, por defecto "layer_norm") — Capa de normalización a utilizar. Valores admitidos: “layer_norm”, “rms_norm”.

Capa de normalización adaptativa con una capa de normalización (layer_norm o rms_norm).

RMSNorm

clase diffusers.models.normalization.RMSNorm

< source >

( dimeps: floatelementwise_affine: bool = Truebias: bool = False )

Parámetros

dim (int) — Número de dimensiones a usar para weights. Solo es efectivo cuando elementwise_affine es True.
eps (float) — Valor pequeño que se utiliza al calcular el recíproco de la raíz cuadrada.
elementwise_affine (bool, defaults to True) — Boolean flag to denote if affine transformation should be applied.
bias (bool, por defecto False) — Si también se entrena el parámetro bias.

RMS Norm, tal como se introdujo en https://huggingface.co/papers/1910.07467 por Zhang et al.

GlobalResponseNorm

clase diffusers.models.normalization.GlobalResponseNorm

< source >

( dim )

Parámetros

dim (int) — Número de dimensiones a utilizar para gamma y beta.

Normalización de respuesta global, tal como se introdujo en ConvNeXt-v2 (https://huggingface.co/papers/2301.00808).

LuminaLayerNormContinuous

clase diffusers.models.normalization.LuminaLayerNormContinuous

< source >

( embedding_dim: intconditioning_embedding_dim: intelementwise_affine = Trueeps = 1e-05bias = Truenorm_type = 'layer_norm'out_dim: int | None = None )