Diffusers documentation
Normalizasyon katmanları
Normalizasyon katmanları
🤗 Diffusers'ta çeşitli modelleri desteklemek için özelleştirilmiş normalizasyon katmanları.
AdaLayerNorm
sınıf diffusers.models.normalization.AdaLayerNorm
< source >( embedding_dim: intnum_embeddings: int | None = Noneoutput_dim: int | None = Nonenorm_elementwise_affine: bool = Falsenorm_eps: float = 1e-05chunk_dim: int = 0 )
Adım (timestep) gömmelemelerini (embeddings) içerecek şekilde değiştirilen Norm katmanı.
AdaLayerNormZero
sınıf diffusers.models.normalization.AdaLayerNormZero
< source >( embedding_dim: intnum_embeddings: int | None = Nonenorm_type = 'layer_norm'bias = True )
Norm katmanı adaptif katman normu sıfır (adaLN-Zero).
AdaLayerNormSingle
sınıf diffusers.models.normalization.AdaLayerNormSingle
< source >( embedding_dim: intuse_additional_conditions: bool = False )
Norm katmanı adaptif katman normu tekli (adaLN-single).
PixArt-Alpha'da önerildiği gibi (bkz: https://huggingface.co/papers/2310.00426; Bölüm 2.3).
AdaGroupNorm
sınıf diffusers.models.normalization.AdaGroupNorm
< source >( embedding_dim: intout_dim: intnum_groups: intact_fn: str | None = Noneeps: float = 1e-05 )
Parametreler
- embedding_dim (
int) — Her gömme vektörünün boyutu. - num_embeddings (
int) — Gömme sözlüğünün boyutu. - num_groups (
int) — Kanalların ayrılacağı grup sayısı. - act_fn (
str, isteğe bağlı, varsayılanNone) — Kullanılacak aktivasyon fonksiyonu. - eps (
float, isteğe bağlı, varsayılan1e-5) — Sayısal kararlılık için kullanılacak epsilon değeri.
Adım (timestep) gömmelemelerini (embeddings) içerecek şekilde değiştirilen GroupNorm katmanı.
AdaLayerNormContinuous
sınıf diffusers.models.normalization.AdaLayerNormContinuous
< source >( embedding_dim: intconditioning_embedding_dim: intelementwise_affine = Trueeps = 1e-05bias = Truenorm_type = 'layer_norm' )
Parametreler
- embedding_dim (
int) — Projeksiyon sırasında kullanılacak gömme boyutu. - conditioning_embedding_dim (
int) — Girdi koşulunun boyutu. - elementwise_affine (
bool, varsayılanTrue) — Afin dönüşümün uygulanıp uygulanmayacağını belirtmek için mantıksal bayrak. - eps (
float, varsayılan 1e-5) — Epsilon çarpanı. - bias (
bias, varsayılanTrue) — bias'in kullanılıp kullanılmayacağını belirtmek için bir Boolean bayrağı. - norm_type (
str, varsayılan"layer_norm") — Kullanılacak normalizasyon katmanı. Desteklenen değerler: “layer_norm”, “rms_norm”.
Bir norm katmanı (layer_norm veya rms_norm) içeren uyumlu normalizasyon katmanı.
RMSNorm
sınıf diffusers.models.normalization.RMSNorm
< source >( dimeps: floatelementwise_affine: bool = Truebias: bool = False )
Parametreler
- dim (
int) —weightsiçin kullanılacak boyut sayısı. Yalnızcaelementwise_affineTrue olduğunda etkilidir. - eps (
float) — Karekökün tersini hesaplanırken kullanılacak küçük değer. - elementwise_affine (
bool, varsayılanTrue) — Afin dönüşümün uygulanıp uygulanmayacağını belirtmek için mantıksal bayrak. - bias (
bool, varsayılan False) —biasparametresinin de eğitileceğini belirtir.
Zhang ve ark. tarafından https://huggingface.co/papers/1910.07467 makalesinde tanıtılan RMS Norm
GlobalResponseNorm
sınıf diffusers.models.normalization.GlobalResponseNorm
< source >( dim )
ConvNeXt-v2'de (https://huggingface.co/papers/2301.00808) tanıtılan küresel yanıt normalizasyonu.
LuminaLayerNormContinuous
sınıf diffusers.models.normalization.LuminaLayerNormContinuous
< source >( embedding_dim: intconditioning_embedding_dim: intelementwise_affine = Trueeps = 1e-05bias = Truenorm_type = 'layer_norm'out_dim: int | None = None )
SD35AdaLayerNormZeroX
sınıf diffusers.models.normalization.SD35AdaLayerNormZeroX
< source >( embedding_dim: intnorm_type: str = 'layer_norm'bias: bool = True )
Norm katmanı adaptif katman normu sıfır (AdaLN-Zero).
AdaLayerNormZeroSingle
sınıf diffusers.models.normalization.AdaLayerNormZeroSingle
< source >( embedding_dim: intnorm_type = 'layer_norm'bias = True )
Norm katmanı adaptif katman normu sıfır (adaLN-Zero).
LuminaRMSNormZero
sınıf diffusers.models.normalization.LuminaRMSNormZero
< source >( embedding_dim: intnorm_eps: floatnorm_elementwise_affine: bool )
Norm katmanı adaptif RMS normalizasyon sıfır.
LpNorm
sınıf diffusers.models.normalization.LpNorm
< source >( p: int = 2dim: int = -1eps: float = 1e-12 )
CogView3PlusAdaLayerNormZeroTextImage
sınıf diffusers.models.normalization.CogView3PlusAdaLayerNormZeroTextImage
< source >( embedding_dim: intdim: int )
Norm katmanı adaptif katman normu sıfır (adaLN-Zero).
CogVideoXLayerNormZero
sınıf diffusers.models.normalization.CogVideoXLayerNormZero
< source >( conditioning_dim: intembedding_dim: intelementwise_affine: bool = Trueeps: float = 1e-05bias: bool = True )
MochiRMSNormZero
sınıf diffusers.models.transformers.transformer_mochi.MochiRMSNormZero
< source >( embedding_dim: inthidden_dim: inteps: float = 1e-05elementwise_affine: bool = False )
Mochi'de kullanılan Adaptif RMS Norm.
MochiRMSNorm
sınıf diffusers.models.normalization.MochiRMSNorm
< source >( dimeps: floatelementwise_affine: bool = True )