Diffusers documentation
HunyuanDiT2DModel
HunyuanDiT2DModel
Hunyuan-DiT'den 2B veriler için bir Diffusion Transformer modeli.
HunyuanDiT2DModel
sınıf diffusers.HunyuanDiT2DModel
< source >( num_attention_heads: int = 16attention_head_dim: int = 88in_channels: int | None = Nonepatch_size: int | None = Noneactivation_fn: str = 'gelu-approximate'sample_size = 32hidden_size = 1152num_layers: int = 28mlp_ratio: float = 4.0learn_sigma: bool = Truecross_attention_dim: int = 1024norm_type: str = 'layer_norm'cross_attention_dim_t5: int = 2048pooled_projection_dim: int = 1024text_len: int = 77text_len_t5: int = 256use_style_cond_and_image_meta_size: bool = True )
Parametreler
- num_attention_heads (
int, isteğe bağlı, varsayılan 16) — Çok başlı dikkat (multi-head attention) için kullanılacak baş sayısı. - attention_head_dim (
int, isteğe bağlı, varsayılan 88) — Her baştaki kanal sayısı. - in_channels (
int, isteğe bağlı) — Girdi ve çıktıdaki kanal sayısı (girdi sürekli ise belirtin). - patch_size (
int, isteğe bağlı) — Girdi için kullanılacak yamanın boyutu. - activation_fn (
str, isteğe bağlı, varsayılan"geglu") — İleri beslemeli ağda kullanılacak aktivasyon fonksiyonu. - sample_size (
int, isteğe bağlı) — Gizli görüntülerin genişliği. Bu, eğitim sırasında sabittir çünkü bir dizi konum gömme (position embedding) öğrenmek için kullanılır. - dropout (
float, isteğe bağlı, varsayılan 0.0) — Kullanılacak dropout olasılığı. - cross_attention_dim (
int, isteğe bağlı) — clip metin gömme boyutu. - hidden_size (
int, isteğe bağlı) — Koşullama gömme katmanlarındaki gizli katmanın boyutu. - num_layers (
int, isteğe bağlı, varsayılan 1) — Kullanılacak Transformer bloklarının katman sayısı. - mlp_ratio (
float, isteğe bağlı, varsayılan 4.0) — Gizli katman boyutunun giriş boyutuna oranı. - learn_sigma (
bool, isteğe bağlı, varsayılanTrue) — Varyansın tahmin edilip edilmeyeceği. - cross_attention_dim_t5 (
int, isteğe bağlı) — t5 metin gömme boyutundaki boyut sayısı. - pooled_projection_dim (
int, isteğe bağlı) — Birleştirilmiş projeksiyonun boyutu. - text_len (
int, isteğe bağlı) — Klip metin gömme uzunluğu. - text_len_t5 (
int, isteğe bağlı) — T5 metin gömme uzunluğu. - use_style_cond_and_image_meta_size (
bool, isteğe bağlı) — Stil koşulu ve görüntü meta boyutunun kullanılıp kullanılmayacağı. Sürüm <=1.1 için True, sürüm >= 1.2 için False
HunYuanDiT: Transformer omurgalı difüzyon modeli.
diffusers'taki StableDiffusionPipeline örnekleme cihazıyla uyumlu olmak için ModelMixin ve ConfigMixin sınıflarından devralın.
enable_forward_chunking
< source >( chunk_size: int | None = Nonedim: int = 0 )
Parametreler
- chunk_size (
int, isteğe bağlı) — İleri besleme katmanlarının parça boyutu. Belirtilmezse, ileri besleme katmanıdimboyutlu her tensör üzerinde ayrı ayrı çalıştırılır. - dim (
int, isteğe bağlı, varsayılan0) — İleri besleme (feed-forward) hesabının parçalanacağı boyut. dim=0 (batch) veya dim=1 (dizi uzunluğu) arasında seçim yapın.
Dikkat işleyicisini ileri besleme parçalama kullanacak şekilde ayarlar.
forward
< source >( hidden_statestimestepencoder_hidden_states = Nonetext_embedding_mask = Noneencoder_hidden_states_t5 = Nonetext_embedding_mask_t5 = Noneimage_meta_size = Nonestyle = Noneimage_rotary_emb = Nonecontrolnet_block_samples = Nonereturn_dict = True )
Parametreler
- hidden_states (
torch.Tensor, şekli(batch size, dim, height, width)) — Girdi tensörü. - timestep (
torch.LongTensor, isteğe bağlı) — Gürültü azaltma adımını belirtmek için kullanılır. - encoder_hidden_states (
torch.Tensorof shape(batch size, sequence len, embed dims), isteğe bağlı) — Çapraz dikkat katmanı için koşullu gömme değerleri. Bu,BertModelçıktısıdır. - text_embedding_mask — torch.Tensor
encoder_hidden_states’e(batch, key_tokens)biçiminde bir dikkat maskesi uygulanır. Bu,BertModelçıktısıdır. - encoder_hidden_states_t5 (
torch.Tensor, şekli(batch size, sequence len, embed dims), opsiyonel) — Çapraz dikkat katmanı için koşullu gömme değerleri. Bu, T5 Metin Kodlayıcısının çıktısıdır. - text_embedding_mask_t5 — torch.Tensor
encoder_hidden_states’e(batch, key_tokens)biçiminde bir dikkat maskesi uygulanır. Bu, T5 Text Encoder’ın çıktısıdır. - image_meta_size (torch.Tensor) — Görsel boyutlarını gösteren koşullu gömme
- style — torch.Tensor: Stili gösteren koşullu gömme
- image_rotary_emb (
torch.Tensor) — Dikkat hesabı sırasında sorgu ve anahtar tensörlerine uygulanacak görüntü döner gömme değerleri. - controlnet_block_samples (
listoftorch.Tensor, isteğe bağlı) — Belirtilirse, transformer bloklarının artıklarına eklenen tensörlerin listesi. - return_dict — bool Sözlük döndürülüp döndürülmediğini belirtir.
HunyuanDiT2DModel ileri yöntemi.
Füzyonlu QKV projeksiyonlarını etkinleştirir. Kendi dikkat (self-attention) modülleri için tüm projeksiyon matrisleri (yani sorgu, anahtar, değer) füzyonlanır. Çapraz dikkat (cross-attention) modülleri için anahtar ve değer projeksiyon matrisleri füzyonlanır.
> Bu API 🧪 deneyseldir.
Özel dikkat işleyicilerini devre dışı bırakır ve varsayılan dikkat uygulamasını ayarlar.
Etkinleştirilmişse birleşik QKV projeksiyonunu devre dışı bırakır.
> Bu API 🧪 deneyseldir.