Diffusers documentation
BriaTransformer2DModel
BriaTransformer2DModel
Model Transformer flux yang dimodifikasi dari Bria
BriaTransformer2DModel
kelas diffusers.BriaTransformer2DModel
< source >( patch_size: int = 1in_channels: int = 64num_layers: int = 19num_single_layers: int = 38attention_head_dim: int = 128num_attention_heads: int = 24joint_attention_dim: int = 4096pooled_projection_dim: int = Noneguidance_embeds: bool = Falseaxes_dims_rope: list = [16, 56, 56]rope_theta = 10000time_theta = 10000 )
Parameter
- patch_size (
int) — Ukuran patch untuk mengubah data input menjadi patch kecil. - in_channels (
int, opsional, default 16) — Jumlah channel pada input. - num_layers (
int, opsional, default 18) — Jumlah lapisan blok MMDiT yang digunakan. - num_single_layers (
int, opsional, default 18) — Jumlah lapisan blok DiT tunggal yang akan digunakan. - attention_head_dim (
int, opsional, default 64) — Jumlah channel di setiap head. - num_attention_heads (
int, opsional, default 18) — Jumlah head yang digunakan untuk multi-head attention. - joint_attention_dim (
int, opsional) — Jumlah dimensiencoder_hidden_statesyang akan digunakan. - pooled_projection_dim (
int) — Jumlah dimensi yang digunakan saat memproyeksikanpooled_projections. - guidance_embeds (
bool, defaultnya False) — Apakah akan menggunakan guidance embeddings.
Model Transformer yang diperkenalkan dalam Flux. Berdasarkan FluxPipeline dengan beberapa perubahan:
- tidak ada embedding yang dipool
- Kami menggunakan zero padding untuk prompt
- Tidak ada guidance embedding karena ini bukan versi yang telah di-distil Referensi: https://blackforestlabs.ai/announcing-black-forest-labs/
forward
< source >( hidden_states: Tensorencoder_hidden_states: Tensor = Nonepooled_projections: Tensor = Nonetimestep: LongTensor = Noneimg_ids: Tensor = Nonetxt_ids: Tensor = Noneguidance: Tensor = Noneattention_kwargs: dict[str, typing.Any] | None = Nonereturn_dict: bool = Truecontrolnet_block_samples = Nonecontrolnet_single_block_samples = None )
Parameter
- hidden_states (
torch.FloatTensordengan bentuk(batch size, channel, height, width)) —hidden_statesmasukan. - encoder_hidden_states (
torch.FloatTensordengan bentuk(batch size, sequence_len, embed_dims)) — Embeddings kondisional (embeddings yang dihitung dari kondisi input seperti prompt) yang akan digunakan. - pooled_projections (
torch.FloatTensordengan bentuk(batch_size, projection_dim)) — Embedding yang diproyeksikan dari embedding kondisi input. - timestep (
torch.LongTensor) — Digunakan untuk menunjukkan langkah denoising. - img_ids (
torch.Tensor) — ID posisi gambar yang digunakan untuk menghitung embedding posisi rotasi. - txt_ids (
torch.Tensor) — ID posisi teks yang digunakan untuk menghitung embedding posisi rotasi. - guidance (
torch.Tensor, opsional) — Embedding skala panduan yang digunakan untuk varian model yang telah melalui distilasi panduan. - controlnet_block_samples (
listdaritorch.Tensor, opsional) — Daftar tensor yang, jika ditentukan, akan ditambahkan ke residual dari blok transformer. - controlnet_single_block_samples (
listdaritorch.Tensor, opsional) — Daftar tensor yang, jika ditentukan, akan ditambahkan ke residual dari blok transformer tunggal. - attention_kwargs (
dict, opsional) — Kamus kwargs yang jika ditentukan akan diteruskan keAttentionProcessorseperti yang didefinisikan di bawahself.processordalam diffusers.models.attention_processor. - return_dict (
bool, opsional, defaultTrue) — Apakah akan mengembalikan~models.transformer_2d.Transformer2DModelOutputalih-alih tuple biasa.
Metode forward dari BriaTransformer2DModel.