# EasyAnimateTransformer3DModel

Một mô hình Diffusion Transformer cho dữ liệu 3D từ [EasyAnimate](https://github.com/aigc-apps/EasyAnimate) đã được giới thiệu bởi Alibaba PAI.

Mô hình có thể được tải bằng đoạn mã sau.

```python
from diffusers import EasyAnimateTransformer3DModel

transformer = EasyAnimateTransformer3DModel.from_pretrained("alibaba-pai/EasyAnimateV5.1-12b-zh", subfolder="transformer", dtype=torch.float16).to("cuda")  # or "mps", "xpu", "cpu"
```

## EasyAnimateTransformer3DModel[[diffusers.EasyAnimateTransformer3DModel]]

#### diffusers.EasyAnimateTransformer3DModel[[diffusers.EasyAnimateTransformer3DModel]]

```python
diffusers.EasyAnimateTransformer3DModel(num_attention_heads: int = 48, attention_head_dim: int = 64, in_channels: int | None = None, out_channels: int | None = None, patch_size: int | None = None, sample_width: int = 90, sample_height: int = 60, activation_fn: str = 'gelu-approximate', timestep_activation_fn: str = 'silu', freq_shift: int = 0, num_layers: int = 48, mmdit_layers: int = 48, dropout: float = 0.0, time_embed_dim: int = 512, add_norm_text_encoder: bool = False, text_embed_dim: int = 3584, text_embed_dim_t5: int = None, norm_eps: float = 1e-05, norm_elementwise_affine: bool = True, flip_sin_to_cos: bool = True, time_position_encoding_type: str = '3d_rope', after_norm = False, resize_inpaint_mask_directly: bool = True, enable_text_attention_mask: bool = True, add_noise_in_inpaint_model: bool = True)
```

[Nguồn](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/transformers/transformer_easyanimate.py#L316)

**Tham số:**

num_attention_heads (`int`, mặc định là `48`) : Số lượng đầu (heads) được sử dụng cho cơ chế chú ý đa đầu (multi-head attention).

attention_head_dim (`int`, mặc định là `64`) : Số lượng kênh trong mỗi head.

in_channels (`int`, mặc định là `16`) : Số lượng kênh trong đầu vào.

out_channels (`int`, *tuỳ chọn*, mặc định là `16`) : Số lượng kênh trong đầu ra.

patch_size (`int`, mặc định là `2`) : Kích thước của các patch được sử dụng trong lớp nhúng patch.

sample_width (`int`, mặc định là `90`) : Độ rộng của các latents đầu vào.

sample_height (`int`, mặc định là `60`) : Chiều cao của các latents đầu vào.

activation_fn (`str`, mặc định là `"gelu-approximate"`) : Hàm kích hoạt được sử dụng trong mạng truyền thẳng.

timestep_activation_fn (`str`, mặc định là `"silu"`) : Hàm kích hoạt được sử dụng khi tạo các nhúng bước thời gian (timestep embeddings).

num_layers (`int`, mặc định là `30`) : Số lượng lớp khối Transformer cần sử dụng.

mmdit_layers (`int`, mặc định là `1000`) : Số lượng lớp của các khối Multi Modal Transformer cần sử dụng.

dropout (`float`, mặc định là `0.0`) : Xác suất dropout cần sử dụng.

time_embed_dim (`int`, mặc định là `512`) : Kích thước chiều đầu ra của các embedding bước thời gian.

text_embed_dim (`int`, mặc định là `4096`) : Kích thước chiều đầu vào của các vector nhúng văn bản từ bộ mã hóa văn bản.

norm_eps (`float`, mặc định là `1e-5`) : Giá trị epsilon được sử dụng trong các lớp chuẩn hóa.

norm_elementwise_affine (`bool`, mặc định là `True`) : Có sử dụng affine từng phần tử trong các lớp chuẩn hóa hay không.

flip_sin_to_cos (`bool`, mặc định là `True`) : Có nên đảo sin thành cos trong nhúng thời gian hay không.

time_position_encoding_type (`str`, mặc định là `3d_rope`) : Kiểu mã hóa vị trí thời gian.

after_norm (`bool`, mặc định là `False`) : Cờ để áp dụng chuẩn hóa sau đó.

resize_inpaint_mask_directly (`bool`, mặc định là `True`) : Cờ để thay đổi kích thước trực tiếp của mặt nạ inpaint.

enable_text_attention_mask (`bool`, mặc định là `True`) : Cờ để bật mặt nạ chú ý văn bản.

add_noise_in_inpaint_model (`bool`, mặc định là `False`) : Cờ để thêm nhiễu vào mô hình inpaint.

Một mô hình Transformer cho dữ liệu dạng video trong [EasyAnimate](https://github.com/aigc-apps/EasyAnimate).

#### forward[[diffusers.EasyAnimateTransformer3DModel.forward]]

```python
forward(hidden_states: Tensor, timestep: Tensor, timestep_cond: typing.Optional[torch.Tensor] = None, encoder_hidden_states: typing.Optional[torch.Tensor] = None, encoder_hidden_states_t5: typing.Optional[torch.Tensor] = None, inpaint_latents: typing.Optional[torch.Tensor] = None, control_latents: typing.Optional[torch.Tensor] = None, return_dict: bool = True)
```

[Nguồn](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/transformers/transformer_easyanimate.py#L461)

**Tham số:**

hidden_states (`torch.Tensor` có hình dạng `(batch_size, channels, num_frames, height, width)`) : `hidden_states` đầu vào.

timestep (`torch.LongTensor`) : Dùng để chỉ bước khử nhiễu.

timestep_cond (`torch.Tensor`, *tùy chọn*) : Các embedding điều kiện cho timestep. Nếu được cung cấp, các embedding này sẽ được cộng với các mẫu đi qua lớp `self.time_embedding` để thu được các embedding timestep cuối cùng.

encoder_hidden_states (`torch.Tensor`, *tùy chọn*) : Các embedding điều kiện (các embedding được tính toán từ các điều kiện đầu vào như prompts) cần sử dụng.

encoder_hidden_states_t5 (`torch.Tensor`, *tùy chọn*) : Các embedding điều kiện bổ sung được tính toán từ bộ mã hóa văn bản T5.

inpaint_latents (`torch.Tensor`, *tùy chọn*) : Các latent được nối vào `hidden_states` cho các biến thể inpainting của mô hình.

control_latents (`torch.Tensor`, *tùy chọn*) : Các latent được nối vào `hidden_states` cho các biến thể điều khiển của mô hình.

return_dict (`bool`, *tùy chọn*, mặc định là `True`) : Có nên trả về một `~models.transformer_2d.Transformer2DModelOutput` thay vì một tuple thông thường hay không.

**Trả về:**

Nếu `return_dict` là True, một `~models.transformer_2d.Transformer2DModelOutput` sẽ được trả về, ngược lại một `tuple` trong đó phần tử đầu tiên là tensor mẫu.

Phương thức forward của [EasyAnimateTransformer3DModel](/docs/diffusers/v0.43.0/vi/api/models/easyanimate_transformer3d#diffusers.EasyAnimateTransformer3DModel).

## Transformer2DModelOutput[[diffusers.models.modeling_outputs.Transformer2DModelOutput]]

#### diffusers.models.modeling_outputs.Transformer2DModelOutput[[diffusers.models.modeling_outputs.Transformer2DModelOutput]]

```python
diffusers.models.modeling_outputs.Transformer2DModelOutput(sample: torch.Tensor)
```

[Nguồn](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/modeling_outputs.py#L21)

**Tham số:**

sample (`torch.Tensor` có shape `(batch_size, num_channels, height, width)` hoặc `(batch size, num_vector_embeds - 1, num_latent_pixels)` nếu [Transformer2DModel](/docs/diffusers/v0.43.0/vi/api/models/transformer2d#diffusers.Transformer2DModel) là discrete) : Đầu ra của hidden states được điều kiện bởi đầu vào `encoder_hidden_states`. Nếu là discrete, trả về các phân phối xác suất cho các latent pixels chưa bị nhiễu.

Đầu ra của [Transformer2DModel](/docs/diffusers/v0.43.0/vi/api/models/transformer2d#diffusers.Transformer2DModel).