Diffusers documentation
MochiTransformer3DModel
MochiTransformer3DModel
Un modelo Diffusion Transformer para datos de video 3D fue introducido en Mochi-1 Preview por Genmo.
El modelo se puede cargar con el siguiente fragmento de código.
from diffusers import MochiTransformer3DModel
transformer = MochiTransformer3DModel.from_pretrained("genmo/mochi-1-preview", subfolder="transformer", dtype=torch.float16).to("cuda") # or "mps", "xpu", "cpu"MochiTransformer3DModel
clase diffusers.MochiTransformer3DModel
< source >( patch_size: int = 2num_attention_heads: int = 24attention_head_dim: int = 128num_layers: int = 48pooled_projection_dim: int = 1536in_channels: int = 12out_channels: int | None = Noneqk_norm: str = 'rms_norm'text_embed_dim: int = 4096time_embed_dim: int = 256activation_fn: str = 'swiglu'max_sequence_length: int = 256 )
Parámetros
- patch_size (
int, por defecto2) — El tamaño de los parches a utilizar en la capa de incrustación de parches. - num_attention_heads (
int, por defecto24) — El número de cabezas a utilizar para la atención multi-cabeza. - attention_head_dim (
int, por defecto128) — El número de canales en cada cabeza. - num_layers (
int, por defecto48) — El número de capas de bloques Transformer a utilizar. - in_channels (
int, por defecto12) — El número de canales en la entrada. - out_channels (
int, opcional, valor predeterminadoNone) — El número de canales en la salida. - qk_norm (
str, por defecto"rms_norm") — La capa de normalización a utilizar. - text_embed_dim (
int, por defecto4096) — Dimensión de entrada de las incrustaciones de texto del codificador de texto. - time_embed_dim (
int, por defecto256) — Dimensión de salida de las incrustaciones de paso de tiempo. - activation_fn (
str, por defecto"swiglu") — Función de activación a utilizar en la red feed-forward. - max_sequence_length (
int, por defecto256) — La longitud máxima de secuencia de los embeddings de texto admitidos.
Un modelo Transformer para datos tipo video introducido en Mochi.
forward
< source >( hidden_states: Tensorencoder_hidden_states: Tensortimestep: LongTensorencoder_attention_mask: Tensorattention_kwargs: dict[str, typing.Any] | None = Nonereturn_dict: bool = True ) → torch.Tensor
Parámetros
- hidden_states (
torch.Tensorde forma(batch_size, num_channels, num_frames, height, width)) — Entradahidden_states. - encoder_hidden_states (
torch.Tensorde forma(batch_size, sequence_len, embed_dims)) — Incrustaciones condicionales (incrustaciones calculadas a partir de las condiciones de entrada, como los prompts) que se deben utilizar. - timestep (
torch.LongTensor) — Se utiliza para indicar el paso de desruido. - encoder_attention_mask (
torch.Tensor) — Máscara aplicada aencoder_hidden_statesdurante la atención. - attention_kwargs (
dict, opcional) — Un diccionario de kwargs que, si se especifica, se pasa alAttentionProcessordefinido enself.processordentro de diffusers.models.attention_processor. - return_dict (
bool, opcional, valor predeterminadoTrue) — Indica si se debe devolver un~models.transformer_2d.Transformer2DModelOutputen lugar de una tupla simple.
Devuelve
torch.Tensor
El tensor de salida desruidoado de forma (batch_size, out_channels, num_frames, height, width).
El método forward del MochiTransformer3DModel.
Transformer2DModelOutput
clase diffusers.models.modeling_outputs.Transformer2DModelOutput
< source >( sample: torch.Tensor )
Parámetros
- sample (
torch.Tensorde forma(batch_size, num_channels, height, width)o(batch size, num_vector_embeds - 1, num_latent_pixels)si Transformer2DModel es discreto) — La salida de estados ocultos condicionada a la entradaencoder_hidden_states. Si es discreto, devuelve distribuciones de probabilidad para los píxeles latentes sin ruido.
La salida de Transformer2DModel.