Diffusers documentation
Programador de pasos múltiples para el modelo de consistencia latente
Programador de pasos múltiples para el modelo de consistencia latente
Resumen
Programador de multietapas y de un solo paso (Algoritmo 3) introducido junto con los modelos de consistencia latente en el artículo Latent Consistency Models: Synthesizing High-Resolution Images with Few-Step Inference de Simian Luo, Yiqin Tan, Longbo Huang, Jian Li y Hang Zhao. Este programador debe ser capaz de generar buenas muestras desde LatentConsistencyModelPipeline en 1-8 pasos.
LCMScheduler
clase diffusers.LCMScheduler
< source >( num_train_timesteps: int = 1000beta_start: float = 0.00085beta_end: float = 0.012beta_schedule: str = 'scaled_linear'trained_betas: numpy.ndarray | list[float] | None = Noneoriginal_inference_steps: int = 50clip_sample: bool = Falseclip_sample_range: float = 1.0set_alpha_to_one: bool = Truesteps_offset: int = 0prediction_type: str = 'epsilon'thresholding: bool = Falsedynamic_thresholding_ratio: float = 0.995sample_max_value: float = 1.0timestep_spacing: str = 'leading'timestep_scaling: float = 10.0rescale_betas_zero_snr: bool = False )
Parámetros
- num_train_timesteps (
int, por defecto1000) — El número de pasos de difusión para entrenar el modelo. - beta_start (
float, por defecto0.00085) — El valor inicial debetapara la inferencia. - beta_end (
float, por defecto0.012) — El valor final debeta. - beta_schedule (
str, por defecto"scaled_linear") — La programación de beta, un mapeo desde un rango de beta hasta una secuencia de betas para dar pasos al modelo. Elija entrelinear,scaled_linearosquaredcos_cap_v2. - trained_betas (
np.ndarrayolist[float], opcional) — Pase un array de betas directamente al constructor para omitirbeta_startybeta_end. - original_inference_steps (
int, por defecto50) — El número predeterminado de pasos de inferencia utilizados para generar un calendario de pasos de tiempo espaciados linealmente, del cual finalmente tomaremosnum_inference_stepspasos de tiempo equiespaciados para formar el calendario de pasos de tiempo final. - clip_sample (
bool, por defectoFalse) — Recorta la muestra predicha para la estabilidad numérica. - clip_sample_range (
float, por defecto1.0) — La magnitud máxima para el recorte de muestras. Solo es válido cuandoclip_sample=True. - set_alpha_to_one (
bool, por defectoTrue) — Cada paso de difusión utiliza el valor del producto de alfas en ese paso y en el anterior. En el paso final no hay un alfa anterior. Cuando esta opción esTrue, el producto del alfa anterior se fija en1; de lo contrario, se utiliza el valor de alfa del paso 0. - steps_offset (
int, por defecto0) — Un desplazamiento que se suma a los pasos de inferencia, tal como lo requieren algunas familias de modelos. - prediction_type (
str, defaults to"epsilon") — Prediction type of the scheduler function; can beepsilon(predicts the noise of the diffusion process),sample(directly predicts the noisy sample) orv_prediction` (see section 2.4 of Imagen Video paper). - thresholding (
bool, por defectoFalse) — Si se debe utilizar el método de “umbral dinámico”. No es adecuado para modelos de difusión en el espacio latente, como Stable Diffusion. - dynamic_thresholding_ratio (
float, por defecto0.995) — La proporción para el método de umbral dinámico. Solo es válido cuandothresholding=True. - sample_max_value (
float, por defecto1.0) — El valor umbral para el umbral dinámico. Solo es válido cuandothresholding=True. - timestep_spacing (
str, por defecto"leading") — La forma en que se deben escalar los pasos de tiempo. Consulte la tabla 2 de Common Diffusion Noise Schedules and Sample Steps are Flawed para obtener más información. - timestep_scaling (
float, por defecto10.0) — El factor por el que se multiplicarán los timesteps al calcular las condiciones de frontera del modelo de consistenciac_skipyc_out. Aumentar este valor reducirá el error de aproximación (aunque el error de aproximación con el valor por defecto de10.0ya es bastante pequeño). - rescale_betas_zero_snr (
bool, por defectoFalse) — Si se deben reescalar los betas para tener un SNR terminal cero. Esto permite al modelo generar muestras muy brillantes y oscuras en lugar de limitarse a muestras con un brillo medio. Relacionado de forma laxa con--offset_noise.
LCMScheduler extiende el procedimiento de desruido introducido en los modelos probabilísticos de difusión de desruido (DDPM) con una guía no markoviana.
Este modelo hereda de SchedulerMixin y ConfigMixin. ~ConfigMixin se encarga de almacenar todos los atributos de configuración que se pasan en la función __init__ del scheduler, como num_train_timesteps. Se pueden acceder mediante scheduler.config.num_train_timesteps. SchedulerMixin proporciona funcionalidad general de carga y guardado a través de las funciones SchedulerMixin.save_pretrained() y from_pretrained().
add_noise
< source >( original_samples: Tensornoise: Tensortimesteps: IntTensor ) → torch.Tensor
Parámetros
- original_samples (
torch.Tensor) — Las muestras originales a las que se les añadirá ruido. - noise (
torch.Tensor) — El ruido que se añadirá a las muestras. - timesteps (
torch.IntTensor) — Los pasos de tiempo que indican el nivel de ruido para cada muestra.
Devuelve
torch.Tensor
Las muestras ruidosas.
Añada ruido a las muestras originales según la magnitud del ruido en cada paso temporal (este es el proceso de difusión hacia adelante).
get_scalings_for_boundary_condition_discrete
< source >( timestep: int ) → tuple[float, float]
Calcula las escalas de las condiciones de frontera (c_skip y c_out) para el paso de tiempo discreto dado, tal como se utiliza en el Latent Consistency Model.
get_velocity
< source >( sample: Tensornoise: Tensortimesteps: IntTensor ) → torch.Tensor
Calcule la predicción de velocidad a partir de la muestra y el ruido según la fórmula de velocidad.
index_for_timestep
< source >( timestep: typing.Union[float, torch.Tensor]schedule_timesteps: typing.Optional[torch.Tensor] = None ) → int
Parámetros
- timestep (
floatotorch.Tensor) — El valor de timestep que se debe buscar en la programación. - schedule_timesteps (
torch.Tensor, opcional) — El calendario de pasos de tiempo en el que buscar. Si esNone, usaself.timesteps.
Devuelve
int
El índice del paso de tiempo en la programación. Para el primer paso, devuelve el segundo índice si existen múltiples coincidencias para evitar omitir una sigma al comenzar a mitad de la programación (p. ej., para imagen a imagen).
Encuentra el índice de un paso de tiempo dado en la programación de pasos de tiempo.
previous_timestep
< source >( timestep ) → int or torch.Tensor
Calcule el paso de tiempo anterior en la cadena de difusión.
scale_model_input
< source >( sample: Tensortimestep: int | None = None ) → torch.Tensor
Garantiza la interoperabilidad con los programadores que necesitan escalar la entrada del modelo de desruido en función del paso temporal actual.
set_begin_index
< source >( begin_index: int = 0 )
Establece el índice inicial para el programador. Esta función debe ejecutarse desde la tubería antes de la inferencia.
set_timesteps
< source >( num_inference_steps: int | None = Nonedevice: typing.Union[str, torch.device, NoneType] = Noneoriginal_inference_steps: int | None = Nonetimesteps: list[int] | None = Nonestrength: float = 1.0 ) → None
Parámetros
- num_inference_steps (
int, opcional) — El número de pasos de difusión utilizados al generar muestras con un modelo preentrenado. Si se usa,timestepsdebe serNone. - device (
strotorch.device, opcional) — El dispositivo al que deben moverse los timesteps. Si esNone, los timesteps no se mueven. - original_inference_steps (
int, opcional) — El número original de pasos de inferencia, que se utilizará para generar un calendario de pasos de tiempo linealmente espaciado (que es diferente de la implementación estándar dediffusers). A continuación, tomaremosnum_inference_stepspasos de tiempo de este calendario, espaciados uniformemente en términos de índices, y usaremos eso como nuestro calendario final de pasos de tiempo. Si no se establece, este valor será por defecto el atributooriginal_inference_steps. - timesteps (
list[int], opcional) — Pasos de tiempo personalizados para admitir un espaciado arbitrario entre los pasos de tiempo. Si esNone, se utiliza la estrategia de espaciado de pasos de tiempo predeterminada, que consiste en un espaciado igual entre los pasos de tiempo en la programación de pasos de tiempo de entrenamiento/destilación. Si se pasatimesteps,num_inference_stepsdebe serNone. - strength (
float, por defecto1.0) — Factor de intensidad utilizado para generar un calendario de pasos de tiempo parcial (p. ej., para imagen a imagen). Un valor de1.0utiliza el calendario completo.
Devuelve
None
Establece los pasos discretos utilizados para la cadena de difusión (para ejecutarse antes de la inferencia).
paso
< source >( model_output: Tensortimestep: intsample: Tensorgenerator: typing.Optional[torch.Generator] = Nonereturn_dict: bool = True ) → LCMSchedulerOutput or tuple
Parámetros
- model_output (
torch.Tensor) — La salida directa del modelo de difusión aprendido. - timestep (
int) — El paso de tiempo discreto actual en la cadena de difusión. - sample (
torch.Tensor) — Una instancia actual de una muestra creada por el proceso de difusión. - generator (
torch.Generator, opcional) — Un generador de números aleatorios para muestreos reproducibles. - return_dict (
bool, por defectoTrue) — Si se devuelve unLCMSchedulerOutputo unatuple.
Devuelve
LCMSchedulerOutput o tuple
If return_dict is True, LCMSchedulerOutput is returned, otherwise a
tuple is returned where the first element is the sample tensor.
Predice la muestra del paso de tiempo anterior invirtiendo el SDE. Esta función propaga el proceso de difusión a partir de las salidas del modelo aprendido (con mayor frecuencia, el ruido predicho).