Diffusers documentation
DDPMScheduler
DDPMScheduler
Denoising Diffusion Probabilistic Models (DDPM), de Jonathan Ho, Ajay Jain e Pieter Abbeel, propõe um modelo baseado em difusão com o mesmo nome. No contexto da biblioteca 🤗 Diffusers, DDPM se refere ao agendador de desruidização discreto do artigo, bem como ao pipeline.
O resumo do artigo é:
Apresentamos resultados de alta qualidade em síntese de imagens usando modelos probabilísticos de difusão, uma classe de modelos de variáveis latentes inspirada em considerações da termodinâmica de não equilíbrio. Nossos melhores resultados são obtidos treinando em um limite variacional ponderado projetado de acordo com uma nova conexão entre modelos probabilísticos de difusão e correspondência de escores de desruído com dinâmica de Langevin, e nossos modelos admitem naturalmente um esquema progressivo de descompressão com perdas que pode ser interpretado como uma generalização da decodificação autoregressiva. No conjunto de dados incondicional CIFAR10, obtemos uma pontuação Inception de 9,46 e uma pontuação FID do estado da arte de 3,17. Em 256x256 LSUN, obtemos qualidade de amostras semelhante à do ProgressiveGAN. Nossa implementação está disponível em este URL https.
DDPMScheduler
classe diffusers.DDPMScheduler
< source >( num_train_timesteps: int = 1000beta_start: float = 0.0001beta_end: float = 0.02beta_schedule: typing.Literal['linear', 'scaled_linear', 'squaredcos_cap_v2', 'sigmoid'] = 'linear'trained_betas: numpy.ndarray | list[float] | None = Nonevariance_type: typing.Literal['fixed_small', 'fixed_small_log', 'fixed_large', 'fixed_large_log', 'learned', 'learned_range'] = 'fixed_small'clip_sample: bool = Trueprediction_type: typing.Literal['epsilon', 'sample', 'v_prediction'] = 'epsilon'thresholding: bool = Falsedynamic_thresholding_ratio: float = 0.995clip_sample_range: float = 1.0sample_max_value: float = 1.0timestep_spacing: typing.Literal['linspace', 'leading', 'trailing'] = 'leading'steps_offset: int = 0rescale_betas_zero_snr: bool = False )
Parâmetros
- num_train_timesteps (
int, padrão1000) — O número de etapas de difusão para treinar o modelo. - beta_start (
float, padrão0.0001) — O valor inicial debetapara a inferência. - beta_end (
float, padrão0.02) — O valor final debeta. - beta_schedule (
"linear","scaled_linear","squaredcos_cap_v2"ou"sigmoid", padrão"linear") — O agendamento de beta, um mapeamento de um intervalo de beta para uma sequência de betas para o avanço do modelo. - trained_betas (
np.ndarray, opcional) — Um array de betas para passar diretamente ao construtor sem usarbeta_startebeta_end. - variance_type (
"fixed_small","fixed_small_log","fixed_large","fixed_large_log","learned"ou"learned_range", padrão"fixed_small") — Recorta a variância ao adicionar ruído à amostra desruidizada. - clip_sample (
bool, padrãoTrue) — Recorta a amostra prevista para estabilidade numérica. - clip_sample_range (
float, padrão1.0) — A magnitude máxima para o recorte de amostras. Válido apenas quandoclip_sample=True. - prediction_type (
"epsilon","sample", or"v_prediction", defaults to"epsilon") — Prediction type of the scheduler function; can beepsilon(predicts the noise of the diffusion process),sample(directly predicts the noisy sample) orv_prediction` (see section 2.4 of Imagen Video paper). - thresholding (
bool, padrãoFalse) — Se deve usar o método de “limiar dinâmico”. Isso não é adequado para modelos de difusão em espaço latente, como o Stable Diffusion. - dynamic_thresholding_ratio (
float, padrão0.995) — A proporção para o método de limitação dinâmica. Válido apenas quandothresholding=True. - sample_max_value (
float, padrão1.0) — O valor de limiar para o thresholding dinâmico. Válido apenas quandothresholding=True. - timestep_spacing (
"linspace","leading"ou"trailing", padrão"leading") — A forma como os timesteps devem ser escalonados. Consulte a Tabela 2 do Common Diffusion Noise Schedules and Sample Steps are Flawed para mais informações. - steps_offset (
int, padrão0) — Um deslocamento adicionado às etapas de inferência, conforme exigido por algumas famílias de modelos. - rescale_betas_zero_snr (
bool, padrãoFalse) — Se deve reescalar os betas para ter SNR terminal zero. Isso permite que o modelo gere amostras muito claras e escuras, em vez de limitá-lo a amostras com brilho médio. Relacionado de forma solta a--offset_noise.
DDPMScheduler explora as conexões entre o denoising score matching e a amostragem por dinâmica de Langevin.
Este modelo herda de SchedulerMixin e ConfigMixin. Consulte a documentação da superclasse para os métodos genéricos que a biblioteca implementa para todos os agendadores, como carregamento e salvamento.
add_noise
< source >( original_samples: Tensornoise: Tensortimesteps: IntTensor ) → torch.Tensor
Adicione ruído às amostras originais de acordo com a magnitude do ruído em cada timestep (este é o processo de difusão direta).
get_velocity
< source >( sample: Tensornoise: Tensortimesteps: IntTensor ) → torch.Tensor
Calcule a previsão de velocidade a partir da amostra e do ruído de acordo com a fórmula de velocidade.
previous_timestep
< source >( timestep: int ) → int or torch.Tensor
Calcule o passo de tempo anterior na cadeia de difusão.
scale_model_input
< source >( sample: Tensortimestep: int | None = None ) → torch.Tensor
Garante a intercambiabilidade com agendadores que precisam escalar a entrada do modelo de desruidamento dependendo do passo de tempo atual.
set_timesteps
< source >( num_inference_steps: int = Nonedevice: typing.Union[str, torch.device] = Nonetimesteps: list[int] | None = None )
Parâmetros
- num_inference_steps (
int, opcional) — O número de etapas de difusão usadas ao gerar amostras com um modelo pré-treinado. Se usado,timestepsdeve serNone. - device (
stroutorch.device, opcional) — O dispositivo para o qual os timesteps devem ser movidos. SeNone, os timesteps não são movidos. - timesteps (
list[int], opcional) — Timesteps personalizados usados para suportar espaçamento arbitrário entre timesteps. SeNone, a estratégia padrão de espaçamento de timesteps, com espaçamento igual entre timesteps, é usada. Setimestepsfor passado,num_inference_stepsdeve serNone.
Define os passos discretos usados para a cadeia de difusão (a ser executado antes da inferência).
etapa
< source >( model_output: Tensortimestep: intsample: Tensorgenerator: typing.Optional[torch.Generator] = Nonereturn_dict: bool = True ) → DDPMSchedulerOutput or tuple
Parâmetros
- model_output (
torch.Tensor) — A saída direta do modelo de difusão aprendido. - timestep (
int) — O timestep discreto atual na cadeia de difusão. - sample (
torch.Tensor) — Uma instância atual de uma amostra criada pelo processo de difusão. - generator (
torch.Generator, opcional) — Um gerador de números aleatórios. - return_dict (
bool, padrãoTrue) — Se deve ou não retornar um DDPMSchedulerOutput outuple.
Retorna
DDPMSchedulerOutput ou tuple
If return_dict is True, DDPMSchedulerOutput is returned, otherwise a
tuple is returned where the first element is the sample tensor.
Preveja a amostra do passo de tempo anterior revertendo o SDE. Esta função propaga o processo de difusão a partir das saídas do modelo aprendido (na maioria das vezes, o ruído previsto).
DDPMSchedulerOutput
classe diffusers.schedulers.scheduling_ddpm.DDPMSchedulerOutput
< source >( prev_sample: Tensorpred_original_sample: typing.Optional[torch.Tensor] = None )
Parâmetros
- prev_sample (
torch.Tensorde forma(batch_size, num_channels, height, width)para imagens) — Amostra calculada(x_{t-1})do passo de tempo anterior.prev_sampledeve ser usado como entrada do modelo no loop de remoção de ruído. - pred_original_sample (
torch.Tensorde forma(batch_size, num_channels, height, width)para imagens) — A amostra desrujida prevista(x_{0})com base na saída do modelo do timestep atual.pred_original_samplepode ser usado para visualizar o progresso ou para orientação.
Classe de saída para a saída da função step do agendador.