Diffusers documentation
RePaintScheduler
RePaintScheduler
RePaintScheduler est un planificateur d'inpainting basé sur DDPM pour l'inpainting non supervisé avec des masques extrêmes. Il est conçu pour être utilisé avec le RePaintPipeline et s'appuie sur l'article RePaint: Inpainting using Denoising Diffusion Probabilistic Models d'Andreas Lugmayr et al.
L'abstract de l'article est :
L'inpainting libre est la tâche qui consiste à ajouter du nouveau contenu à une image dans les régions spécifiées par un masque binaire arbitraire. La plupart des approches existantes sont entraînées pour une certaine distribution de masques, ce qui limite leur capacité de généralisation à des types de masques inconnus. De plus, l'entraînement avec des pertes pixel par pixel et perceptives conduit souvent à de simples extensions texturales vers les zones manquantes au lieu d'une génération sémantiquement significative. Dans ce travail, nous proposons RePaint : une approche d'inpainting basée sur un modèle probabiliste de diffusion de débruitage (DDPM) applicable même aux masques extrêmes. Nous utilisons un DDPM non conditionné pré-entraîné comme prior génératif. Pour conditionner le processus de génération, nous ne modifions que les itérations de diffusion inverse en échantillonnant les régions non masquées à l'aide des informations de l'image donnée. Comme cette technique ne modifie ni ne conditionne le réseau DDPM original lui-même, le modèle produit des images de sortie de haute qualité et variées pour toute forme d'inpainting. Nous validons notre méthode pour l'inpainting de visages et d'images à usage général en utilisant des masques standard et extrêmes. RePaint surpasse les approches autoregressives et GAN de l'état de l'art pour au moins cinq des six distributions de masques. Dépôt GitHub : ce lien http.
L'implémentation originale peut être trouvée sur andreas128/RePaint.
RePaintScheduler
classe diffusers.RePaintScheduler
< source >( num_train_timesteps: int = 1000beta_start: float = 0.0001beta_end: float = 0.02beta_schedule: str = 'linear'eta: float = 0.0trained_betas: numpy.ndarray | None = Noneclip_sample: bool = True )
Paramètres
- num_train_timesteps (
int, par défaut1000) — Le nombre d'étapes de diffusion pour entraîner le modèle. - beta_start (
float, par défaut0.0001) — La valeur de départ debetapour l'inférence. - beta_end (
float, par défaut0.02) — La valeur finale debeta. - beta_schedule (
str, par défaut"linear") — Le planning des bêtas, une correspondance entre une plage de bêtas et une séquence de bêtas pour faire avancer le modèle. Choisissez parmilinear,scaled_linear,squaredcos_cap_v2ousigmoid. - eta (
float, par défaut0.0) — Le poids du bruit ajouté lors d'une étape de diffusion. Une valeur de0.0correspond à DDIM et une valeur de1.0correspond à DDPM. - trained_betas (
np.ndarray, facultatif) — Transmettez un tableau de betas directement au constructeur pour contournerbeta_startetbeta_end. - clip_sample (
bool, par défautTrue) — Limite l'échantillon prédit entre -1 et 1 pour la stabilité numérique.
RePaintScheduler est un planificateur pour l'inpainting DDPM à l'intérieur d'un masque donné.
Ce modèle hérite de SchedulerMixin et ConfigMixin. Consultez la documentation de la classe parente pour les méthodes génériques que la bibliothèque implémente pour tous les planificateurs, telles que le chargement et l'enregistrement.
add_noise
< source >( original_samples: Tensornoise: Tensortimesteps: IntTensor )
Paramètres
- original_samples (
torch.Tensor) — Les échantillons originaux auxquels du bruit serait ajouté. - noise (
torch.Tensor) — Le bruit qui serait ajouté aux échantillons. - timesteps (
torch.IntTensor) — Les timesteps qui déterminent le niveau de bruit pour chaque échantillon.
Lève
NotImplementedError
NotImplementedError— L’entraînement de RePaint devrait utiliser DDPMScheduler.add_noise() à la place.
Indique que l’ajout de bruit pour l’entraînement de RePaint n’est pas pris en charge par ce planificateur.
scale_model_input
< source >( sample: Tensortimestep: int | None = None ) → torch.Tensor
Assure l'interchangeabilité avec les planificateurs qui doivent mettre à l'échelle l'entrée du modèle de débruitage en fonction de l'étape temporelle actuelle.
set_timesteps
< source >( num_inference_steps: intjump_length: int = 10jump_n_sample: int = 10device: typing.Union[str, torch.device, NoneType] = None )
Paramètres
- num_inference_steps (
int) — Le nombre d'étapes de diffusion utilisées lors de la génération d'échantillons avec un modèle pré-entraîné. - jump_length (
int, par défaut10) — Le nombre d'étapes effectuées vers l'avant dans le temps avant de revenir en arrière pour un saut unique (« j » dans l'article RePaint). Consultez les figures 9 et 10 de l'article. - jump_n_sample (
int, par défaut10) — Le nombre de sauts temporels en avant à effectuer pour un échantillon de temps donné. Consultez les figures 9 et 10 de l’article. - device (
stroutorch.device, facultatif) — L'appareil vers lequel les timesteps doivent être déplacés. SiNone, les timesteps ne sont pas déplacés.
Définit les pas de temps discrets utilisés pour la chaîne de diffusion (à exécuter avant l'inférence).
étape
< source >( model_output: Tensortimestep: intsample: Tensororiginal_image: Tensormask: Tensorgenerator: typing.Optional[torch.Generator] = Nonereturn_dict: bool = True ) → RePaintSchedulerOutput or tuple[torch.Tensor, torch.Tensor]
Paramètres
- model_output (
torch.Tensor) — La sortie directe du modèle de diffusion appris. - timestep (
int) — L'étape discrète actuelle dans la chaîne de diffusion. - sample (
torch.Tensor) — Une instance actuelle d'un échantillon créé par le processus de diffusion. - original_image (
torch.Tensor) — L'image d'origine sur laquelle effectuer l'inpainting. - mask (
torch.Tensor) — Le masque où une valeur de 0.0 indique quelle partie de l'image d'origine doit être retouchée. - generator (
torch.Generator, facultatif) — Un générateur de nombres aléatoires. - return_dict (
bool, par défautTrue) — Indique s'il faut retourner un RePaintSchedulerOutput plutôt qu'un tuple.
Retourne
RePaintSchedulerOutput ou tuple[torch.Tensor, torch.Tensor]
Si return_dict est True, RePaintSchedulerOutput est retourné,
sinon un tuple est retourné dont le premier élément est l'échantillon précédent et le second est l'échantillon original prédit.
Prédit l'échantillon de l'étape temporelle précédente en inversant l'EDS. Cette fonction propage le processus de diffusion à partir des sorties du modèle appris (le plus souvent le bruit prédit).
undo_step
< source >( sample: Tensortimestep: intgenerator: typing.Optional[torch.Generator] = None ) → torch.Tensor
Paramètres
- sample (
torch.Tensor) — L'échantillon auquel le bruit est ajouté. - timestep (
int) — L'étape discrète actuelle dans la chaîne de diffusion. - generator (
torch.Generator, facultatif) — Un générateur de nombres aléatoires.
Retourne
torch.Tensor
L'échantillon au pas de temps suivant dans la chaîne de diffusion.
Ajouter du bruit à un échantillon pour le faire avancer d'une étape de diffusion.
RePaintSchedulerOutput
classe diffusers.schedulers.scheduling_repaint.RePaintSchedulerOutput
< source >( prev_sample: Tensorpred_original_sample: Tensor )
Paramètres
- prev_sample (
torch.Tensorde forme(batch_size, num_channels, height, width)pour les images) — Échantillon calculé (x_{t-1}) de l'étape temporelle précédente.prev_sampledoit être utilisé comme entrée du modèle suivante dans la boucle de débruitage. - pred_original_sample (
torch.Tensorde forme(batch_size, num_channels, height, width)pour les images) — L'échantillon débruité prédit (x_{0}) basé sur la sortie du modèle à l'étape temporelle actuelle.pred_original_samplepeut être utilisé pour prévisualiser la progression ou pour le guidage.
Classe de sortie pour la fonction d'étape du planificateur.