Diffusers documentation

Bria 3.2

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Bria 3.2

Bria 3.2 est le modèle de génération d'images à partir de texte de nouvelle génération, prêt pour un usage commercial. Avec seulement 4 milliards de paramètres, il offre une esthétique et un rendu du texte exceptionnels, évalués comme étant au niveau des principaux modèles open source, et surpassant les autres modèles sous licence. En plus d'être construit entièrement sur des données sous licence, 3.2 offre plusieurs avantages pour un usage en entreprise et commercial :

  • Calcul efficace - le modèle est 3 fois plus petit que les modèles équivalents sur le marché (4 milliards de paramètres contre 12 milliards de paramètres pour les autres modèles open source)
  • Cohérence de l'architecture : même architecture que la 3.1 — idéal pour les utilisateurs souhaitant effectuer une mise à niveau sans interruption.
  • Accélération du fine-tuning : le fine-tuning est 2 fois plus rapide sur L40S et A100.

Les points de contrôle du modèle original de Bria 3.2 sont disponibles ici. Le dépôt GitHub de Bria 3.2 est disponible ici.

Si vous souhaitez en savoir plus sur la plateforme Bria et obtenir un accès gratuit à traril, veuillez visiter bria.ai.

Utilisation

Le modèle étant soumis à une autorisation, avant de l’utiliser avec diffusers, vous devez d’abord accéder à la page Hugging Face de Bria 3.2, remplir le formulaire et accepter l’accès. Une fois autorisé, vous devez vous connecter afin que votre système prenne en compte votre acceptation.

Utilisez la commande ci-dessous pour vous connecter :

hf auth login

BriaPipeline

classe diffusers.BriaPipeline

< >

( transformer: BriaTransformer2DModelscheduler: diffusers.schedulers.scheduling_flow_match_euler_discrete.FlowMatchEulerDiscreteScheduler | diffusers.schedulers.scheduling_utils.KarrasDiffusionSchedulersvae: AutoencoderKLtext_encoder: T5EncoderModeltokenizer: T5Tokenizerimage_encoder: CLIPVisionModelWithProjection = Nonefeature_extractor: CLIPImageProcessorPil = None )

Paramètres

  • transformer (BriaTransformer2DModel) — Architecture Transformer conditionnelle (MMDiT) pour le débruitage des latents d'image encodés.
  • scheduler (FlowMatchEulerDiscreteScheduler) — Un planificateur à utiliser en combinaison avec transformer pour débruyer les latents d'image encodés.
  • vae (AutoencoderKL) — Modèle de Variational Auto-Encoder (VAE) pour encoder et décoder des images vers et depuis des représentations latentes.
  • text_encoder (T5EncoderModel) — Encodeur de texte figé. Bria utilise T5, plus précisément la variante t5-v1_1-xxl.
  • tokenizer (T5TokenizerFast) — Tokeniseur de la classe T5Tokenizer.

Basé sur FluxPipeline avec plusieurs modifications :

  • aucun embeddings agrégés
  • Nous utilisons un remplissage par zéros pour les invites
  • Aucun embedding de guidance car il ne s'agit pas d'une version distillée

__call__

< >

( prompt: str | list[str] = Noneheight: int | None = Nonewidth: int | None = Nonenum_inference_steps: int = 30timesteps: list = Noneguidance_scale: float = 5negative_prompt: str | list[str] | None = Nonenum_images_per_prompt: int | None = 1generator: typing.Union[torch.Generator, list[torch.Generator], NoneType] = Nonelatents: typing.Optional[torch.FloatTensor] = Noneprompt_embeds: typing.Optional[torch.FloatTensor] = Nonenegative_prompt_embeds: typing.Optional[torch.FloatTensor] = Noneoutput_type: str | None = 'pil'return_dict: bool = Trueattention_kwargs: dict[str, typing.Any] | None = Nonecallback_on_step_end: typing.Optional[typing.Callable[[int, int], NoneType]] = Nonecallback_on_step_end_tensor_inputs: list = ['latents']max_sequence_length: int = 128clip_value: None | float = Nonenormalize: bool = False ) → ~pipelines.bria.BriaPipelineOutput or tuple

Paramètres

  • prompt (str ou list[str], facultatif) — Le prompt ou les prompts pour guider la génération d’image. S’il n’est pas défini, il faut passer prompt_embeds à la place.
  • height (int, facultatif, par défaut self.unet.config.sample_size * self.vae_scale_factor) — La hauteur en pixels de l'image générée. Cette valeur est fixée à 1024 par défaut pour obtenir les meilleurs résultats.
  • width (int, facultatif, par défaut self.unet.config.sample_size * self.vae_scale_factor) — La largeur en pixels de l'image générée. Cette valeur est fixée à 1024 par défaut pour obtenir les meilleurs résultats.
  • num_inference_steps (int, facultatif, valeur par défaut 50) — Le nombre d'étapes de débruitage. Un plus grand nombre d'étapes de débruitage conduit généralement à une image de meilleure qualité, au prix d'une inférence plus lente.
  • timesteps (list[int], facultatif) — Timesteps personnalisés à utiliser pour le processus de débruitage avec les planificateurs qui prennent en charge un argument timesteps dans leur méthode set_timesteps. S'il n'est pas défini, le comportement par défaut lorsque num_inference_steps est passé sera utilisé. Doit être dans l'ordre décroissant.
  • guidance_scale (float, facultatif, valeur par défaut 5.0) —

Retourne

~pipelines.bria.BriaPipelineOutput ou tuple

~pipelines.bria.BriaPipelineOutput si return_dict est True, sinon un tuple. En cas de retour d'un tuple, le premier élément est une liste contenant les images générées.

Fonction appelée lors de l'appel du pipeline pour la génération.

<<<<<<< HEAD Échelle de guidage telle que définie dans Classifier-Free Diffusion Guidance. guidance_scale est défini comme w de l'équation 2. de Imagen Paper. L'échelle de guidage est activée en définissant guidance_scale > 1. Une échelle de guidage plus élevée encourage la génération d'images étroitement liées au prompt texte, généralement au détriment de la qualité de l'image.

negative_prompt ( str ou list[str] , optionnel ) :

Échelle de guidage telle que définie dans Classifier-Free Diffusion Guidance. guidance_scale est défini comme w de l'équation 2. de Imagen Paper. L'échelle de guidage est activée en définissant guidance_scale > 1. Une échelle de guidage plus élevée encourage la génération d'images étroitement liées au prompt texte, généralement au détriment de la qualité de l'image. negative_prompt (str ou list[str], facultatif) :

main Le ou les prompts à ne pas utiliser pour guider la génération d'image. S'ils ne sont pas définis, il faut passer negative_prompt_embeds à la place. Ignoré lorsque la guidance n'est pas utilisée (c'est-à-dire ignoré si guidance_scale est inférieur à 1). num_images_per_prompt (int, facultatif, par défaut 1) : Le nombre d'images à générer par prompt. generator (torch.Generator ou list[torch.Generator], facultatif) : Un ou une liste de générateurs torch pour rendre la génération déterministe. latents (torch.FloatTensor, facultatif) : Latents bruités pré-générés, échantillonnés à partir d'une distribution gaussienne, à utiliser comme entrées pour la génération d'image. Peut être utilisé pour ajuster la même génération avec des prompts différents. S'ils ne sont pas fournis, un tenseur de latents sera généré par échantillonnage à l'aide du generator aléatoire fourni. prompt_embeds (torch.FloatTensor, facultatif) : Embeddings de texte pré-générés. Peut être utilisé pour ajuster facilement les entrées de texte, par ex. le pondération des prompts. S'ils ne sont pas fournis, les embeddings de texte seront générés à partir de l'argument d'entrée prompt. negative_prompt_embeds (torch.FloatTensor, facultatif) : Embeddings de texte négatifs pré-générés. Peut être utilisé pour ajuster facilement les entrées de texte, par ex. la pondération des prompts. S'ils ne sont pas fournis, negative_prompt_embeds sera généré à partir de l'argument d'entrée negative_prompt. output_type (str, facultatif, par défaut "pil") : Le format de sortie de l'image générée. Choisissez entre PIL : PIL.Image.Image ou np.array. return_dict (bool, facultatif, par défaut True) : Indique s'il faut retourner un ~pipelines.bria.BriaPipelineOutput plutôt qu'un simple tuple. attention_kwargs (dict, facultatif) : Un dictionnaire de kwargs qui, s'il est spécifié, est transmis au AttentionProcessor tel que défini sous self.processor dans diffusers.models.attention_processor. callback_on_step_end (Callable, facultatif) : Une fonction appelée à la fin de chaque étape de débruitage pendant l'inférence. La fonction est appelée avec les arguments suivants : callback_on_step_end(self: DiffusionPipeline, step: int, timestep: int, callback_kwargs: Dict). callback_kwargs contiendra une liste de tous les tenseurs spécifiés par callback_on_step_end_tensor_inputs. callback_on_step_end_tensor_inputs (list, facultatif) : La liste des entrées de tenseurs pour la fonction callback_on_step_end. Les tenseurs spécifiés dans la liste seront passés comme argument callback_kwargs. Vous ne pourrez inclure que les variables listées dans l'attribut ._callback_tensor_inputs de votre classe de pipeline. max_sequence_length (int par défaut 256) : Longueur de séquence maximale à utiliser avec le prompt. clip_value (float, facultatif) : Si défini, le bruit prédit est tronqué à l'intervalle [-clip_value, clip_value] à chaque étape de débruitage. normalize (bool, facultatif, par défaut False) : Indique s'il faut normaliser le bruit prédit à chaque étape de débruitage.

Exemples :

>>> import torch
>>> from diffusers import BriaPipeline

>>> pipe = BriaPipeline.from_pretrained("briaai/BRIA-3.2", torch_dtype=torch.bfloat16)
>>> pipe.to("cuda")
# BRIA's T5 text encoder is sensitive to precision. We need to cast it to bfloat16 and keep the final layer in float32.

>>> pipe.text_encoder = pipe.text_encoder.to(dtype=torch.bfloat16)
>>> for block in pipe.text_encoder.encoder.block:
...     block.layer[-1].DenseReluDense.wo.to(dtype=torch.float32)
# BRIA's VAE is not supported in mixed precision, so we use float32.

>>> if pipe.vae.config.shift_factor == 0:
...     pipe.vae.to(dtype=torch.float32)

>>> prompt = "Photorealistic food photography of a stack of fluffy pancakes on a white plate, with maple syrup being poured over them. On top of the pancakes are the words 'BRIA 3.2' in bold, yellow, 3D letters. The background is dark and out of focus."
>>> image = pipe(prompt).images[0]
>>> image.save("bria.png")

encode_prompt

< >

( prompt: str | list[str]device: typing.Optional[torch.device] = Nonenum_images_per_prompt: int = 1do_classifier_free_guidance: bool = Truenegative_prompt: str | list[str] | None = Noneprompt_embeds: typing.Optional[torch.FloatTensor] = Nonenegative_prompt_embeds: typing.Optional[torch.FloatTensor] = Nonemax_sequence_length: int = 128lora_scale: float | None = None )

Paramètres

  • prompt (str ou list[str], facultatif) — prompt à encoder
  • device — (torch.device) : torch device
  • num_images_per_prompt (int) — nombre d'images à générer par invite
  • do_classifier_free_guidance (bool) — indique s'il faut utiliser le classifier free guidance ou non
  • negative_prompt (str ou list[str], facultatif) — Le ou les prompts à ne pas utiliser pour guider la génération d’image. S’il n’est pas défini, il faut passer negative_prompt_embeds à la place. Ignoré lorsque le guidage n’est pas utilisé (c’est-à-dire ignoré si guidance_scale est inférieur à 1).
  • prompt_embeds (torch.FloatTensor, facultatif) — Embeddings de texte pré-générés. Peut être utilisé pour ajuster facilement les entrées de texte, par ex. le pondération des prompts. S'il n'est pas fourni, les embeddings de texte seront générés à partir de l'argument d'entrée prompt.
  • negative_prompt_embeds (torch.FloatTensor, facultatif) — Embeddings de texte négatifs pré-générés. Peut être utilisé pour ajuster facilement les entrées de texte, par ex. le pondération des prompts. S'il n'est pas fourni, negative_prompt_embeds sera généré à partir de l'argument d'entrée negative_prompt.
Update on GitHub