Diffusers documentation

Inférence à distance

Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Inférence à distance

L'inférence distante permet d'accéder à un Inference Endpoint afin de décharger les besoins locaux de génération pour le décodage et l'encodage.

remote_decode

diffusers.utils.remote_decode

< >

( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )

Paramètres

  • endpoint (str) — Point de terminaison pour Remote Decode.
  • tensor (torch.Tensor) — Tenseur à décoder.
  • processor (VaeImageProcessor ou VideoProcessor, facultatif) — Utilisé avec return_type="pt", et return_type="pil" pour les modèles vidéo.
  • do_scaling (bool, par défaut True, facultatif) — DÉPRÉCIÉ. Utilisez plutôt scaling_factor/shift_factor. Continuez à définir do_scaling=None/do_scaling=False pour désactiver le scaling jusqu’au retrait de cette option Si True, le scaling, par exemple latents / self.vae.config.scaling_factor, est appliqué à distance. Si False, l’entrée doit être transmise avec le scaling déjà appliqué.
  • scaling_factor (float, facultatif) — Le facteur d'échelle est appliqué lorsqu'il est transmis, par exemple latents / self.vae.config.scaling_factor.
    • SD v1 : 0.18215
    • SD XL : 0.13025
    • Flux : 0.3611 Si None, l'entrée doit être transmise avec l'échelle appliquée.
  • shift_factor (float, facultatif) — Le décalage est appliqué lorsqu'il est transmis, par ex. latents + self.vae.config.shift_factor.
    • Flux : 0,1159 Si None, l'entrée doit être transmise avec l'échelle appliquée.
  • output_type ("mp4" ou "pil" ou "pt", default “) — Type de sortie de l'endpoint Type de sortie de l'endpoint. Susceptible de changer. Signalez vos préférences concernant le type souhaité.

    "mp4": Supported by video models. Endpoint returns bytesof video.“pil”: Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8` image tensor.

    Recommandations : "pt" avec partial_postprocess=True est le transfert le plus petit pour une qualité complète. "pt" avec partial_postprocess=False est le plus compatible avec le code tiers. "pil" avec image_format="jpg" est le transfert le plus petit dans l’ensemble.

  • return_type ("mp4" ou "pil" ou "pt", default “) — Type de retour de la fonction.

    "mp4": Function returns bytesof video.“pil”: Function returns PIL.Image.Image. With output_type=“pil” no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required.“pt”: Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

  • image_format ("png" ou "jpg", par défaut jpg) — Utilisé avec output_type="pil". Le point de terminaison renvoie jpg ou png.
  • partial_postprocess (bool, par défaut False) — Utilisé avec output_type="pt". Le tenseur partial_postprocess=False est en float16 ou bfloat16, sans dénormalisation. Le tenseur partial_postprocess=True est en uint8, dénormalisé.
  • input_tensor_type ("binary", par défaut "binary") — Type de transfert de tenseur.
  • output_tensor_type ("binary", par défaut "binary") — Type de transfert de tenseur.
  • height (int, facultatif) — Requis pour les latents "packed".
  • width (int, facultatif) — Requis pour les latents "packed".

Hugging Face Hybrid Inference, qui permet d’exécuter le décodage VAE à distance.

remote_encode

diffusers.utils.remote_utils.remote_encode

< >

( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )

Paramètres

  • endpoint (str) — Point de terminaison pour Remote Decode.
  • image (torch.Tensor ou PIL.Image.Image) — Image à encoder.
  • scaling_factor (float, facultatif) — Le facteur d'échelle est appliqué lorsqu'il est transmis, par exemple latents * self.vae.config.scaling_factor.
    • SD v1 : 0.18215
    • SD XL : 0.13025
    • Flux : 0.3611 Si None, l'entrée doit être transmise avec l'échelle appliquée.
  • shift_factor (float, facultatif) — Le décalage est appliqué lorsqu'il est transmis, par ex. latents - self.vae.config.shift_factor.
    • Flux : 0,1159 Si None, l'entrée doit être transmise avec l'échelle appliquée.

Hugging Face Hybrid Inference, qui permet d’exécuter l’encodage VAE à distance.

Update on GitHub