Diffusers documentation
Inférence à distance
Inférence à distance
L'inférence distante permet d'accéder à un Inference Endpoint afin de décharger les besoins locaux de génération pour le décodage et l'encodage.
remote_decode
diffusers.utils.remote_decode
< source >( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )
Paramètres
- endpoint (
str) — Point de terminaison pour Remote Decode. - tensor (
torch.Tensor) — Tenseur à décoder. - processor (
VaeImageProcessorouVideoProcessor, facultatif) — Utilisé avecreturn_type="pt", etreturn_type="pil"pour les modèles vidéo. - do_scaling (
bool, par défautTrue, facultatif) — DÉPRÉCIÉ. Utilisez plutôtscaling_factor/shift_factor. Continuez à définir do_scaling=None/do_scaling=False pour désactiver le scaling jusqu’au retrait de cette option SiTrue, le scaling, par exemplelatents / self.vae.config.scaling_factor, est appliqué à distance. SiFalse, l’entrée doit être transmise avec le scaling déjà appliqué. - scaling_factor (
float, facultatif) — Le facteur d'échelle est appliqué lorsqu'il est transmis, par exemplelatents / self.vae.config.scaling_factor.- SD v1 : 0.18215
- SD XL : 0.13025
- Flux : 0.3611
Si
None, l'entrée doit être transmise avec l'échelle appliquée.
- shift_factor (
float, facultatif) — Le décalage est appliqué lorsqu'il est transmis, par ex.latents + self.vae.config.shift_factor.- Flux : 0,1159
Si
None, l'entrée doit être transmise avec l'échelle appliquée.
- Flux : 0,1159
Si
- output_type (
"mp4"ou"pil"ou"pt", default“) — Type de sortie de l'endpoint Type de sortie de l'endpoint. Susceptible de changer. Signalez vos préférences concernant le type souhaité."mp4": Supported by video models. Endpoint returnsbytesof video.“pil”: Supported by image and video models. Image models: Endpoint returnsbytesof an image inimage_format. Video models: Endpoint returnstorch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returnstorch.Tensor. Withpartial_postprocess=Truethe tensor is postprocesseduint8` image tensor.Recommandations :
"pt"avecpartial_postprocess=Trueest le transfert le plus petit pour une qualité complète."pt"avecpartial_postprocess=Falseest le plus compatible avec le code tiers."pil"avecimage_format="jpg"est le transfert le plus petit dans l’ensemble. - return_type (
"mp4"ou"pil"ou"pt", default“) — Type de retour de la fonction."mp4": Function returnsbytesof video.“pil”: Function returnsPIL.Image.Image. Withoutput_type=“pil” no further processing is applied. Withoutput_type="pt" aPIL.Image.Imageis created.partial_postprocess=Falseprocessoris required.partial_postprocess=Trueprocessoris **not** required.“pt”: Function returnstorch.Tensor.processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization.partial_postprocess=Truetensor isuint8`, denormalized. - image_format (
"png"ou"jpg", par défautjpg) — Utilisé avecoutput_type="pil". Le point de terminaison renvoiejpgoupng. - partial_postprocess (
bool, par défautFalse) — Utilisé avecoutput_type="pt". Le tenseurpartial_postprocess=Falseest enfloat16oubfloat16, sans dénormalisation. Le tenseurpartial_postprocess=Trueest enuint8, dénormalisé. - input_tensor_type (
"binary", par défaut"binary") — Type de transfert de tenseur. - output_tensor_type (
"binary", par défaut"binary") — Type de transfert de tenseur. - height (
int, facultatif) — Requis pour les latents"packed". - width (
int, facultatif) — Requis pour les latents"packed".
Hugging Face Hybrid Inference, qui permet d’exécuter le décodage VAE à distance.
remote_encode
diffusers.utils.remote_utils.remote_encode
< source >( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )
Paramètres
- endpoint (
str) — Point de terminaison pour Remote Decode. - image (
torch.TensorouPIL.Image.Image) — Image à encoder. - scaling_factor (
float, facultatif) — Le facteur d'échelle est appliqué lorsqu'il est transmis, par exemplelatents * self.vae.config.scaling_factor.- SD v1 : 0.18215
- SD XL : 0.13025
- Flux : 0.3611
Si
None, l'entrée doit être transmise avec l'échelle appliquée.
- shift_factor (
float, facultatif) — Le décalage est appliqué lorsqu'il est transmis, par ex.latents - self.vae.config.shift_factor.- Flux : 0,1159
Si
None, l'entrée doit être transmise avec l'échelle appliquée.
- Flux : 0,1159
Si
Hugging Face Hybrid Inference, qui permet d’exécuter l’encodage VAE à distance.