Diffusers documentation
Inferencia remota
Inferencia remota
La inferencia remota proporciona acceso a un Inference Endpoint para descargar los requisitos de generación local para la decodificación y codificación.
remote_decode
diffusers.utils.remote_decode
< source >( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )
Parámetros
- endpoint (
str) — Punto de acceso para Remote Decode. - tensor (
torch.Tensor) — Tensor a decodificar. - processor (
VaeImageProcessoroVideoProcessor, opcional) — Se usa conreturn_type="pt"yreturn_type="pil"para modelos de video. - do_scaling (
bool, valor predeterminadoTrue, opcional) — DESPRECADO. En su lugar, pasescaling_factor/shift_factor. sigue estableciendo do_scaling=None/do_scaling=False para no aplicar escalado hasta que se elimine la opción CuandoTrue, se aplica el escalado, por ejemplolatents / self.vae.config.scaling_factor, de forma remota. SiFalse, la entrada debe pasarse con el escalado ya aplicado. - scaling_factor (
float, opcional) — Se aplica la escalada cuando se pasa, por ejemplo,latents / self.vae.config.scaling_factor.- SD v1: 0.18215
- SD XL: 0.13025
- Flux: 0.3611
Si es
None, la entrada debe pasarse con la escalada aplicada.
- shift_factor (
float, opcional) — Se aplica un desplazamiento cuando se pasa, por ejemplo,latents + self.vae.config.shift_factor.- Flux: 0.1159
Si es
None, la entrada debe pasarse con la escalada aplicada.
- Flux: 0.1159
Si es
- output_type (
"mp4"o"pil"o"pt", default“) — Tipo de salida del endpoint Tipo de salida del endpoint. Sujeto a cambios. Informe su opinión sobre el tipo preferido."mp4": Supported by video models. Endpoint returnsbytesof video.“pil”: Supported by image and video models. Image models: Endpoint returnsbytesof an image inimage_format. Video models: Endpoint returnstorch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returnstorch.Tensor. Withpartial_postprocess=Truethe tensor is postprocesseduint8` image tensor.Recomendaciones:
"pt"conpartial_postprocess=Truees la transferencia más pequeña para calidad completa."pt"conpartial_postprocess=Falsees la más compatible con código de terceros."pil"conimage_format="jpg"es la transferencia más pequeña en general. - return_type (
"mp4"o"pil"o"pt", default“) — Tipo de retorno de la función."mp4": Function returnsbytesof video.“pil”: Function returnsPIL.Image.Image. Withoutput_type=“pil” no further processing is applied. Withoutput_type="pt" aPIL.Image.Imageis created.partial_postprocess=Falseprocessoris required.partial_postprocess=Trueprocessoris **not** required.“pt”: Function returnstorch.Tensor.processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization.partial_postprocess=Truetensor isuint8`, denormalized. - image_format (
"png"o"jpg", por defectojpg) — Se usa conoutput_type="pil". El punto de acceso devuelvejpgopng. - partial_postprocess (
bool, por defectoFalse) — Se usa conoutput_type="pt". El tensor conpartial_postprocess=Falsees de tipofloat16obfloat16, sin denormalizar. El tensor conpartial_postprocess=Truees de tipouint8, denormalizado. - input_tensor_type (
"binary", por defecto"binary") — Tipo de transferencia de tensor. - output_tensor_type (
"binary", por defecto"binary") — Tipo de transferencia de tensor. - height (
int, opcional) — Obligatorio para latentes"packed". - width (
int, opcional) — Obligatorio para latentes"packed".
Hugging Face Hybrid Inference, que permite ejecutar el decodificado de VAE de forma remota.
remote_encode
diffusers.utils.remote_utils.remote_encode
< source >( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )
Parámetros
- endpoint (
str) — Punto de acceso para Remote Decode. - image (
torch.TensoroPIL.Image.Image) — Imagen que se codificará. - scaling_factor (
float, opcional) — Se aplica la escalada cuando se pasa, por ejemplo,latents * self.vae.config.scaling_factor.- SD v1: 0.18215
- SD XL: 0.13025
- Flux: 0.3611
Si es
None, la entrada debe pasarse con la escalada aplicada.
- shift_factor (
float, opcional) — Se aplica un desplazamiento cuando se pasa, por ejemplo,latents - self.vae.config.shift_factor.- Flux: 0.1159
Si es
None, la entrada debe pasarse con la escalada aplicada.
- Flux: 0.1159
Si es
Hugging Face Hybrid Inference, que permite ejecutar la codificación VAE de forma remota.