Diffusers documentation

Inferencia remota

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Inferencia remota

La inferencia remota proporciona acceso a un Inference Endpoint para descargar los requisitos de generación local para la decodificación y codificación.

remote_decode

diffusers.utils.remote_decode

< >

( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )

Parámetros

  • endpoint (str) — Punto de acceso para Remote Decode.
  • tensor (torch.Tensor) — Tensor a decodificar.
  • processor (VaeImageProcessor o VideoProcessor, opcional) — Se usa con return_type="pt" y return_type="pil" para modelos de video.
  • do_scaling (bool, valor predeterminado True, opcional) — DESPRECADO. En su lugar, pase scaling_factor/shift_factor. sigue estableciendo do_scaling=None/do_scaling=False para no aplicar escalado hasta que se elimine la opción Cuando True, se aplica el escalado, por ejemplo latents / self.vae.config.scaling_factor, de forma remota. Si False, la entrada debe pasarse con el escalado ya aplicado.
  • scaling_factor (float, opcional) — Se aplica la escalada cuando se pasa, por ejemplo, latents / self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Si es None, la entrada debe pasarse con la escalada aplicada.
  • shift_factor (float, opcional) — Se aplica un desplazamiento cuando se pasa, por ejemplo, latents + self.vae.config.shift_factor.
    • Flux: 0.1159 Si es None, la entrada debe pasarse con la escalada aplicada.
  • output_type ("mp4" o "pil" o "pt", default “) — Tipo de salida del endpoint Tipo de salida del endpoint. Sujeto a cambios. Informe su opinión sobre el tipo preferido.

    "mp4": Supported by video models. Endpoint returns bytesof video.“pil”: Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8` image tensor.

    Recomendaciones: "pt" con partial_postprocess=True es la transferencia más pequeña para calidad completa. "pt" con partial_postprocess=False es la más compatible con código de terceros. "pil" con image_format="jpg" es la transferencia más pequeña en general.

  • return_type ("mp4" o "pil" o "pt", default “) — Tipo de retorno de la función.

    "mp4": Function returns bytesof video.“pil”: Function returns PIL.Image.Image. With output_type=“pil” no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required.“pt”: Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

  • image_format ("png" o "jpg", por defecto jpg) — Se usa con output_type="pil". El punto de acceso devuelve jpg o png.
  • partial_postprocess (bool, por defecto False) — Se usa con output_type="pt". El tensor con partial_postprocess=False es de tipo float16 o bfloat16, sin denormalizar. El tensor con partial_postprocess=True es de tipo uint8, denormalizado.
  • input_tensor_type ("binary", por defecto "binary") — Tipo de transferencia de tensor.
  • output_tensor_type ("binary", por defecto "binary") — Tipo de transferencia de tensor.
  • height (int, opcional) — Obligatorio para latentes "packed".
  • width (int, opcional) — Obligatorio para latentes "packed".

Hugging Face Hybrid Inference, que permite ejecutar el decodificado de VAE de forma remota.

remote_encode

diffusers.utils.remote_utils.remote_encode

< >

( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )

Parámetros

  • endpoint (str) — Punto de acceso para Remote Decode.
  • image (torch.Tensor o PIL.Image.Image) — Imagen que se codificará.
  • scaling_factor (float, opcional) — Se aplica la escalada cuando se pasa, por ejemplo, latents * self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Si es None, la entrada debe pasarse con la escalada aplicada.
  • shift_factor (float, opcional) — Se aplica un desplazamiento cuando se pasa, por ejemplo, latents - self.vae.config.shift_factor.
    • Flux: 0.1159 Si es None, la entrada debe pasarse con la escalada aplicada.

Hugging Face Hybrid Inference, que permite ejecutar la codificación VAE de forma remota.

Update on GitHub