Diffusers documentation

Inferência remota

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Inferência remota

A inferência remota fornece acesso a um Inference Endpoint para transferir os requisitos de geração local para decodificação e codificação.

remote_decode

diffusers.utils.remote_decode

< >

( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )

Parâmetros

  • endpoint (str) — Endpoint para Remote Decode.
  • tensor (torch.Tensor) — Tensor a ser decodificado.
  • processor (VaeImageProcessor ou VideoProcessor, opcional) — Usado com return_type="pt" e return_type="pil" para modelos de vídeo.
  • do_scaling (bool, padrão True, opcional) — DEPRECATED. use scaling_factor/shift_factor em vez disso. continue definindo do_scaling=None/do_scaling=False para não aplicar scaling até que a opção seja removida Quando True, o scaling, por exemplo latents / self.vae.config.scaling_factor, é aplicado remotamente. Se False, a entrada deve ser passada com o scaling já aplicado.
  • scaling_factor (float, opcional) — A escala é aplicada quando é passada, por exemplo, latents / self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Se None, a entrada deve ser passada com a escala aplicada.
  • shift_factor (float, opcional) — O shift é aplicado quando é passado, por exemplo, latents + self.vae.config.shift_factor.
    • Flux: 0.1159 Se None, a entrada deve ser passada com a escala aplicada.
  • output_type ("mp4" or "pil" or "pt", default “pil”) — Endpoint output type. Subject to change. Report feedback on preferred type.

    "mp4": Supported by video models. Endpoint returns bytesof video.“pil”: Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8` image tensor.

    Recomendações: "pt" com partial_postprocess=True é a transferência menor para qualidade total. "pt" com partial_postprocess=False é o mais compatível com código de terceiros. "pil" com image_format="jpg" é a menor transferência no geral.

  • return_type ("mp4" ou "pil" ou "pt", default “) — Função tipo de retorno.

    "mp4": Function returns bytesof video.“pil”: Function returns PIL.Image.Image. With output_type=“pil” no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required.“pt”: Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

  • image_format ("png" ou "jpg", padrão jpg) — Usado com output_type="pil". O endpoint retorna jpg ou png.
  • partial_postprocess (bool, padrão False) — Usado com output_type="pt". O tensor partial_postprocess=False é float16 ou bfloat16, sem denormalização. O tensor partial_postprocess=True é uint8, denormalizado.
  • input_tensor_type ("binary", padrão "binary") — Tipo de transferência de tensor.
  • output_tensor_type ("binary", padrão "binary") — Tipo de transferência de tensor.
  • height (int, opcional) — Obrigatório para latentes "packed".
  • width (int, opcional) — Obrigatório para latentes "packed".

Hugging Face Hybrid Inference que permite executar o decodificação do VAE remotamente.

remote_encode

diffusers.utils.remote_utils.remote_encode

< >

( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )

Parâmetros

  • endpoint (str) — Endpoint para Remote Decode.
  • image (torch.Tensor ou PIL.Image.Image) — Imagem a ser codificada.
  • scaling_factor (float, opcional) — A escala é aplicada quando fornecida, por exemplo, latents * self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Se None, a entrada deve ser passada com a escala aplicada.
  • shift_factor (float, opcional) — O shift é aplicado quando é passado, por exemplo, latents - self.vae.config.shift_factor.
    • Flux: 0.1159 Se None, a entrada deve ser passada com a escala aplicada.

Hugging Face Hybrid Inference que permite executar o encode do VAE remotamente.

Update on GitHub