Diffusers documentation
Inferência remota
Inferência remota
A inferência remota fornece acesso a um Inference Endpoint para transferir os requisitos de geração local para decodificação e codificação.
remote_decode
diffusers.utils.remote_decode
< source >( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )
Parâmetros
- endpoint (
str) — Endpoint para Remote Decode. - tensor (
torch.Tensor) — Tensor a ser decodificado. - processor (
VaeImageProcessorouVideoProcessor, opcional) — Usado comreturn_type="pt"ereturn_type="pil"para modelos de vídeo. - do_scaling (
bool, padrãoTrue, opcional) — DEPRECATED. usescaling_factor/shift_factorem vez disso. continue definindo do_scaling=None/do_scaling=False para não aplicar scaling até que a opção seja removida QuandoTrue, o scaling, por exemplolatents / self.vae.config.scaling_factor, é aplicado remotamente. SeFalse, a entrada deve ser passada com o scaling já aplicado. - scaling_factor (
float, opcional) — A escala é aplicada quando é passada, por exemplo,latents / self.vae.config.scaling_factor.- SD v1: 0.18215
- SD XL: 0.13025
- Flux: 0.3611
Se
None, a entrada deve ser passada com a escala aplicada.
- shift_factor (
float, opcional) — O shift é aplicado quando é passado, por exemplo,latents + self.vae.config.shift_factor.- Flux: 0.1159
Se
None, a entrada deve ser passada com a escala aplicada.
- Flux: 0.1159
Se
- output_type (
"mp4"or"pil"or"pt", default“pil”) — Endpoint output type. Subject to change. Report feedback on preferred type."mp4": Supported by video models. Endpoint returnsbytesof video.“pil”: Supported by image and video models. Image models: Endpoint returnsbytesof an image inimage_format. Video models: Endpoint returnstorch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returnstorch.Tensor. Withpartial_postprocess=Truethe tensor is postprocesseduint8` image tensor.Recomendações:
"pt"compartial_postprocess=Trueé a transferência menor para qualidade total."pt"compartial_postprocess=Falseé o mais compatível com código de terceiros."pil"comimage_format="jpg"é a menor transferência no geral. - return_type (
"mp4"ou"pil"ou"pt", default“) — Função tipo de retorno."mp4": Function returnsbytesof video.“pil”: Function returnsPIL.Image.Image. Withoutput_type=“pil” no further processing is applied. Withoutput_type="pt" aPIL.Image.Imageis created.partial_postprocess=Falseprocessoris required.partial_postprocess=Trueprocessoris **not** required.“pt”: Function returnstorch.Tensor.processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization.partial_postprocess=Truetensor isuint8`, denormalized. - image_format (
"png"ou"jpg", padrãojpg) — Usado comoutput_type="pil". O endpoint retornajpgoupng. - partial_postprocess (
bool, padrãoFalse) — Usado comoutput_type="pt". O tensorpartial_postprocess=Falseéfloat16oubfloat16, sem denormalização. O tensorpartial_postprocess=Trueéuint8, denormalizado. - input_tensor_type (
"binary", padrão"binary") — Tipo de transferência de tensor. - output_tensor_type (
"binary", padrão"binary") — Tipo de transferência de tensor. - height (
int, opcional) — Obrigatório para latentes"packed". - width (
int, opcional) — Obrigatório para latentes"packed".
Hugging Face Hybrid Inference que permite executar o decodificação do VAE remotamente.
remote_encode
diffusers.utils.remote_utils.remote_encode
< source >( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )
Parâmetros
- endpoint (
str) — Endpoint para Remote Decode. - image (
torch.TensorouPIL.Image.Image) — Imagem a ser codificada. - scaling_factor (
float, opcional) — A escala é aplicada quando fornecida, por exemplo,latents * self.vae.config.scaling_factor.- SD v1: 0.18215
- SD XL: 0.13025
- Flux: 0.3611
Se
None, a entrada deve ser passada com a escala aplicada.
- shift_factor (
float, opcional) — O shift é aplicado quando é passado, por exemplo,latents - self.vae.config.shift_factor.- Flux: 0.1159
Se
None, a entrada deve ser passada com a escala aplicada.
- Flux: 0.1159
Se
Hugging Face Hybrid Inference que permite executar o encode do VAE remotamente.