Hugging Face's logo

Diffusers documentation

Inferensi jarak jauh

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Inferensi jarak jauh

Remote inference menyediakan akses ke Inference Endpoint untuk mengalihkan kebutuhan generasi lokal untuk decoding dan encoding.

remote_decode

diffusers.utils.remote_decode

< >

( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )

Parameter

  • endpoint (str) — Endpoint untuk Remote Decode.
  • tensor (torch.Tensor) — Tensor yang akan didekode.
  • processor (VaeImageProcessor atau VideoProcessor, opsional) — Digunakan dengan return_type="pt", dan return_type="pil" untuk model Video.
  • do_scaling (bool, default True, opsional) — DEPRECATED. gunakan scaling_factor/shift_factor sebagai gantinya. masih set do_scaling=None/do_scaling=False untuk tidak melakukan scaling sampai opsi dihapus Ketika True scaling, misalnya latents / self.vae.config.scaling_factor, diterapkan secara remote. Jika False, input harus diberikan dengan scaling yang sudah diterapkan.
  • scaling_factor (float, opsional) — Scaling diterapkan saat di-pass, misalnya latents / self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Jika None, input harus diteruskan dengan penskalaan yang diterapkan.
  • shift_factor (float, opsional) — Shift diterapkan saat di-pass, misalnya latents + self.vae.config.shift_factor.
    • Flux: 0.1159 Jika None, input harus diteruskan dengan penskalaan yang diterapkan.
  • output_type ("mp4" atau "pil" atau "pt", default “) — Jenis output. Dapat berubah. Sampaikan umpan balik mengenai jenis yang Anda preferensikan.

    "mp4": Supported by video models. Endpoint returns bytesof video.“pil”: Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8` image tensor.

    Rekomendasi: "pt" dengan partial_postprocess=True adalah transfer terkecil untuk kualitas penuh. "pt" dengan partial_postprocess=False adalah yang paling kompatibel dengan kode pihak ketiga. "pil" dengan image_format="jpg" adalah transfer terkecil secara keseluruhan.

  • return_type ("mp4" atau "pil" atau "pt", default “) — Jenis pengembalian fungsi.

    "mp4": Function returns bytesof video.“pil”: Function returns PIL.Image.Image. With output_type=“pil” no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required.“pt”: Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

  • image_format ("png" atau "jpg", default jpg) — Digunakan dengan output_type="pil". Endpoint mengembalikan jpg atau png.
  • partial_postprocess (bool, default False) — Digunakan dengan output_type="pt". Tensor partial_postprocess=False bertipe float16 atau bfloat16, tanpa denormalisasi. Tensor partial_postprocess=True bertipe uint8, sudah dinormalisasi.
  • input_tensor_type ("binary", default "binary") — Jenis transfer tensor.
  • output_tensor_type ("binary", default "binary") — Jenis transfer tensor.
  • height (int, opsional) — Wajib untuk latens "packed".
  • width (int, opsional) — Wajib untuk latens "packed".

Hugging Face Hybrid Inference yang memungkinkan eksekusi decode VAE secara jarak jauh.

remote_encode

diffusers.utils.remote_utils.remote_encode

< >

( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )

Parameter

  • endpoint (str) — Endpoint untuk Remote Decode.
  • image (torch.Tensor atau PIL.Image.Image) — Gambar yang akan dikodekan.
  • scaling_factor (float, opsional) — Scaling diterapkan saat di-pass, misalnya latents * self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Jika None, input harus diteruskan dengan penskalaan yang diterapkan.
  • shift_factor (float, opsional) — Shift diterapkan saat di-pass, misalnya latents - self.vae.config.shift_factor.
    • Flux: 0.1159 Jika None, input harus diteruskan dengan penskalaan yang diterapkan.

Hugging Face Hybrid Inference yang memungkinkan ekode VAE dijalankan secara jarak jauh.

Update on GitHub

←Kuantisasi Inferensi paralel→