Diffusers documentation

Suy luận từ xa

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Suy luận từ xa

Remote inference cung cấp quyền truy cập vào Inference Endpoint để chuyển tải các yêu cầu tạo cục bộ cho việc giải mã và mã hóa.

remote_decode

diffusers.utils.remote_decode

< >

( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )

Tham số

  • endpoint (str) — Endpoint cho Remote Decode.
  • tensor (torch.Tensor) — Tensor cần giải mã.
  • processor (VaeImageProcessor hoặc VideoProcessor, tùy chọn) — Được sử dụng với return_type="pt", và return_type="pil" cho các mô hình Video.
  • do_scaling (bool, mặc định True, tùy chọn) — ĐÃ BỊ LỖI THỜI. hãy truyền scaling_factor/shift_factor thay thế. vẫn đặt do_scaling=None/do_scaling=False để không áp dụng scaling cho đến khi tùy chọn này bị loại bỏ Khi True, scaling, ví dụ latents / self.vae.config.scaling_factor, sẽ được áp dụng từ xa. Nếu False, đầu vào phải được truyền với scaling đã được áp dụng.
  • scaling_factor (float, tuỳ chọn) — Việc mở rộng (scaling) được áp dụng khi được truyền vào, ví dụ latents / self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Nếu là None, đầu vào phải được truyền với việc áp dụng tỷ lệ.
  • shift_factor (float, tuỳ chọn) — Shift được áp dụng khi được truyền vào, ví dụ latents + self.vae.config.shift_factor.
    • Flux: 0.1159 Nếu là None, đầu vào phải được truyền với việc áp dụng tỷ lệ.
  • output_type ("mp4" hoặc "pil" hoặc "pt", default “) — Loại đầu ra của Endpoint Có thể thay đổi. Vui lòng phản hồi về loại đầu ra bạn ưu tiên.

    "mp4": Supported by video models. Endpoint returns bytesof video.“pil”: Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8` image tensor.

    Khuyến nghị: "pt" với partial_postprocess=True là phương thức truyền tải nhỏ nhất cho chất lượng đầy đủ. "pt" với partial_postprocess=False là phương thức tương thích nhất với mã bên thứ ba. "pil" với image_format="jpg" là phương thức truyền tải nhỏ nhất tổng thể.

  • return_type ("mp4" hoặc "pil" hoặc "pt", default “) — Loại trả về của hàm.

    "mp4": Function returns bytesof video.“pil”: Function returns PIL.Image.Image. With output_type=“pil” no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required.“pt”: Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

  • image_format ("png" hoặc "jpg", mặc định jpg) — Được sử dụng cùng với output_type="pil". Endpoint trả về jpg hoặc png.
  • partial_postprocess (bool, mặc định False) — Dùng với output_type="pt". Tensor partial_postprocess=False là float16 hoặc bfloat16, không được chuẩn hóa lại. Tensor partial_postprocess=True là uint8, đã được chuẩn hóa lại.
  • input_tensor_type ("binary", mặc định "binary") — Loại chuyển tensor.
  • output_tensor_type ("binary", mặc định "binary") — Loại chuyển tensor.
  • height (int, tùy chọn) — Bắt buộc đối với latents "packed".
  • width (int, tùy chọn) — Bắt buộc đối với latents "packed".

Hugging Face Hybrid Inference cho phép chạy VAE decode từ xa.

remote_encode

diffusers.utils.remote_utils.remote_encode

< >

( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )

Tham số

  • endpoint (str) — Endpoint cho Remote Decode.
  • image (torch.Tensor hoặc PIL.Image.Image) — Hình ảnh cần được mã hóa.
  • scaling_factor (float, tuỳ chọn) — Thao tác scale được áp dụng khi được truyền vào, ví dụ latents * self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Nếu là None, đầu vào phải được truyền với việc áp dụng tỷ lệ.
  • shift_factor (float, tuỳ chọn) — Shift được áp dụng khi được truyền vào, ví dụ latents - self.vae.config.shift_factor.
    • Flux: 0.1159 Nếu là None, đầu vào phải được truyền với việc áp dụng tỷ lệ.

Hugging Face Hybrid Inference cho phép chạy VAE encode từ xa.

Update on GitHub