Hugging Face's logo

Diffusers documentation

Удалённый вывод

You are viewing main version, which requires installation from source. If you'd like regular pip install, checkout the latest stable version (v0.42.1).
Hugging Face's logo
Join the Hugging Face community

and get access to the augmented documentation experience

to get started

Удалённый вывод

Remote inference обеспечивает доступ к Inference Endpoint для переноса локальных задач генерации, декодирования и кодирования.

remote_decode

diffusers.utils.remote_decode

< >

( endpoint: strtensor: 'torch.Tensor'processor: 'VaeImageProcessor' | 'VideoProcessor' | None = Nonedo_scaling: bool = Truescaling_factor: float | None = Noneshift_factor: float | None = Noneoutput_type: Literal['mp4', 'pil', 'pt'] = 'pil'return_type: Literal['mp4', 'pil', 'pt'] = 'pil'image_format: Literal['png', 'jpg'] = 'jpg'partial_postprocess: bool = Falseinput_tensor_type: Literal['binary'] = 'binary'output_tensor_type: Literal['binary'] = 'binary'height: int | None = Nonewidth: int | None = None )

Параметры

  • endpoint (str) — Точка входа для Remote Decode.
  • tensor (torch.Tensor) — Тензор для декодирования.
  • processor (VaeImageProcessor или VideoProcessor, необязательный) — Используется с return_type="pt", а также с return_type="pil" для моделей видео.
  • do_scaling (bool, по умолчанию True, необязательный) — УСТАРЕЛ. Вместо этого передавайте scaling_factor/shift_factor. До удаления опции для отключения масштабирования устанавливайте do_scaling=None/do_scaling=False Если True, применяется масштабирование, например latents / self.vae.config.scaling_factor. Если False, входные данные должны передаваться с уже примененным масштабированием.
  • scaling_factor (float, необязательный) — Масштабирование применяется при передаче, например, latents / self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Если None, входные данные должны быть переданы с уже примененным масштабированием.
  • shift_factor (float, необязательный) — Сдвиг применяется при передаче, например, latents + self.vae.config.shift_factor.
    • Flux: 0.1159 Если None, входные данные должны быть переданы с уже примененным масштабированием.
  • output_type ("mp4" или "pil" или "pt", default “) — Тип вывода. Может быть изменён. Сообщите о предпочтительном типе.

    "mp4": Supported by video models. Endpoint returns bytesof video.“pil”: Supported by image and video models. Image models: Endpoint returns bytesof an image inimage_format. Video models: Endpoint returns torch.Tensorwith partialpostprocessingapplied. Requiresprocessoras a flag (anyNonevalue will work).“pt”: Support by image and video models. Endpoint returns torch.Tensor. With partial_postprocess=Truethe tensor is postprocesseduint8` image tensor.

    Рекомендации: "pt" с partial_postprocess=True обеспечивает минимальный размер передачи при полном качестве. "pt" с partial_postprocess=False обладает наибольшей совместимостью с сторонним кодом. "pil" с image_format="jpg" обеспечивает минимальный размер передачи в целом.

  • return_type ("mp4" или "pil" или "pt", default “) — Тип возвращаемого значения.

    "mp4": Function returns bytesof video.“pil”: Function returns PIL.Image.Image. With output_type=“pil” no further processing is applied. With output_type="pt" a PIL.Image.Imageis created.partial_postprocess=False processoris required.partial_postprocess=True processoris **not** required.“pt”: Function returns torch.Tensor. processoris **not** required.partial_postprocess=Falsetensor isfloat16orbfloat16, without denormalization. partial_postprocess=Truetensor isuint8`, denormalized.

  • image_format ("png" или "jpg", по умолчанию jpg) — Используется вместе с output_type="pil". Эндпоинт возвращает jpg или png.
  • partial_postprocess (bool, по умолчанию False) — Используется вместе с output_type="pt". Если partial_postprocess=False, тензор имеет тип float16 или bfloat16 и не денормализован. Если partial_postprocess=True, тензор имеет тип uint8 и денормализован.
  • input_tensor_type ("binary", по умолчанию "binary") — Тип передачи тензора.
  • output_tensor_type ("binary", по умолчанию "binary") — Тип передачи тензора.
  • height (int, необязательный) — Обязательный параметр для латентов "packed".
  • width (int, необязательный) — Требуется для латентов "packed".

Hugging Face Hybrid Inference, позволяющий выполнять декодирование VAE удаленно.

remote_encode

diffusers.utils.remote_utils.remote_encode

< >

( endpoint: strimage: 'torch.Tensor' | Image.Imagescaling_factor: float | None = Noneshift_factor: float | None = None )

Параметры

  • endpoint (str) — Точка входа для Remote Decode.
  • image (torch.Tensor или PIL.Image.Image) — Изображение для кодирования.
  • scaling_factor (float, необязательный) — Масштабирование применяется при передаче, например, latents * self.vae.config.scaling_factor.
    • SD v1: 0.18215
    • SD XL: 0.13025
    • Flux: 0.3611 Если None, входные данные должны быть переданы с уже примененным масштабированием.
  • shift_factor (float, необязательный) — Сдвиг применяется при передаче, например, latents - self.vae.config.shift_factor.
    • Flux: 0.1159 Если None, входные данные должны быть переданы с уже примененным масштабированием.

Hugging Face Hybrid Inference, позволяющий выполнять кодирование VAE удаленно.

Update on GitHub

←Квантование Параллельный вывод→