AutoencoderKL

Model variational autoencoder (VAE) dengan kerugian KL diperkenalkan dalam Auto-Encoding Variational Bayes oleh Diederik P. Kingma dan Max Welling. Model ini digunakan dalam 🤗 Diffusers untuk mengkodekan gambar menjadi latens dan untuk mendekodekan representasi latens menjadi gambar.

Abstrak dari makalah tersebut adalah:

Bagaimana kita dapat melakukan inferensi dan pembelajaran yang efisien pada model probabilistik terarah, di mana terdapat variabel laten kontinu dengan distribusi posterior yang tidak dapat dihitung (intractable), serta dataset besar? Kami memperkenalkan algoritma inferensi dan pembelajaran variational stokastik yang dapat diskalakan ke dataset besar dan, di bawah beberapa kondisi diferensibilitas yang ringan, bahkan berfungsi pada kasus yang tidak dapat dihitung. Kontribusi kami bersifat dua arah. Pertama, kami menunjukkan bahwa reparameterisasi dari batas bawah variational menghasilkan estimator batas bawah yang dapat dioptimalkan secara langsung menggunakan metode gradien stokastik standar. Kedua, kami menunjukkan bahwa untuk dataset i.i.d. dengan variabel laten kontinu per datapoint, inferensi posterior dapat dibuat sangat efisien dengan menyesuaikan model inferensi aproksimasi (juga disebut model pengenalan) ke posterior yang tidak dapat dihitung menggunakan estimator batas bawah yang diusulkan. Keunggulan teoretis tercermin dalam hasil eksperimen.

Memuat dari format asli

Secara default, AutoencoderKL harus dimuat dengan from_pretrained(), tetapi juga dapat dimuat dari format asli menggunakan FromOriginalModelMixin.from_single_file sebagai berikut:

from diffusers import AutoencoderKL

url = "https://huggingface.co/stabilityai/sd-vae-ft-mse-original/blob/main/vae-ft-mse-840000-ema-pruned.safetensors"  # can also be a local file
model = AutoencoderKL.from_single_file(url)

AutoencoderKL

kelas diffusers.AutoencoderKL

< source >

( in_channels: int = 3out_channels: int = 3down_block_types: tuple[str] = ('DownEncoderBlock2D',)up_block_types: tuple[str] = ('UpDecoderBlock2D',)block_out_channels: tuple[int] = (64,)layers_per_block: int = 1act_fn: str = 'silu'latent_channels: int = 4norm_num_groups: int = 32sample_size: int = 32scaling_factor: float = 0.18215shift_factor: float | None = Nonelatents_mean: tuple[float] | None = Nonelatents_std: tuple[float] | None = Noneforce_upcast: bool = Trueuse_quant_conv: bool = Trueuse_post_quant_conv: bool = Truemid_block_add_attention: bool = True )

Parameter

in_channels (int, opsional, default 3) — Jumlah channel pada gambar input.
out_channels (int, opsional, default 3) — Jumlah channel pada output.
down_block_types (tuple[str], opsional, defaultnya ("DownEncoderBlock2D",)) — tuple dari tipe blok downsample.
up_block_types (tuple[str], opsional, defaultnya ("UpDecoderBlock2D",)) — tuple dari tipe blok upsample.
block_out_channels (tuple[int], opsional, default (64,)) — tuple dari kanal output blok.
act_fn (str, opsional, defaultnya "silu") — Fungsi aktivasi yang akan digunakan.
latent_channels (int, opsional, default 4) — Jumlah channel di ruang laten.
sample_size (int, opsional, default 32) — Ukuran sampel input.
scaling_factor (float, opsional, default 0.18215) — Standar deviasi per komponen dari ruang laten yang dilatih, dihitung menggunakan batch pertama dari set pelatihan. Nilai ini digunakan untuk menskalakan ruang laten agar memiliki varians satu saat melatih model difusi. Laten diskalakan dengan rumus z = z * scaling_factor sebelum diteruskan ke model difusi. Saat decoding, laten diskalakan kembali ke skala aslinya dengan rumus: z = 1 / scaling_factor * z. Untuk detail lebih lanjut, lihat bagian 4.3.2 dan D.1 dari paper High-Resolution Image Synthesis with Latent Diffusion Models.
force_upcast (bool, opsional, default True) — Jika diaktifkan, VAE akan dipaksa untuk berjalan dalam float32 untuk pipeline resolusi gambar tinggi, seperti SD-XL. VAE dapat dihaluskan / dilatih ke rentang yang lebih rendah tanpa kehilangan terlalu banyak presisi, di mana force_upcast dapat diatur ke False - lihat: https://huggingface.co/madebyollin/sdxl-vae-fp16-fix
mid_block_add_attention (bool, opsional, default True) — Jika diaktifkan, mid_block dari Encoder dan Decoder akan memiliki blok attention. Jika diset ke false, mid_block hanya akan memiliki blok resnet

Model VAE dengan kerugian KL untuk mengkodekan gambar menjadi latens dan mendekodekan representasi latens menjadi gambar.

Model ini mewarisi dari ModelMixin. Periksa dokumentasi kelas induk untuk metode generiknya yang diimplementasikan untuk semua model (seperti mengunduh atau menyimpan).

decode

< source >

( z: FloatTensorreturn_dict: bool = Truegenerator = None ) → ~models.vae.DecoderOutput or tuple

Parameter

z (torch.Tensor) — Batch input dari vektor laten.
return_dict (bool, opsional, default True) — Apakah akan mengembalikan ~models.vae.DecoderOutput alih-alih tuple biasa.

Mengembalikan

~models.vae.DecoderOutput atau tuple

Jika return_dict adalah True, sebuah ~models.vae.DecoderOutput dikembalikan, selain itu sebuah tuple biasa yang dikembalikan.

Decode sekelompok gambar.

encode

< source >

( x: Tensorreturn_dict: bool = True )

Parameter

x (torch.Tensor) — Batch input gambar.
return_dict (bool, opsional, default True) — Apakah akan mengembalikan ~models.autoencoder_kl.AutoencoderKLOutput alih-alih tuple biasa.

Enkodekan batch gambar menjadi latents.

forward

< source >

( sample: Tensorsample_posterior: bool = Falsereturn_dict: bool = Truegenerator: typing.Optional[torch.Generator] = None ) → ~models.vae.DecoderOutput or tuple

Parameter

sample (torch.Tensor) — Sampel input.
sample_posterior (bool, opsional, default False) — Apakah akan mengambil sampel dari posterior.
return_dict (bool, opsional, default True) — Apakah akan mengembalikan DecoderOutput alih-alih tuple biasa.
generator (torch.Generator, opsional) — torch.Generator untuk membuat sampling menjadi deterministik.

Mengembalikan

~models.vae.DecoderOutput atau tuple

Jika return_dict bernilai True, sebuah ~models.vae.DecoderOutput akan dikembalikan, selain itu sebuah tuple biasa akan dikembalikan.

fuse_qkv_projections

< source >

( )

Mengaktifkan proyeksi QKV yang digabungkan. Untuk modul self-attention, semua matriks proyeksi (yaitu, query, key, value) digabungkan. Untuk modul cross-attention, matriks proyeksi key dan value digabungkan.

> API ini 🧪 bersifat eksperimental.

set_default_attn_processor

< source >

( )

Menonaktifkan prosesor perhatian kustom dan mengatur implementasi perhatian default.

tiled_decode

< source >

( z: Tensorreturn_dict: bool = True ) → ~models.vae.DecoderOutput or tuple

Parameter

z (torch.Tensor) — Batch input dari vektor laten.
return_dict (bool, opsional, default True) — Apakah akan mengembalikan ~models.vae.DecoderOutput alih-alih tuple biasa.

Mengembalikan

~models.vae.DecoderOutput atau tuple

Jika return_dict adalah True, sebuah ~models.vae.DecoderOutput dikembalikan, selain itu sebuah tuple biasa yang dikembalikan.

Decode batch gambar menggunakan decoder bertile.

tiled_encode

< source >

( x: Tensorreturn_dict: bool = True ) → ~models.autoencoder_kl.AutoencoderKLOutput or tuple

Parameter

x (torch.Tensor) — Batch input gambar.
return_dict (bool, opsional, default True) — Apakah akan mengembalikan ~models.autoencoder_kl.AutoencoderKLOutput alih-alih tuple biasa.

Mengembalikan

~models.autoencoder_kl.AutoencoderKLOutput atau tuple

If return_dict is True, a ~models.autoencoder_kl.AutoencoderKLOutput is returned, otherwise a plain tuple is returned.

Enkodekan batch gambar menggunakan encoder bertile.

Ketika opsi ini diaktifkan, VAE akan membagi tensor input menjadi ubin (tiles) untuk menghitung encoding dalam beberapa langkah. Hal ini berguna untuk menjaga penggunaan memori tetap konstan terlepas dari ukuran gambar. Hasil akhir dari encoding bertile berbeda dari encoding non-tile karena setiap ubin menggunakan encoder yang berbeda. Untuk menghindari artefak tiling, ubin-ubin tersebut saling tumpang tindih dan dicampur (blended) untuk membentuk output yang halus. Anda mungkin masih melihat perubahan berukuran ubin pada output, tetapi seharusnya jauh lebih tidak terlihat.

unfuse_qkv_projections

< source >

( )

Menonaktifkan proyeksi QKV yang digabungkan jika diaktifkan.

> API ini 🧪 bersifat eksperimental.

AutoencoderKLOutput

kelas diffusers.models.modeling_outputs.AutoencoderKLOutput

< source >

( latent_dist: DiagonalGaussianDistribution )

Parameter

latent_dist (DiagonalGaussianDistribution) — Output hasil encoding dari Encoder yang direpresentasikan sebagai mean dan logvar dari DiagonalGaussianDistribution. DiagonalGaussianDistribution memungkinkan pengambilan sampel latents dari distribusi tersebut.

Output dari metode encoding AutoencoderKL.

DecoderOutput

kelas diffusers.models.autoencoders.vae.DecoderOutput

< source >

( sample: Tensorcommit_loss: typing.Optional[torch.FloatTensor] = None )

Parameter

sample (torch.Tensor dengan bentuk (batch_size, num_channels, height, width)) — Contoh output hasil dekoding dari lapisan terakhir model.

Output dari metode decoding.

Update on GitHub