# Dequantisasi model

Dequantizing mengubah kembali bobot yang terkuantisasi ke dtype presisi yang lebih tinggi seperti bf16. Lakukan dequantize pada model untuk melakukan fine-tuning penuh, untuk menjalankannya pada perangkat keras yang kernel metodenya tidak didukung, atau untuk mengonversinya ke format lain. Hasilnya menggunakan memori sebanyak model yang tidak terkuantisasi, dan tidak memulihkan akurasi yang hilang akibat pembulatan.

Transformers melakukan dekuantisasi dengan dua cara, tergantung pada metodenya.

| Metode | Cara melakukan dekuantisasi |
|---|---|
| [bitsandbytes](./bitsandbytes), [HIGGS](./higgs) | Panggil [dequantize()](/docs/transformers/main/id/main_classes/model#transformers.PreTrainedModel.dequantize) setelah memuat. |
| [compressed-tensors](./compressed_tensors), [FP8 Fine-grained](./finegrained_fp8), [GGUF](./gguf), [Metal](./metal), [MXFP4](./mxfp4) | Lewati `dequantize=True` ke konfigurasi metode saat memuat. |

Metode lain memicu `NotImplementedError` dari [dequantize()](/docs/transformers/main/id/main_classes/model#transformers.PreTrainedModel.dequantize).

## Dequantize setelah memuat

Panggil [dequantize()](/docs/transformers/main/id/main_classes/model#transformers.PreTrainedModel.dequantize) pada model yang dimuat. Secara default, fungsi ini menggunakan `dtype` yang sama dengan saat model dimuat. Sampaikan `dtype` untuk memilih yang lain.

```py
import torch
from transformers import AutoModelForCausalLM, BitsAndBytesConfig

model = AutoModelForCausalLM.from_pretrained(
    "Qwen/Qwen3-0.6B",
    quantization_config=BitsAndBytesConfig(load_in_4bit=True),
    device_map="auto",
)
model = model.dequantize(dtype=torch.bfloat16)
```

[dequantize()](/docs/transformers/main/id/main_classes/model#transformers.PreTrainedModel.dequantize) juga menghapus `quantization_config`, sehingga [save_pretrained()](/docs/transformers/main/id/main_classes/model#transformers.PreTrainedModel.save_pretrained) menyimpan checkpoint presisi penuh biasa.

## Dequantize saat memuat

Lewati `dequantize=True` ke konfigurasi metode yang mendukungnya. Bobot akan didekuantisasi saat dimuat, sehingga kernel terkuantisasi tidak pernah digunakan. Contoh di bawah memuat bobot MXFP4 dari gpt-oss dalam bf16.

```py
from transformers import AutoModelForCausalLM, Mxfp4Config

model = AutoModelForCausalLM.from_pretrained(
    "openai/gpt-oss-20b",
    quantization_config=Mxfp4Config(dequantize=True),
    device_map="auto",
)
```

Beberapa metode melakukan dequantisasi secara otomatis ketika kernel-nya tidak dapat dijalankan. [GGUF](./gguf), misalnya, beralih ke dequantisasi ketika tidak ada kernel yang mendukung tipe kuantisasi file tersebut.