# PEFT[[transformers.integrations.PeftAdapterMixin]]

[PeftAdapterMixin](/docs/transformers/v5.23.0/tr/main_classes/peft#transformers.integrations.PeftAdapterMixin), Transformers ile adaptörleri yönetmek için [PEFT](https://huggingface.co/docs/peft/index) kütüphanesinden fonksiyonlar sağlar. Bu mixin, tüm prompt-öğrenme dışı PEFT yöntemlerini (LoRA, IA3, AdaLoRA ve diğerleri) destekler. Prefix tuning yöntemleri (prompt tuning, prompt learning), bir torch modülüne enjekte edilemedikleri için desteklenmez.

#### transformers.integrations.PeftAdapterMixin[[transformers.integrations.PeftAdapterMixin]]

```python
transformers.integrations.PeftAdapterMixin()
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L57)

PEFT kütüphanesinde desteklenen adaptör ağırlıklarını yüklemek ve kullanmak için tüm işlevleri içeren bir sınıf. Adaptörler hakkında ve bunların transformer tabanlı bir modele enjekte edilmesi hakkında daha fazla ayrıntı için PEFT kütüphanesinin belgelerine göz atın: https://huggingface.co/docs/peft/index

Şu anda desteklenen PEFT yöntemleri, tümüyle prompt öğrenme dışı yöntemlerdir (LoRA, IA³ vb.). Prompt tuning, prompt learning gibi diğer PEFT modelleri kapsam dışıdır, çünkü bu adaptörler bir torch modülüne "enjekte edilemez". Bu yöntemleri kullanmak için PEFT kütüphanesinin kullanım kılavuzuna başvurun.

Bu mixin ile doğru PEFT sürümü yüklüyse (>= 0.20.0), aşağıdakiler yapılabilir:

- Yerel bir yolda veya uzak bir Hub deposunda saklanan bir adaptörü yükleyin ve modele enjekte edin
- Modelde yeni adaptörler ekleyin ve bunları Trainer ile veya kendi yöntemlerinizle eğitin.
- Birden çok adaptör ekleyin ve bunları iteratif olarak etkinleştirin / devre dışı bırakın
- Modeldeki tüm adaptörleri etkinleştir / devre dışı bırak.
- Aktif adaptörün `state_dict`'ini alın.

#### load_adapter[[transformers.integrations.PeftAdapterMixin.load_adapter]]

```python
load_adapter(peft_model_id: str | None = None, adapter_name: str | None = None, peft_config: dict[str, typing.Any] | None = None, adapter_state_dict: dict[str, 'torch.Tensor'] | None = None, low_cpu_mem_usage: bool = False, is_trainable: bool = False, hotswap: typing.Union[bool, typing.Literal['auto']] = 'auto', local_files_only: bool = False, adapter_kwargs: dict[str, typing.Any] | None = None, load_config: typing.Optional[ForwardRef('LoadStateDictConfig')] = None, **kwargs)
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L80)

**Parametreler:**

peft_model_id (`str`, *isteğe bağlı*) : Hub'da aranacak modelin tanımlayıcısı veya kaydedilmiş adaptör yapılandırma dosyasının ve adaptör ağırlıklarının yerel yolu.

adapter_name (`str`, *isteğe bağlı*) : Kullanılacak adaptör adı. Ayarlanmazsa, "default" adı kullanılır.

load_config (`LoadStateDictConfig`, *isteğe bağlı*) : Adaptör ağırlıklarını çekerken, genellikle `from_pretrained`'den, yeniden kullanılacak bir yükleme yapılandırması.

kwargs (`dict[str, Any]`, *isteğe bağlı*) : Anahtar kelime argümanları olarak geçirilen ek `LoadStateDictConfig` alanları.

peft_config (`dict[str, Any]`, *isteğe bağlı*) : Eklenecek adaptörün yapılandırması, desteklenen adaptörler tüm prompt öğrenme dışı yapılandırmalardır (LoRA, IA³ vb). Bu argüman, kullanıcılar PEFT durum sözlüklerini doğrudan geçirdiğinde kullanılır.

adapter_state_dict (`dict[str, torch.Tensor]`, *isteğe bağlı*) : Yüklenmesi gereken adaptörün state dict'i. Bu argüman, kullanıcılar PEFT state dict'lerini doğrudan geçirdiğinde kullanılır.

low_cpu_mem_usage (`bool`, *isteğe bağlı*, varsayılan `False`) : PEFT adaptörünün yüklenirken bellek kullanımını azaltır. Bu, yükleme sürecini de hızlandırmalıdır.

is_trainable (`bool`, *isteğe bağlı*, varsayılan `False`) : Adaptörün eğitilebilir olup olmadığı. `False` ise adaptör dondurulur ve yalnızca çıkarım için kullanılabilir.

hotswap : (`"auto"` veya `bool`, *isteğe bağlı*, varsayılan `"auto"`) Mevcut (LoRA) adaptörün, yerinde yeni yüklenen adaptörle değiştirilip değiştirilmeyeceğini belirtir. Bu, ek bir adaptör yüklemek yerine, mevcut adaptör ağırlıklarının yeni adaptörün ağırlıklarıyla değiştirileceği anlamına gelir. Bu işlem daha hızlı ve bellek açısından daha verimli olabilir. Ancak, hotswap'ın (sıcak değiştirme) ana avantajı, model torch.compile ile derlendiğinde, yeni adaptörün yüklenmesinin modelin yeniden derlenmesini gerektirmemesidir. Hotswap kullanıldığında, geçirilen `adapter_name` parametresi, zaten yüklenmiş bir adaptörün adı olmalıdır.  Yeni adaptör ile eski adaptörün farklı rank'lara ve/veya LoRA alfa değerlerine (yani ölçeklemeye) sahip olması durumunda, adaptörü yüklemekten önce ek bir metot çağırmanız gerekir:  ```py model = AutoModel.from_pretrained(...) max_rank = ...  # the highest rank among all LoRAs that you want to load # call *before* compiling and loading the LoRA adapter model.enable_peft_hotswap(target_rank=max_rank) model.load_adapter(file_name_1, adapter_name="default") # optionally compile the model now model = torch.compile(model, ...) output_1 = model(...) # now you can hotswap the 2nd adapter, use the same name as for the 1st # hotswap is activated by default since enable_peft_hotswap was called model.load_adapter(file_name_2, adapter_name="default") output_2 = model(...) ```  Varsayılan olarak hotswap devre dışıdır ve `hotswap=True` parametresinin geçirilmesini gerektirir. Önce `enable_peft_hotswap` metodunu çağırdıysanız, hotswap etkinleştirilir. Bu durumda, `hotswap=False` parametresini geçirerek hâlâ manuel olarak devre dışı bırakabilirsiniz.  Hotswap'ın, burada belgelenen birkaç kısıtlaması olduğunu unutmayın: https://huggingface.co/docs/peft/main/en/package_reference/hotswap

adapter_kwargs (`dict[str, Any]`, *isteğe bağlı*) : Adaptör yapılandırmasının `from_pretrained` yöntemi ve `find_adapter_config_file` yönteminin yanına iletilen ek anahtar-argümanlar.

Dosyadan veya uzak Hub klasöründen adaptör ağırlıklarını yükler. Adaptörler ve PEFT yöntemleri hakkında bilgi sahibi değilseniz, bunlar hakkında daha fazla bilgi edinmek için PEFT resmi dokümantasyonunu okumaya davet ediyoruz: https://huggingface.co/docs/peft

Adaptör ağırlıklarını yüklemek için PEFT'nin bir arka uç olarak kurulu olması gerekir.

#### add_adapter[[transformers.integrations.PeftAdapterMixin.add_adapter]]

```python
add_adapter(adapter_config, adapter_name: str | None = None)
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L390)

**Parametreler:**

adapter_config (`~peft.PeftConfig`) : Eklenecek adaptörün yapılandırması, desteklenen adaptörler prompt öğrenme dışı yöntemlerdir (LoRA, IA³ vb.).

adapter_name (`str`, *isteğe bağlı*, varsayılan `"default"`) : Eklenecek adaptörün adı. Bir ad geçirilmezse, adaptöre varsayılan bir ad atanır.

Adaptörler ve PEFT yöntemleri hakkında bilgi sahibi değilseniz, bunlar hakkında daha fazla bilgi edinmek için PEFT resmi dokümantasyonunu okumaya davet ediyoruz: https://huggingface.co/docs/peft

Eğitim amacıyla mevcut modele yeni bir adaptör ekler. Adaptör adı geçirilmezse, PEFT kütüphanesinin sözleşmesine uyulması için adaptöre varsayılan bir ad atanır (PEFT'te varsayılan adaptör adı olarak "default" kullanılır).

Yeni eklenen adaptörün otomatik olarak etkinleştirilmediğini unutmayın. Etkinleştirmek için `model.set_adapter` kullanın.

#### set_adapter[[transformers.integrations.PeftAdapterMixin.set_adapter]]

```python
set_adapter(adapter_name: list[str] | str)
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L430)

**Parametreler:**

adapter_name (`Union[list[str], str]`) : Ayarlanacak adaptörün adı. Birden fazla adaptör ayarlamak için bir dizi dize de olabilir.

Adaptörler ve PEFT yöntemleri hakkında bilgi sahibi değilseniz, bunlar hakkında daha fazla bilgi edinmek için PEFT resmi dokümantasyonunu okumaya davet ediyoruz: https://huggingface.co/docs/peft

Belirli bir adaptörü, modelin o adaptörü kullanmasını zorlayarak ve diğer adaptörleri devre dışı bırakarak ayarlar.

#### disable_adapters[[transformers.integrations.PeftAdapterMixin.disable_adapters]]

```python
disable_adapters()
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L471)

Adaptörler ve PEFT yöntemleri hakkında bilgi sahibi değilseniz, bunlar hakkında daha fazla bilgi edinmek için PEFT resmi dokümantasyonunu okumaya davet ediyoruz: https://huggingface.co/docs/peft

Modelde bağlı olan tüm adaptörleri devre dışı bırakır. Bu, yalnızca temel modelle çıkarım yapılmasına yol açar.

#### enable_adapters[[transformers.integrations.PeftAdapterMixin.enable_adapters]]

```python
enable_adapters()
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L490)

Adaptörler ve PEFT yöntemleri hakkında bilgi sahibi değilseniz, bunlar hakkında daha fazla bilgi edinmek için PEFT resmi dokümantasyonunu okumaya davet ediyoruz: https://huggingface.co/docs/peft

Modelde bağlı olan adaptörleri etkinleştirin.

#### enable_peft_hotswap[[transformers.integrations.PeftAdapterMixin.enable_peft_hotswap]]

```python
enable_peft_hotswap(target_rank: int = 128, check_compiled: typing.Literal['error', 'warn', 'ignore'] = 'error')
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L353)

**Parametreler:**

target_rank (`int`, *isteğe bağlı*, varsayılan `128`) : Yüklenecek tüm adaptörler arasındaki en yüksek rütbe.

check_compiled (`str`, *isteğe bağlı*, varsayılan `"error"`) : Model zaten derlenmişse bu durumun nasıl ele alınacağı, ki bu genellikle kaçınılması gereken bir durumdur. Seçenekler: - "error" (varsayılan): bir hata fırlat - "warn": bir uyarı ver - "ignore": hiçbir şey yapma

Farklı rütlere sahip PEFT adaptörlerinin sıcak değiştirilmesine olanak tanır veya model derlenmişse yeniden derlemeyi tetiklemeden bu işlemi yapmanızı sağlar.

Şu anda, hotswapping yalnızca LoRA için desteklenmektedir.

Bu yöntemin çağrılması yalnızca adaptörlerin sıcak değiştirilmesi sırasında ve model derlenmişse veya yüklenen adaptörlerin dereceleri farklıysa gereklidir. Dereceler tamamen aynıysa ve model derlenmemişse, bu yöntemi önce çağırmadan sıcak değiştirme işlemi çalışır.

#### active_adapters[[transformers.integrations.PeftAdapterMixin.active_adapters]]

```python
active_adapters()
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L508)

Adaptörler ve PEFT yöntemleri hakkında bilgi sahibi değilseniz, bunlar hakkında daha fazla bilgi edinmek için PEFT resmi dokümantasyonunu okumaya davet ediyoruz: https://huggingface.co/docs/peft

Modelin mevcut etkin adaptörlerini alır. Çoklu adaptör çıkarımı (birden fazla adaptörün çıkarım için birleştirilmesi) durumunda, kullanıcıların bunlara göre işlem yapabilmeleri için tüm etkin adaptörlerin listesini döndürür.

Daha önceki PEFT sürümlerinde (çoklu adaptör çıkarımını desteklemeyenler) `module.active_adapter` tek bir dize döndürür.

#### get_adapter_state_dict[[transformers.integrations.PeftAdapterMixin.get_adapter_state_dict]]

```python
get_adapter_state_dict(adapter_name: str | None = None, state_dict: dict | None = None)
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L537)

**Parametreler:**

adapter_name (`str`, *isteğe bağlı*) : State dict'in alınacağı adaptörün adı. Bir ad geçirilmezse, etkin adaptör kullanılır.

state_dict (`torch.Tensor` içeren iç içe sözlük, *isteğe bağlı*) : Modelin durum sözlüğü. Varsayılan olarak `self.state_dict()` değerini alır, ancak bir modelin durum sözlüğünü kurtarırken özel önlemler alınması gerektiğinde (model paralelliği kullanılırken olduğu gibi) kullanılabilir.

Adaptörler ve PEFT yöntemleri hakkında bilgi sahibi değilseniz, bunlar hakkında daha fazla bilgi edinmek için PEFT resmi dokümantasyonunu okumaya davet ediyoruz: https://huggingface.co/docs/peft

Belirtilen adapter_name adaptörünün yalnızca ağırlık tensörlerini içermesi gereken adaptör durum sözlüğünü alır. adapter_name geçirilmezse, etkin adaptör kullanılır.

#### delete_adapter[[transformers.integrations.PeftAdapterMixin.delete_adapter]]

```python
delete_adapter(adapter_names: list[str] | str)
```

[Kaynak](https://github.com/huggingface/transformers/blob/v5.23.0/src/transformers/integrations/peft.py#L622)

**Parametreler:**

adapter_names (`Union[list[str], str]`) : Silinecek adaptör(ler)in adı(ları).

Alt modelden bir PEFT adaptörünü siler.

