Kurulum

Başlamadan önce ortamınızı yapılandırmalı, uygun paketleri yüklemeli ve Accelerate'i yapılandırmalısınız. Accelerate, Python 3.11+ üzerinde test edilmiştir.

Accelerate, pypi ve conda üzerinde olduğu gibi GitHub'da da mevcuttur. Her birinden kurulumla ilgili ayrıntılar aşağıdadır:

pip

pypi'den Accelerate'i yüklemek için şunu yapın:

pip install accelerate

conda

Accelerate ayrıca şu komutla conda ile de kurulabilir:

conda install -c conda-forge accelerate

Kaynak

Her gün henüz yayınlanmamış yeni özellikler ekleniyor. Bunları kendiniz denemek isterseniz, GitHub deposundan yükleyin:

pip install git+https://github.com/huggingface/accelerate

Kütüphaneye katkıda bulunmak veya kaynak kodla uğraşıp kodu çalıştırırken canlı sonuçları görmek istiyorsanız, düzenlenebilir bir sürüm, yerel olarak klonlanmış bir depo sürümünden yüklenebilir:

git clone https://github.com/huggingface/accelerate
cd accelerate
pip install -e .

Yapılandırma

Yükleme işleminden sonra, eğitim için mevcut sistemin nasıl yapılandırıldığını belirtmek üzere Accelerate'i yapılandırmalısınız. Bunu yapmak için aşağıdakileri çalıştırın ve size sorulan soruları yanıtlayın:

accelerate config

DeepSpeed yapılandırması veya TPU'lar üzerinde çalıştırma gibi seçenekleri içermeyen, temel bir yapılandırma yazmak için şunu hızlıca çalıştırabilirsiniz:

python -c "from accelerate.utils import write_basic_config; write_basic_config(mixed_precision='fp16')"

Accelerate, kullanılabilir maksimum GPU sayısını otomatik olarak kullanacak ve karma hassasiyet modunu ayarlayacaktır.

Yapılandırmanızın doğru göründüğünden emin olmak için şunu çalıştırın:

accelerate env

Aşağıda, karışık hassasiyet kullanılmayan tek bir makinedeki iki GPU'yu açıklayan bir örnek çıktı gösterilmektedir:

- `Accelerate` version: 1.2.0.dev0
- Platform: Linux-6.8.0-47-generic-x86_64-with-glibc2.35
- `accelerate` bash location: /home/zach/miniconda3/envs/accelerate/bin/accelerate
- Python version: 3.10.13
- Numpy version: 1.26.4
- PyTorch version (GPU?): 2.5.1+cu124 (True)
- PyTorch XPU available: False
- PyTorch NPU available: False
- PyTorch MLU available: False
- PyTorch MUSA available: False
- System RAM: 187.91 GB
- GPU type: NVIDIA GeForce RTX 4090
- `Accelerate` default config:
        - compute_environment: LOCAL_MACHINE
        - distributed_type: MULTI_GPU
        - mixed_precision: no
        - use_cpu: False
        - debug: False
        - num_processes: 2
        - machine_rank: 0
        - num_machines: 1
        - gpu_ids: all
        - rdzv_backend: static
        - same_network: True
        - main_training_function: main
        - enable_cpu_affinity: False
        - downcast_bf16: no
        - tpu_use_cluster: False
        - tpu_use_sudo: False
        - tpu_env: []