再現性

Diffusion はランダムなプロセスであり、実行するたびに異なる出力を生成します。テストや結果の再現性が必要なユースケースでは、特定の許容範囲内で、リリースやプラットフォームをまたいで毎回同じ結果を生成したい場合があります。

このガイドでは、ランダム性のソースを制御し、決定論的アルゴリズムを有効にする方法について説明します。

ジェネレーター

Pipelines は、初期のノイズ付きテンソルを生成するために、毎回異なる乱数シードを使用する torch.randn に依存しています。CPU または GPU で同じ出力を生成するには、Generator を使用して乱数の生成方法を管理してください。

再現性が重要である場合は、CPUのGeneratorを使用する必要があります。性能の低下は通常無視できるほど小さく、より類似した値を生成できます。

import torch
from diffusers import DiffusionPipeline

pipeline = DiffusionPipeline.from_pretrained(
    "Qwen/Qwen-Image", dtype=torch.bfloat16, device_map="cuda"  # or "mps", "xpu", "cpu"
)
generator = torch.manual_seed(0)
image = pipeline(
    prompt="a red apple on a wooden table",
    generator=generator,
    num_inference_steps=4,
).images[0]

import torch
from diffusers import DiffusionPipeline

pipeline = DiffusionPipeline.from_pretrained(
    "Qwen/Qwen-Image", dtype=torch.bfloat16, device_map="cpu"
)
generator = torch.Generator(device="cpu").manual_seed(0)
image = pipeline(
    prompt="a red apple on a wooden table",
    generator=generator,
    num_inference_steps=4,
).images[0]

整数のシードではなく、パイプラインにGeneratorオブジェクトを渡します。Generatorは、使用時に消費・更新される乱数状態を保持します。そのため、状態が変化するため、同じオブジェクトでも後続の呼び出しでは異なる結果を生成します。パイプラインをまたいでも同様です。同じシードを再度使用する必要がある場合は、各呼び出しの前に再シードするか、新しいGeneratorを作成してください。

import torch

prompt = "a red apple on a wooden table"

for _ in range(5):
    generator = torch.manual_seed(0)
    image = pipeline(prompt, generator=generator, num_inference_steps=4).images[0]

決定論的アルゴリズム

PyTorch は、特定の操作に対して 決定論的アルゴリズム（利用可能な場合）をサポートしており、これにより同じ結果が得られます。決定論的アルゴリズムは、処理速度が遅くなり、パフォーマンスが低下する可能性があります。

Diffusersのenable_full_determinism()を使用して、決定論的なアルゴリズムを有効にします。

from diffusers.utils.torch_utils import enable_full_determinism

enable_full_determinism()

enable_full_determinism は、次のように動作します。

• 環境変数CUDA_LAUNCH_BLOCKINGを1に設定する
• 環境変数 CUBLAS_WORKSPACE_CONFIG を :16:8 に設定し、cuBLAS が実行時に固定のワークスペースレイアウトを使用するようにします
• torch.use_deterministic_algorithms(True) を呼び出す
• torch.backends.cudnn.deterministic = True を設定する
• cuDNN が実行のたびに異なる畳み込みアルゴリズムを選択しないように、torch.backends.cudnn.benchmark = False を設定します
• より高精度なフルプレシションの行列積を優先するため、torch.backends.cuda.matmul.allow_tf32 = False を設定して TensorFloat32 (TF32) を無効にします

次のステップ

PyTorchの開発者向けノートにある再現性についてお読みください。ランダム性を制限することは可能ですが、同一のシードを使用しても保証されるわけではありません。