# 活性化関数

🤗 Diffusersでさまざまなモデルをサポートするためのカスタマイズされた活性化関数。

## GELU[[diffusers.models.activations.GELU]]

#### diffusers.models.activations.GELU[[diffusers.models.activations.GELU]]

```python
diffusers.models.activations.GELU(dim_in: int, dim_out: int, approximate: str = 'none', bias: bool = True)
```

[ソース](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/activations.py#L65)

**パラメータ:**

dim_in (`int`) : 入力におけるチャネル数。

dim_out (`int`) : 出力のチャネル数。

approximate (`str`、*任意*、デフォルトは`"none"`) : `"tanh"`の場合、tanh近似を使用します。

bias (`bool`、デフォルトは True) : 線形層にバイアスを使用するかどうか。

`approximate="tanh"` による tanh 近似をサポートする GELU 活性化関数。

## GEGLU[[diffusers.models.activations.GEGLU]]

#### diffusers.models.activations.GEGLU[[diffusers.models.activations.GEGLU]]

```python
diffusers.models.activations.GEGLU(dim_in: int, dim_out: int, bias: bool = True)
```

[ソース](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/activations.py#L90)

**パラメータ:**

dim_in (`int`) : 入力におけるチャネル数。

dim_out (`int`) : 出力のチャネル数。

bias (`bool`、デフォルトは True) : 線形層にバイアスを使用するかどうか。

ゲート付き線形ユニット活性化関数の[バリアント](https://huggingface.co/papers/2002.05202)。

## ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

#### diffusers.models.activations.ApproximateGELU[[diffusers.models.activations.ApproximateGELU]]

```python
diffusers.models.activations.ApproximateGELU(dim_in: int, dim_out: int, bias: bool = True)
```

[ソース](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/activations.py#L143)

**パラメータ:**

dim_in (`int`) : 入力におけるチャネル数。

dim_out (`int`) : 出力のチャネル数。

bias (`bool`、デフォルトは True) : 線形層にバイアスを使用するかどうか。

ガウス誤差線形ユニット（GELU）の近似形です。詳細については、この[論文](https://huggingface.co/papers/1606.08415)のセクション2を参照してください。

## SwiGLU[[diffusers.models.activations.SwiGLU]]

#### diffusers.models.activations.SwiGLU[[diffusers.models.activations.SwiGLU]]

```python
diffusers.models.activations.SwiGLU(dim_in: int, dim_out: int, bias: bool = True)
```

[ソース](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/activations.py#L120)

**パラメータ:**

dim_in (`int`) : 入力におけるチャネル数。

dim_out (`int`) : 出力のチャネル数。

bias (`bool`、デフォルトは True) : 線形層にバイアスを使用するかどうか。

ゲート付き線形ユニット活性化関数の[バリアント](https://huggingface.co/papers/2002.05202)です。`GEGLU`に似ていますが、GeLUの代わりにSiLU / Swishを使用します。

## FP32SiLU[[diffusers.models.activations.FP32SiLU]]

#### diffusers.models.activations.FP32SiLU[[diffusers.models.activations.FP32SiLU]]

```python
diffusers.models.activations.FP32SiLU()
```

[ソース](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/activations.py#L53)

入力をtorch.float32にキャストしたSiLU活性化関数。

## LinearActivation[[diffusers.models.activations.LinearActivation]]

#### diffusers.models.activations.LinearActivation[[diffusers.models.activations.LinearActivation]]

```python
diffusers.models.activations.LinearActivation(dim_in: int, dim_out: int, bias: bool = True, activation: str = 'silu')
```

[ソース](https://github.com/huggingface/diffusers/blob/v0.43.0/src/diffusers/models/activations.py#L163)