PyTorchのStudentT.rsample()：確率分布からランダムサンプルを生成

PyTorchの確率分布：StudentT.rsample() の詳細解説

PyTorchは、Pythonで機械学習モデルを構築するためのオープンソースライブラリです。確率分布モジュール torch.distributions は、さまざまな確率分布に対するサンプリングや確率密度関数 (PDF) の計算などの機能を提供します。

StudentT分布は、平均 loc と尺度パラメータ scale を持つ対称な分布です。自由度パラメータ df は、分布の形状を制御します。自由度が大きくなるにつれて、分布は正規分布に近づきます。

StudentT.rsample() は、StudentT分布からランダムサンプルを生成する関数です。

関数シグネチャ

torch.distributions.studentT.StudentT.rsample(sample_shape=torch.Size())

引数

• sample_shape (torch.Size): 生成するサンプルの形状。デフォルトはスカラーサンプルです。

戻り値

• サンプル: StudentT分布から生成されたランダムサンプル。形状は sample_shape によって決定されます。

コード例

import torch
from torch.distributions import studentT

# パラメータの設定
loc = 0.0
scale = 1.0
df = 5.0

# StudentT分布の生成
dist = studentT.StudentT(loc, scale, df)

# サンプルの生成
samples = dist.rsample(sample_shape=torch.Size([10]))

# サンプルの確認
print(samples)

出力例

tensor([-0.2345,  0.1234,  0.0567, -0.3456,  0.2345,
        0.4567,  0.0987,  0.3456, -0.1234, -0.0567])

詳細解説

StudentT.rsample() は、StudentT分布からランダムサンプルを生成するために、以下のアルゴリズムを使用します。

1. ガンマ分布からランダムサンプル gamma を生成します。
2. 均一分布からランダムサンプル u を生成します。
3. 以下の式を使用して、StudentT分布からのサンプル x を計算します。

x = loc + scale * t * sqrt(gamma / (df - 2))

ここで、

• t は、自由度 df と形状パラメータ nu = df - 2 を持つ StudentT分布に従うランダム変数です。
• sqrt は平方根を表します。

注意事項

• df は 2 より大きい必要があります。
• scale は 0 より大きい必要があります。

応用例

StudentT分布は、以下のタスクなど、さまざまな場面で使用されます。

• ベイズ統計における推論
• ロバスト回帰
• 異常検知

StudentT.rsample() のサンプルコード

単一サンプルの生成

import torch
from torch.distributions import studentT

# パラメータの設定
loc = 0.0
scale = 1.0
df = 5.0

# StudentT分布の生成
dist = studentT.StudentT(loc, scale, df)

# サンプルの生成
sample = dist.rsample()

# サンプルの確認
print(sample)

複数サンプルの生成

import torch
from torch.distributions import studentT

# パラメータの設定
loc = 0.0
scale = 1.0
df = 5.0

# StudentT分布の生成
dist = studentT.StudentT(loc, scale, df)

# サンプルの生成
samples = dist.rsample(sample_shape=torch.Size([10]))

# サンプルの確認
print(samples)

ベイズ推論における StudentT.rsample() の使用

import torch
from torch.distributions import studentT

# データの生成
data = torch.randn(100)

# 事前分布の設定
df = 5.0
mean_prior = torch.zeros(1)
scale_prior = torch.ones(1)

# 尤度関数の設定
likelihood = studentT.StudentT(mean_prior, scale_prior, df)

# 事後分布の推定
posterior = studentT.StudentT(mean_prior, scale_prior, df).update(data)

# サンプルの生成
samples = posterior.rsample(sample_shape=torch.Size([10]))

# サンプルの確認
print(samples)

ロバスト回帰における StudentT.rsample() の使用

import torch
from torch.distributions import studentT

# データの生成
x = torch.linspace(-1, 1, 100)
y = 0.5 * x + torch.randn(100)

# モデルの設定
df = 5.0
mu = torch.zeros(1)
sigma = torch.ones(1)

# 尤度関数の設定
likelihood = studentT.StudentT(mu, sigma, df)

# 損失関数の設定
loss = torch.nn.MSELoss()

# 最適化の設定
optimizer = torch.optim.SGD(lr=0.01)

# 学習ループ
for epoch in range(100):
    # 尤度計算
    log_prob = likelihood.log_prob(y)

    # 損失計算
    loss_value = loss(log_prob)

    # 最適化
    optimizer.zero_grad()
    loss_value.backward()
    optimizer.step()

# サンプルの生成
samples = posterior.rsample(sample_shape=torch.Size([10]))

# サンプルの確認
print(samples)

異常検知における StudentT.rsample() の使用

import torch
from torch.distributions import studentT

# データの生成
data = torch.randn(100)

# パラメータの設定
df = 5.0
mean = torch.zeros(1)
scale = torch.ones(1)

# StudentT分布の生成
dist = studentT.StudentT(mean, scale, df)

# 異常スコア

StudentT分布からランダムサンプルを生成する方法

StudentT.rsample() は、ガンマ分布と一様分布からランダムサンプルを生成し、以下の式を使用して StudentT 分布からのサンプルを生成します。

x = loc + scale * t * sqrt(gamma / (df - 2))

ここで、

逆 CDF 法は、確率分布の逆累積分布関数 (CDF) を用いてランダムサンプルを生成する方法です。StudentT 分布の CDF は解析的に計算できないため、数値的に計算する必要があります。

棄却サンプリングは、ある分布からランダムサンプルを生成し、別の分布のサンプルとして受け入れるかどうかを決定する方法です。StudentT 分布の場合、候補分布として正規分布を使用することができます。

Metropolis-Hastings アルゴリズムは、マルコフ連鎖モンテカルロ (MCMC) 法の一種で、ある分布からランダムサンプルを生成する方法です。

各方法の比較

StudentT 分布からランダムサンプルを生成するには、さまざまな方法があります。各方法には利点と欠点があり、最適な方法は状況によって異なります。