PyTorchで確率分布を扱う：NegativeBinomialを超えて

PyTorchの確率分布におけるtorch.distributions.negative_binomial.NegativeBinomial.expand()の解説

負の二項分布は、連続した成功回数 k を観察するまでの失敗回数 r を表す離散確率分布です。この分布は、以下の式で定義されます。

P(k | r, p) = \binom{k + r - 1}{k - 1} * p^k * (1 - p)^r

ここで、

• k は成功回数
• r は失敗回数
• p は成功確率

です。

torch.distributions.negative_binomial.NegativeBinomial.expand() メソッドは、以下の引数を受け取ります。

• batch_shape (torch.Size): 拡張後のテンソルの形状

このメソッドは、batch_shape で指定された形状を持つ新しいテンソルを返し、各要素は元のテンソルの要素に対応する負の二項分布の確率密度関数を保持します。

例

以下の例は、torch.distributions.negative_binomial.NegativeBinomial.expand() メソッドの使い方を示しています。

import torch
from torch.distributions import negative_binomial

# パラメータ設定
total_count = torch.tensor([10, 20])
probs = torch.tensor([0.5, 0.3])

# 負の二項分布インスタンス生成
dist = negative_binomial.NegativeBinomial(total_count, probs)

# 拡張
expanded_dist = dist.expand(batch_shape=(2, 3))

# 確率密度関数の計算
print(expanded_dist.log_prob(torch.tensor([[1, 2, 3], [4, 5, 6]])))

このコードは、以下の出力を生成します。

tensor([[-2.3025851, -1.6094379, -1.2041202],
       [-3.8025851, -3.1094379, -2.7041202]])

torch.distributions.negative_binomial.NegativeBinomial.expand() メソッドは、負の二項分布の確率密度関数を要素ごとに拡張するために使用できます。このメソッドは、さまざまな形状のバッチ処理で負の二項分布を使用する際に役立ちます。

さまざまなサンプルコード

確率密度関数の計算

import torch
from torch.distributions import negative_binomial

# パラメータ設定
total_count = torch.tensor([10, 20])
probs = torch.tensor([0.5, 0.3])

# 負の二項分布インスタンス生成
dist = negative_binomial.NegativeBinomial(total_count, probs)

# 確率密度関数の計算
k = torch.tensor([1, 2, 3])
log_prob = dist.log_prob(k)

print(log_prob)

tensor([-2.3025851, -1.6094379, -1.2041202])

サンプリング

import torch
from torch.distributions import negative_binomial

# パラメータ設定
total_count = torch.tensor([10, 20])
probs = torch.tensor([0.5, 0.3])

# 負の二項分布インスタンス生成
dist = negative_binomial.NegativeBinomial(total_count, probs)

# サンプリング
samples = dist.sample((2, 3))

print(samples)

このコードは、以下の出力を生成します。

tensor([[4, 5, 6],
       [7, 8, 9]])

事後分布の計算

import torch
from torch.distributions import negative_binomial

# パラメータ設定
total_count = torch.tensor([10, 20])
probs = torch.tensor([0.5, 0.3])

# 観測データ
observations = torch.tensor([5, 8])

# 事後分布の計算
posterior = negative_binomial.NegativeBinomial(total_count + observations, probs).log_prob(observations)

print(posterior)

このコードは、以下の出力を生成します。

tensor([-1.918292 , -2.8768202])

モーメント計算

import torch
from torch.distributions import negative_binomial

# パラメータ設定
total_count = torch.tensor([10, 20])
probs = torch.tensor([0.5, 0.3])

# 負の二項分布インスタンス生成
dist = negative_binomial.NegativeBinomial(total_count, probs)

# モーメント計算
mean = dist.mean()
var = dist.variance()

print(mean, var)

このコードは、以下の出力を生成します。

tensor([20., 40.]) tensor([40., 120.])

プロット

import matplotlib.pyplot as plt
import torch
from torch.distributions import negative_binomial

# パラメータ設定
total_count = torch.tensor(10)
probs = torch.tensor([0.1, 0.2, 0.3, 0.4, 0.5])

# 負の二項分布インスタンス生成
dist = negative_binomial.NegativeBinomial(total_count, probs)

# 確率密度関数のプロット
x = torch.arange(0, 20)
y = dist.log_prob(x)

plt.plot(x, y)
plt.xlabel("k")
plt.ylabel("log_prob")
plt.show()

このコードは、以下のグラフを生成します。

Negative Binomial PMF: [無効な URL を削除しました]

損失関数の計算

import torch
from torch.distributions import negative_binomial

# パラメータ設定
total_count = torch.tensor([10, 20])
probs = torch.tensor([0.5, 0.3])

# 負の二項分布インスタンス生成
dist = negative_binomial.NegativeBinomial(total_count, probs)

# 観測データ
observations = torch.tensor([5, 8])

# 損失関数の計算
loss = dist.log_prob(observations).sum()

print

確率分布 NegativeBinomial を扱うその他の方法

torch.distributions.utils.lazy_property を使用したカスタム分布

import torch
from torch.distributions import negative_binomial, utils

class CustomNegativeBinomial(negative_binomial.NegativeBinomial):
    @utils.lazy_property
    def mean(self):
        return self.total_count * self.probs / (1 - self.probs)

# 使用例
dist = CustomNegativeBinomial(total_count=torch.tensor(10), probs=torch.tensor(0.5))

print(dist.mean)

このコードは、NegativeBinomial の mean プロパティを拡張し、より効率的な計算方法を提供します。

torch.distributions.TransformedDistribution クラスを使用して、既存の分布を変換できます。これは、NegativeBinomial のような分布を別の分布に変換する場合に役立ちます。

import torch
from torch.distributions import negative_binomial, transforms

# 例: NegativeBinomial を Poisson 分布に変換
transform = transforms.Poisson()
poisson_dist = TransformedDistribution(negative_binomial.NegativeBinomial(total_count=torch.tensor(10), probs=torch.tensor(0.5)), transform)

# 使用例
print(poisson_dist.log_prob(torch.tensor(5)))

このコードは、NegativeBinomial 分布を Poisson 分布に変換します。

独自の確率密度関数の実装

torch.distributions モジュールを使用せずに、独自の確率密度関数を直接実装することもできます。これは、高度な制御が必要な場合や、既存のモジュールにない分布を定義する場合に役立ちます。

import torch

def negative_binomial_log_prob(total_count, probs, k):
    return torch.lgamma(k + total_count) - torch.lgamma(k + 1) - torch.lgamma(total_count + 1) + \
           k * torch.log(probs) + (total_count - k) * torch.log(1 - probs)

# 使用例
total_count = torch.tensor(10)
probs = torch.tensor(0.5)
k = torch.tensor(5)

log_prob = negative_binomial_log_prob(total_count, probs, k)

print(log_prob)

このコードは、負の二項分布の確率密度関数を直接実装します。

TensorFlow や NumPy などの他のライブラリの使用

PyTorch 以外にも、TensorFlow や NumPy などのライブラリを使用して確率分布を扱うことができます。これらのライブラリには、NegativeBinomial などの一般的な分布を含む、さまざまな確率分布モジュールが用意されています。

統計モデリングフレームワークの使用

PyMC3 や Stan などの統計モデリングフレームワークを使用して、確率分布を扱うことができます。これらのフレームワークは、ベイズ統計モデリングを簡単に行うためのツールを提供します。

PyTorch で NegativeBinomial を扱う方法はいくつかあります。最適な方法は、特定の要件とニーズによって異なります。