OneHotCategorical.param_shape：PyTorchでカテゴリカル分布を扱うための鍵

PyTorch Probability Distributions: torch.distributions.one_hot_categorical.OneHotCategorical.param_shape の詳細解説

torch.distributions.one_hot_categorical.OneHotCategorical.param_shape は、OneHotCategorical 分布のパラメータ形状を表す属性です。これは、分布を定義するために必要なパラメータの数を決定します。

詳細

OneHotCategorical 分布は、カテゴリカル分布のone-hotエンコード表現です。これは、各カテゴリがベクトルで表され、そのベクトルの1要素のみが1で、他の要素はすべて0であることを意味します。

OneHotCategorical.param_shape は、次の式で計算されます。

param_shape = torch.Size([num_categories])

ここで、num_categories は、分布に含まれるカテゴリの数です。

例

次の例は、OneHotCategorical.param_shape の使用方法を示しています。

import torch
from torch.distributions import OneHotCategorical

# カテゴリの数
num_categories = 3

# OneHotCategorical分布を作成
distribution = OneHotCategorical(probs=torch.ones(num_categories))

# パラメータ形状を取得
param_shape = distribution.param_shape

# 出力: torch.Size([3])
print(param_shape)

解釈

OneHotCategorical.param_shape の出力は、分布を定義するために必要なパラメータの数を表すテンソルです。この場合、num_categories 個のパラメータが必要であり、これは各カテゴリの確率を表します。

補足

• OneHotCategorical.param_shape は、読み取り専用属性です。
• バージョン 1.10 以降の PyTorch でのみ使用できます。

torch.distributions.one_hot_categorical.OneHotCategorical.param_shape についてさらに質問がある場合は、遠慮なく聞いてください。

PyTorch Probability Distributions: OneHotCategorical 分布のサンプルコード

カテゴリカル分布からのサンプリング

import torch
from torch.distributions import OneHotCategorical

# カテゴリの数
num_categories = 3

# 確率
probs = torch.tensor([0.2, 0.5, 0.3])

# OneHotCategorical分布を作成
distribution = OneHotCategorical(probs=probs)

# サンプルを取得
samples = distribution.sample((10,))

# 出力: 
# tensor([[0, 1, 0],
#        [1, 0, 0],
#        [0, 0, 1],
#        ...,
#        [0, 1, 0],
#        [1, 0, 0],
#        [0, 0, 1]])
print(samples)

確率密度関数の計算

import torch
from torch.distributions import OneHotCategorical

# カテゴリの数
num_categories = 3

# 確率
probs = torch.tensor([0.2, 0.5, 0.3])

# OneHotCategorical分布を作成
distribution = OneHotCategorical(probs=probs)

# 確率密度関数を計算
log_probs = distribution.log_prob(torch.tensor([1, 0, 0]))

# 出力: 
# tensor([-0.34657359, -1.60943791, -1.20397284])
print(log_probs)

エンタロピーの計算

import torch
from torch.distributions import OneHotCategorical

# カテゴリの数
num_categories = 3

# 確率
probs = torch.tensor([0.2, 0.5, 0.3])

# OneHotCategorical分布を作成
distribution = OneHotCategorical(probs=probs)

# エンタロピーを計算
entropy = distribution.entropy()

# 出力: 
# tensor(1.0397207)
print(entropy)

モンテカルロ法による期待値の推定

import torch
from torch.distributions import OneHotCategorical

# カテゴリの数
num_categories = 3

# 確率
probs = torch.tensor([0.2, 0.5, 0.3])

# OneHotCategorical分布を作成
distribution = OneHotCategorical(probs=probs)

# 期待値を推定する関数
def f(x):
  return x.sum()

# モンテカルロ法による期待値の推定
num_samples = 1000
expectation = torch.mean(torch.stack([f(sample) for sample in distribution.sample((num_samples,))]))

# 出力: 
# tensor(1.4995)
print(expectation)

OneHotCategorical 分布を使用する他の方法

事前確率と事後確率の更新

例:

• 硬貨投げの事前確率: OneHotCategorical(probs=torch.tensor([0.5, 0.5]))
• 観察結果: 表が3回連続で出た

生成モデル

OneHotCategorical 分布は、テキスト生成などの生成モデルに使用できます。

例:

• 次の単語を予測する言語モデル
• 各単語は OneHotCategorical 分布に従う
• モデルは、過去の単語に基づいて次の単語の確率を計算する

強化学習

OneHotCategorical 分布は、強化学習におけるエージェントの行動選択に使用できます。

例:

• エージェントは、環境の状態に基づいて行動を選択する
• エージェントは、報酬を最大化する行動を選択する

OneHotCategorical 分布の使用に関する質問があれば、遠慮なく聞いてください。