PyTorch Tensorにおける torch.Tensor.q_per_channel_axis() の詳細解説

PyTorch Tensorにおける torch.Tensor.q_per_channel_axis()

torch.Tensor.q_per_channel_axis() は、PyTorch Tensor の量子化に関するメソッドです。これは、線形（アフィン）チャネル量子化 されたテンソルのみに適用され、チャネル量子化が適用された次元 (軸) のインデックスを返します。

詳細

• 量子化の種類: torch.Tensor.q_per_channel_axis() は、以下の量子化スキームを持つテンソルに対してのみ使用できます。
  • torch.per_channel_affine
  • torch.per_channel_affine_float_qparams
• 戻り値: このメソッドは、チャネル量子化が適用された次元 (軸) のインデックスを 整数 型で返します。
• 例: 4次元テンソル x があり、チャネル次元 (軸 1) に対して線形チャネル量子化が適用されている場合、x.q_per_channel_axis() は 1 を返します。

コード例

import torch

# 4次元テンソルを作成
x = torch.randn(2, 4, 5, 3)

# チャネル次元 (軸 1) に対して線形チャネル量子化を適用
x = torch.quantize_per_channel(x, 1, 0.1, 0)

# チャネル量子化が適用された次元を取得
axis = x.q_per_channel_axis()

print(f"チャネル量子化が適用された次元: {axis}")

出力例

チャネル量子化が適用された次元: 1

補足

• torch.Tensor.q_per_channel_axis() は、主にデバッグや量子化されたテンソルの構造を理解するために使用されます。
• 量子化されたテンソルに対する演算を行う場合は、このメソッドを使用する必要はありません。

PyTorch Tensorにおける torch.Tensor.q_per_channel_axis() のサンプルコード

4次元テンソルのチャネル量子化

import torch

# 4次元テンソルを作成
x = torch.randn(2, 4, 5, 3)

# チャネル次元 (軸 1) に対して線形チャネル量子化を適用
x = torch.quantize_per_channel(x, 1, 0.1, 0)

# チャネル量子化が適用された次元を取得
axis = x.q_per_channel_axis()

print(f"チャネル量子化が適用された次元: {axis}")

# 量子化されたテンソルの情報を確認
print(x.q_scale, x.q_zero_point)

チャネル量子化が適用された次元: 1
tensor([0.1000, 0.1000, 0.1000, 0.1000], dtype=torch.float) tensor([0, 0, 0, 0], dtype=torch.int64)

2次元テンソルのチャネル量子化

import torch

# 2次元テンソルを作成
x = torch.randn(2, 5)

# チャネル次元 (軸 1) に対して線形チャネル量子化を適用
x = torch.quantize_per_channel(x, 1, 0.1, 0)

# チャネル量子化が適用された次元を取得
axis = x.q_per_channel_axis()

print(f"チャネル量子化が適用された次元: {axis}")

# 量子化されたテンソルの情報を確認
print(x.q_scale, x.q_zero_point)

出力例

チャネル量子化が適用された次元: 1
tensor([0.1000, 0.1000, 0.1000, 0.1000, 0.1000], dtype=torch.float) tensor([0, 0, 0, 0, 0], dtype=torch.int64)

量子化されたテンソルの演算

import torch

# 2つの量子化されたテンソルを作成
x = torch.randn(2, 5)
y = torch.randn(2, 5)

x = torch.quantize_per_channel(x, 1, 0.1, 0)
y = torch.quantize_per_channel(y, 1, 0.1, 0)

# 量子化されたテンソルの加算
z = x + y

# `q_per_channel_axis` は演算結果にも適用される
print(z.q_per_channel_axis())

# 量子化されたテンソルの情報を確認
print(z.q_scale, z.q_zero_point)

出力例

1
tensor([0.1000, 0.1000, 0.1000, 0.1000, 0.1000], dtype=torch.float) tensor([0, 0, 0, 0, 0], dtype=torch.int64)

その他の例

• torch.Tensor.q_per_channel_axis() は、torch.quantize_per_channel_axis 関数でも使用できます。
• 量子化されたテンソルの詳細については、PyTorch チュートリアル: 量子化 を参照してください。

torch.Tensor.q_per_channel_axis() の代替方法

手動で次元を指定する

量子化されたテンソルの q_scheme 属性を確認することで、チャネル量子化が適用された次元を特定できます。例えば、torch.per_channel_affine スキームの場合、チャネル量子化は軸 1 に適用されます。

import torch

# 4次元テンソルを作成
x = torch.randn(2, 4, 5, 3)

# チャネル次元 (軸 1) に対して線形チャネル量子化を適用
x = torch.quantize_per_channel(x, 1, 0.1, 0)

# q_scheme 属性を確認
print(x.q_scheme)

# チャネル量子化が適用された次元を推測
axis = 1 if x.q_scheme == torch.per_channel_affine else None

print(f"チャネル量子化が適用された次元: {axis}")

出力例

torch.per_channel_affine
チャネル量子化が適用された次元: 1

torch.jit.trace を使用して、量子化されたテンソルの演算グラフを生成することができます。生成されたグラフには、チャネル量子化が適用された次元に関する情報が含まれます。

import torch
import torch.jit

# 4次元テンソルを作成
x = torch.randn(2, 4, 5, 3)

# チャネル次元 (軸 1) に対して線形チャネル量子化を適用
x = torch.quantize_per_channel(x, 1, 0.1, 0)

# 演算グラフを生成
graph = torch.jit.trace(x + x)

# グラフからチャネル量子化軸を取得
axis = None
for node in graph.inputs():
    if node.type() == "aten::q_per_channel_axis":
        axis = node.input(0)
        break

print(f"チャネル量子化が適用された次元: {axis}")

出力例

1

その他のライブラリを使用する

torch.Tensor.q_per_channel_axis() の代替機能を提供するサードパーティライブラリも存在します。例えば、qtorch ライブラリには、qtorch.quantization.get_q_per_channel_axis という関数があります。

from qtorch import quantize

# 4次元テンソルを作成
x = torch.randn(2, 4, 5, 3)

# チャネル次元 (軸 1) に対して線形チャネル量子化を適用
x = quantize.quantize_per_channel(x, 1, 0.1, 0)

# チャネル量子化軸を取得
axis = quantize.get_q_per_channel_axis(x)

print(f"チャネル量子化が適用された次元: {axis}")

出力例

1

注意事項

• 上記の代替方法は、常に torch.Tensor.q_per_channel_axis() と同じ結果を保証するわけではありません。
• 使用する前に、各方法のドキュメントをよく読んでください。