DML_ELEMENT_WISE_DEQUANTIZE_LINEAR_OPERATOR_DESC構造体 (directml.h)

  • [アーティクル]

ScaleTensor および の対応する要素に対して、InputTensor 内のすべての要素に対して次の線形デカント化関数を実行しZeroPointTensor、結果を OutputTensor の対応する要素に配置します。

f(input, scale, zero_point) = (input - zero_point) * scale

量子化は、精度を犠牲にしてパフォーマンスを向上させる一般的な方法です。 8 ビットの int 値のグループは、32 ビット浮動小数点値のグループよりも速く計算できます。 デカンタイズは、エンコードされたデータをドメインに戻します。

構文

struct DML_ELEMENT_WISE_DEQUANTIZE_LINEAR_OPERATOR_DESC {
  const DML_TENSOR_DESC *InputTensor;
  const DML_TENSOR_DESC *ScaleTensor;
  const DML_TENSOR_DESC *ZeroPointTensor;
  const DML_TENSOR_DESC *OutputTensor;
};

メンバー

InputTensor

型: const DML_TENSOR_DESC*

入力を含むテンソル。

ScaleTensor

型: const DML_TENSOR_DESC*

スケールを含むテンソル。

ZeroPointTensor

型: const DML_TENSOR_DESC*

量子化に使用されたゼロ ポイントを含むテンソル。

OutputTensor

型: const DML_TENSOR_DESC*

結果を書き込む出力テンソル。

可用性

この演算子は で DML_FEATURE_LEVEL_1_0導入されました。

テンソル制約

  • InputTensor、 OutputTensor、 ScaleTensor、 ZeroPointTensor の DimensionCount と サイズは同じである必要があります。
  • InputTensor と ZeroPointTensor には、同じ DataType が必要です。
  • OutputTensor と ScaleTensor には、同じ DataType が必要です。

Tensor のサポート

DML_FEATURE_LEVEL_6_2以上

テンソル 種類 サポートされているディメンション数 サポートされるデータ型
InputTensor 入力 1 から 8 INT32、INT16、INT8、UINT32、UINT16、UINT8
ScaleTensor 入力 1 から 8 FLOAT32、FLOAT16
ZeroPointTensor 省略可能な入力 1 から 8 INT32、INT16、INT8、UINT32、UINT16、UINT8
OutputTensor 出力 1 から 8 FLOAT32、FLOAT16

DML_FEATURE_LEVEL_6_0以上

テンソル 種類 サポートされているディメンション数 サポートされるデータ型
InputTensor 入力 1 から 8 INT32、INT16、INT8、UINT32、UINT16、UINT8
ScaleTensor 入力 1 から 8 FLOAT32、FLOAT16
ZeroPointTensor 入力 1 から 8 INT32、INT16、INT8、UINT32、UINT16、UINT8
OutputTensor 出力 1 から 8 FLOAT32、FLOAT16

DML_FEATURE_LEVEL_3_0以上

テンソル 種類 サポートされているディメンション数 サポートされるデータ型
InputTensor 入力 1 から 8 INT32、INT16、INT8、UINT32、UINT16、UINT8
ScaleTensor 入力 1 から 8 FLOAT32
ZeroPointTensor 入力 1 から 8 INT32、INT16、INT8、UINT32、UINT16、UINT8
OutputTensor 出力 1 から 8 FLOAT32

DML_FEATURE_LEVEL_2_1以上

テンソル 種類 サポートされているディメンション数 サポートされるデータ型
InputTensor 入力 4 INT32、INT16、INT8、UINT32、UINT16、UINT8
ScaleTensor 入力 4 FLOAT32
ZeroPointTensor 入力 4 INT32、INT16、INT8、UINT32、UINT16、UINT8
OutputTensor 出力 4 FLOAT32

DML_FEATURE_LEVEL_1_0以上

テンソル 種類 サポートされているディメンション数 サポートされるデータ型
InputTensor 入力 4 Uint8
ScaleTensor 入力 4 FLOAT32
ZeroPointTensor 入力 4 Uint8
OutputTensor 出力 4 FLOAT32

要件

要件 値
Header directml.h

こちらもご覧ください

DML_ELEMENT_WISE_QUANTIZE_LINEAR_OPERATOR_DESC