DML_ELEMENT_WISE_QUANTIZED_LINEAR_ADD_OPERATOR_DESC estrutura (directml.h)

Adiciona cada elemento em do ATensor ao elemento correspondente em BTensor, colocando o resultado no elemento correspondente de OutputTensor. Os valores contidos em do ATensor e do BTensor são desquantizados usando a equação a seguir e, em seguida, adicionados e requantizados.

AValue = (A - AZeroPoint) * AScale
BValue = (B - BZeroPoint) * BScale

OutputValue = AValue + BValue

// For uint8 output, Min = 0, Max = 255
// For int8 output, Min = -128, Max = 127
OutputTensor = clamp(round(OutputValue / OutputScale) + OutputZeroPoint, Min, Max)

Sintaxe

struct DML_ELEMENT_WISE_QUANTIZED_LINEAR_ADD_OPERATOR_DESC {
  const DML_TENSOR_DESC *ATensor;
  const DML_TENSOR_DESC *AScaleTensor;
  const DML_TENSOR_DESC *AZeroPointTensor;
  const DML_TENSOR_DESC *BTensor;
  const DML_TENSOR_DESC *BScaleTensor;
  const DML_TENSOR_DESC *BZeroPointTensor;
  const DML_TENSOR_DESC *OutputScaleTensor;
  const DML_TENSOR_DESC *OutputZeroPointTensor;
  const DML_TENSOR_DESC *OutputTensor;
};

Membros

ATensor

Tipo: const DML_TENSOR_DESC*

Um tensor que contém as entradas do lado esquerdo.

AScaleTensor

Tipo: const DML_TENSOR_DESC*

O tensor que contém o fator de escala desejado para ATensor. O número esperado de elementos em do AScaleTensor é 1.

Nota

Um valor de escala de 0 resulta em um comportamento indefinido.

AZeroPointTensor

Tipo: _Maybenull_ const DML_TENSOR_DESC*

O tensor que contém o ponto zero desejado para ATensor. O número esperado de elementos em AZeroPointTensor é 1. AZeroPointTensor é um tensor opcional que usa como padrão 0 se não for fornecido.

BTensor

Tipo: const DML_TENSOR_DESC*

Um tensor que contém as entradas do lado direito.

BScaleTensor

Tipo: const DML_TENSOR_DESC*

O tensor que contém o fator de escala desejado para BTensor . O número esperado de elementos em BScaleTensor é 1.

Nota

Um valor de escala de 0 resulta em um comportamento indefinido.

BZeroPointTensor

Tipo: _Maybenull_ const DML_TENSOR_DESC*

O tensor que contém o ponto zero desejado para BTensor . O número esperado de elementos em BZeroPointTensor é 1. BZeroPointTensor é um tensor opcional que usa como padrão 0 se não for fornecido.

OutputScaleTensor

Tipo: const DML_TENSOR_DESC*

O tensor que contém o fator de escala desejado para OutputTensor. Esse é um tensor de entrada que define o fator de escala de quantização de saída a ser usado ao quantificar os valores de saída. O número esperado de elementos em OutputScaleTensor é 1.

Nota

Um valor de escala de 0 resulta em um comportamento indefinido.

OutputZeroPointTensor

Tipo: _Maybenull_ const DML_TENSOR_DESC*

O tensor que contém o ponto zero desejado para OutputTensor. Esse é um tensor de entrada que define o ponto zero de quantização de saída a ser usado ao quantificar os valores de saída. O número esperado de elementos em OutputZeroPointTensor é 1. OutputZeroPointTensor é um tensor opcional que usa como padrão 0 se não for fornecido.

OutputTensor

Tipo: const DML_TENSOR_DESC*

O tensor de saída para o qual gravar os resultados.

Observações

Disponibilidade

Este operador foi introduzido no DML_FEATURE_LEVEL_4_0.

Restrições do Tensor

  • AScaleTensor, ATensor, AZeroPointTensor, BScaleTensor, BTensor, BZeroPointTensor, OutputScaleTensor, OutputTensore OutputZeroPointTensor devem ter o mesmo DimensionCount.
  • BTensor e BZeroPointTensor devem ter o mesmo datatype.
  • OutputTensor e OutputZeroPointTensor deve ter o mesmo DataType.
  • ATensor e AZeroPointTensor devem ter o mesmo DataType.

Suporte ao Tensor

Tensor Tipo Contagens de dimensões com suporte Tipos de dados com suporte
ATensor Entrada 1 a 8 INT8, UINT8
AScaleTensor Entrada 1 a 8 FLOAT32
AZeroPointTensor Entrada opcional 1 a 8 INT8, UINT8
BTensor Entrada 1 a 8 INT8, UINT8
BScaleTensor Entrada 1 a 8 FLOAT32
BZeroPointTensor Entrada opcional 1 a 8 INT8, UINT8
OutputScaleTensor Entrada 1 a 8 FLOAT32
OutputZeroPointTensor Entrada opcional 1 a 8 INT8, UINT8
OutputTensor Saída 1 a 8 INT8, UINT8

Requisitos

Requisito Valor
de cliente com suporte mínimo Windows Build 22000
servidor com suporte mínimo Windows Build 22000
cabeçalho directml.h

Consulte também