TritonInferencingServer Classe

  • Referência

Nota

Esta é uma classe experimental e pode mudar em qualquer altura. Para obter mais informações, veja https://aka.ms/azuremlexperimental.

Configurações de inferência de triton do Azure ML.

Herança
builtins.object
TritonInferencingServer

Construtor

TritonInferencingServer(*, inference_configuration: CodeConfiguration | None = None, **kwargs: Any)

Parâmetros

Name Description
inference_configuration
Necessário
CodeConfiguration

A configuração de inferência do servidor de inferência.

Variáveis

Name Description
type

O tipo do servidor de inferência.