OnnxScoringEstimator Sınıf

Tanım

IEstimator<TTransformer> ML.NET çerçevesinde ONNX modellerini puanlama için.

public sealed class OnnxScoringEstimator : Microsoft.ML.Data.TrivialEstimator<Microsoft.ML.Transforms.Onnx.OnnxTransformer>
type OnnxScoringEstimator = class
    inherit TrivialEstimator<OnnxTransformer>
Public NotInheritable Class OnnxScoringEstimator
Inherits TrivialEstimator(Of OnnxTransformer)
Devralma
OnnxScoringEstimator

Açıklamalar

Tahmin Aracı Özellikleri

Bu tahmin aracının parametrelerini eğitmek için verilere bakması gerekiyor mu? No
Giriş sütunu veri türü Veya Double türlerinin Single bilinen boyutlu vektörleri
Çıkış sütunu veri türü ONNX modeli tarafından belirtildiği gibi
Microsoft.ML ek olarak gerekli NuGet Microsoft.ML.OnnxTransformer (her zaman), Microsoft.ML.OnnxRuntime 1.6.0 (CPU işleme için) veya Microsoft.ML.OnnxRuntime.Gpu 1.6.0 (GPU varsa GPU işleme için)
ONNX'e aktarılabilir No

Bu tahmin aracını oluşturmak için aşağıdaki API'leri kullanın: ApplyOnnxModel

Microsoft.ML.OnnxRuntime kitaplığını kullanarak modellerin ONNX 1.6 biçiminde (opset 11) çıkarımını destekler. Proje Microsoft.ML.OnnxRuntime'a ve proje Microsoft.ML.OnnxRuntime.Gpu'ya başvuruda bulunursa modeller CPU üzerinden puanlanmıştır. OnnxScoringEstimator kullanan her proje yukarıdaki iki paketten birine başvurmalıdır.

GPU üzerinde çalıştırmak için Microsoft.ML.OnnxRuntime nuget (CPU işlemeye yöneliktir) yerine Microsoft.ML.OnnxRuntime.Gpu NuGet paketini kullanın. Microsoft.ML.OnnxRuntime.Gpu, CUDA destekli bir GPU, CUDA 10.2 Araç Seti ve cuDNN 8.0.3 gerektirir ( Onnxruntime belgelerinde belirtildiği gibi). ApplyOnnxModel aracılığıyla tahmin aracı oluştururken , 'gpuDeviceId' parametresini geçerli negatif olmayan bir tamsayıya ayarlayın. Tipik cihaz kimliği değerleri 0 veya 1'tir. GPU cihazı bulunamaz ancak 'fallbackToCpu = true' ise tahmin aracı CPU üzerinde çalışır. GPU cihazı bulunamaz ancak 'fallbackToCpu = false' ise tahmin aracı bir özel durum oluşturur

ONNX modellerinin giriş ve çıkışları Tensor türünde olmalıdır. Sıra ve Haritalar henüz desteklenmiyor.

Dahili olarak, OnnxTransformer (OnnxScoringEstimator.Fit()'in dönüş değeri), OnnxRuntime.dll sahip olduğu yönetilmeyen belleğe işaret eden bir çıkarım oturumuna başvuru tutar. bir işlem hattında ApplyOnnxModel çağrısı olduğunda, bellek sızıntısı olmadığından emin olmak için Fit() çağrısının dönüş değerini IDisposable'a atamanız ve Dispose() çağrısı göndermeniz tavsiye edilir.

OnnxRuntime, Windows, MacOS ve Ubuntu 16.04 Linux 64 bit platformlarda çalışır. Kullanmaya başlamaya hazır modellerin listesini görmek için ONNX Modelleri'ne gidin. Daha fazla bilgi için ONNX'e bakın.

Yöntemler

Fit(IDataView)

IEstimator<TTransformer> ML.NET çerçevesinde ONNX modellerini puanlama için.

(Devralındığı yer: TrivialEstimator<TTransformer>)
GetOutputSchema(SchemaShape)

SchemaShape Transformatör tarafından üretilecek şemanın değerini döndürür. İşlem hattında şema yayma ve doğrulama için kullanılır.

Uzantı Metotları

AppendCacheCheckpoint<TTrans>(IEstimator<TTrans>, IHostEnvironment)

Tahmin aracı zincirine bir 'önbelleğe alma denetim noktası' ekler. Bu, aşağı akış tahmincilerinin önbelleğe alınan verilere karşı eğitilmesini sağlar. Birden çok veri geçişi alan eğitmenlerden önce bir önbelleğe alma denetim noktası olması yararlıdır.

WithOnFitDelegate<TTransformer>(IEstimator<TTransformer>, Action<TTransformer>)

Tahmin aracı verildiğinde, çağrıldıktan sonra Fit(IDataView) temsilci çağıracak bir sarmalama nesnesi döndürün. Tahmin aracının neyin uygun olduğu hakkında bilgi döndürmesi genellikle önemlidir. Bu nedenle Fit(IDataView) yöntem yalnızca genel ITransformerbir nesne yerine özel olarak yazılan bir nesne döndürür. Bununla birlikte, aynı zamanda, IEstimator<TTransformer> genellikle birçok nesneye sahip işlem hatları halinde oluşturulur, bu nedenle transformatör almak istediğimiz tahmin aracının EstimatorChain<TLastTransformer> bu zincirde bir yere gömülü olduğu bir tahmin aracı zinciri oluşturmamız gerekebilir. Bu senaryo için, bu yöntem aracılığıyla sığdır çağrıldıktan sonra çağrılacak bir temsilci ekleyebiliriz.

Şunlara uygulanır