CLI (v2) çevrimiçi uç nokta YAML şeması

  • Makale

ŞUNLAR IÇIN GEÇERLIDIR: Azure CLI ml uzantısı v2 (geçerli)

Kaynak JSON şeması yönetilen çevrimiçi uç nokta için ve Kubernetes çevrimiçi uç noktası için konumunda https://azuremlschemas.azureedge.net/latest/kubernetesOnlineEndpoint.schema.json bulunabilirhttps://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json. Yönetilen çevrimiçi uç nokta ile Kubernetes çevrimiçi uç noktası arasındaki farklar, bu makaledeki özellikler tablosunda açıklanmıştır. Bu makaledeki örnek, yönetilen çevrimiçi uç noktaya odaklanır.

Not

Bu belgede ayrıntılı olarak yer alan YAML söz dizimi, ML CLI v2 uzantısının en son sürümü için JSON şemasını temel alır. Bu söz diziminin yalnızca ML CLI v2 uzantısının en son sürümüyle çalışması garanti edilir. Eski uzantı sürümleri için şemaları adresinde https://azuremlschemasprod.azureedge.net/bulabilirsiniz.

Not

Yönetilen çevrimiçi uç noktalar için tam olarak belirtilen bir örnek YAML başvuru için kullanılabilir

YAML söz dizimi

Anahtar Type Açıklama İzin verilen değerler Default value
$schema Dize YAML şeması. YAML dosyasını yazmak için Azure Machine Learning VS Code uzantısını kullanırsanız, dosyanızın üst kısmındakiler de dahil olmak üzere $schema şema ve kaynak tamamlama işlemlerini çağırmanıza olanak tanır.
name Dize Gerekli. Uç noktanın adı. Azure bölge düzeyinde benzersiz olması gerekir.

Adlandırma kuralları uç nokta sınırları altında tanımlanır.
description Dize Uç noktanın açıklaması.
tags nesne Uç nokta için etiket sözlüğü.
auth_mode Dize Uç noktayı çağırmak için kimlik doğrulama yöntemi (veri düzlemi işlemi). Anahtar tabanlı kimlik doğrulaması için kullanın key . Azure Machine Learning belirteç tabanlı kimlik doğrulaması için kullanın aml_token . Microsoft Entra belirteç tabanlı kimlik doğrulaması için kullanın aad_token . key, aml_token, aad_token key
compute Dize Uç nokta dağıtımlarının çalıştırılacak işlem hedefinin adı. Bu alan yalnızca Azure Arc özellikli Kubernetes kümelerine uç nokta dağıtımları için geçerlidir (bu alanda belirtilen işlem hedefi olmalıdır type: kubernetes). Yönetilen çevrimiçi çıkarım yapıyorsanız bu alanı belirtmeyin.
identity nesne Uç nokta sağlama ve çıkarım için Azure kaynaklarına erişmek için yönetilen kimlik yapılandırması.
identity.type Dize Yönetilen kimliğin türü. türü ise user_assignedidentity.user_assigned_identities özelliği de belirtilmelidir. system_assigned, user_assigned
identity.user_assigned_identities dizi Kullanıcı tarafından atanan kimliklerin tam kaynak kimliklerinin listesi.
traffic nesne Trafik, farklı dağıtımlar tarafından sunulacak isteklerin yüzdesini temsil eder. Anahtar-değer çiftleri sözlüğüyle temsil edilir; burada anahtarlar dağıtım adını, değer ise bu dağıtıma gelen trafiğin yüzdesini temsil eder. Örneğin, blue: 90 green: 10 adlı blue dağıtıma %90 istek gönderildiği ve %10'unun dağıtıma greengönderildiği anlamına gelir. Toplam trafik 0 veya toplam 100 olmalıdır. Trafik yapılandırmasını uygulamada görmek için bkz . Çevrimiçi uç noktalar için güvenli dağıtım.

Not: Trafik ayarlanmadan önce bu uç noktanın altındaki dağıtımların oluşturulması gerektiğinden, çevrimiçi uç nokta oluşturma sırasında bu alanı ayarlayamazsınız. Dağıtımlar oluşturulduktan sonra, örneğin az ml online-endpoint update --name <endpoint_name> --traffic "blue=90 green=10"kullanarak az ml online-endpoint updateçevrimiçi uç nokta trafiğini güncelleştirebilirsiniz.
public_network_access Dize Bu bayrak yönetilen uç noktanın görünürlüğünü denetler. Azure disabledMachine Learning çalışma alanının özel uç noktası kullanılarak gelen puanlama istekleri alındığında ve uç noktaya genel ağlardan erişilemiyor. Bu bayrak yalnızca yönetilen uç noktalar için geçerlidir enabled, disabled enabled
mirror_traffic Dize Dağıtıma yansıtılan canlı trafiğin yüzdesi. Trafiği yansıtmak istemcilere döndürülen sonuçları değiştirmez. Trafiğin yansıtılmış yüzdesi kopyalanır ve belirtilen dağıtıma gönderilir, böylece istemcileri etkilemeden ölçümleri ve günlüğe kaydetmeyi toplayabilirsiniz. Örneğin, gecikme süresinin kabul edilebilir sınırlar içinde olup olmadığını ve HTTP hatası olup olmadığını denetlemek için. Tek bir anahtar-değer çifti olan bir sözlükle temsil edilir; burada anahtar dağıtım adını ve değer dağıtıma yansıtılmak üzere trafiğin yüzdesini temsil eder. Daha fazla bilgi için bkz . Yansıtmalı trafikle dağıtımı test edin.

Açıklamalar

Komutlar az ml online-endpoint , Azure Machine Learning çevrimiçi uç noktalarını yönetmek için kullanılabilir.

Örnekler

Örnekler GitHub deposunda bulunabilir. Aşağıda birkaçı gösterilmiştir.

YAML: temel

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-endpoint
auth_mode: key

YAML: sistem tarafından atanan kimlik

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-sai-endpoint
auth_mode: key

YAML: kullanıcı tarafından atanan kimlik

$schema: https://azuremlschemas.azureedge.net/latest/managedOnlineEndpoint.schema.json
name: my-uai-endpoint
auth_mode: key
identity:
  type: user_assigned
  user_assigned_identities:
    - resource_id: user_identity_ARM_id_place_holder

Sonraki adımlar