az ml online-endpoint

  • Referens

Kommentar

Den här referensen är en del av ML-tillägget för Azure CLI (version 2.15.0 eller senare). Tillägget installeras automatiskt första gången du kör ett az ml online-endpoint-kommando . Läs mer om tillägg.

Hantera Azure ML-slutpunkter online.

Azure ML-slutpunkter tillhandahåller ett enkelt gränssnitt för att skapa och hantera modelldistributioner. Varje slutpunkt kan ha en eller flera distributioner, vilket gör att trafiken från en enda poängslutpunkt kan hanteras till flera distributioner om det behövs. Detta är användbart för scenarier som kontrollerad distribution.

Azure ML stöder två typer av slutpunkter: online och batch. Onlineslutpunkter stöder slutsatsdragning i realtid, medan batchslutpunkter används för batchbedömning offline.

Kommandon

Name Description Typ Status
az ml online-endpoint create

Skapa en slutpunkt.

 Anknytning Allmän tillgänglighet
az ml online-endpoint delete

Ta bort en slutpunkt.

 Anknytning Allmän tillgänglighet
az ml online-endpoint get-credentials

Visa en lista över token/nycklar för en onlineslutpunkt.

 Anknytning Allmän tillgänglighet
az ml online-endpoint invoke

Anropa en slutpunkt.

 Anknytning Allmän tillgänglighet
az ml online-endpoint list

Visa en lista över slutpunkter i en arbetsyta.

 Anknytning Allmän tillgänglighet
az ml online-endpoint regenerate-keys

Återskapa nycklarna för en onlineslutpunkt.

 Anknytning Allmän tillgänglighet
az ml online-endpoint show

Visa information för en slutpunkt.

 Anknytning Allmän tillgänglighet
az ml online-endpoint update

Uppdatera en slutpunkt.

 Anknytning Allmän tillgänglighet

az ml online-endpoint create

Skapa en slutpunkt.

Om du vill skapa en slutpunkt anger du en YAML-fil med onlineslutpunktskonfiguration. Om slutpunkten redan finns misslyckas den. Om du vill uppdatera en befintlig slutpunkt använder du az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Exempel

Skapa en slutpunkt från en YAML-specifikationsfil

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--resource-group -g

Namnet på resursgruppen. Du kan konfigurera standardgruppen med .az configure --defaults group=<name>

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med .az configure --defaults workspace=<name>

Valfria parametrar

--auth-mode

Autentiseringsmetod för slutpunkten. Tillåtna värden: nyckel, aml_token. Standard: nyckel.

--file -f

Lokal sökväg till YAML-filen som innehåller Azure ML online-slutpunktsspecifikationen. YAML-referensdokumenten för onlineslutpunkten finns på: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Skapa slutpunkt lokalt. Obs! Trafik och autentisering stöds inte lokalt. Du kan använda "az ml online-deployment create --local" direkt. Den skapar en slutpunkt om den inte finns.

accepterade värden: false, true
standardvärde: False
--name -n

Namnet på onlineslutpunkten.

--no-wait

Vänta inte tills den tidskrävande åtgärden har slutförts. Standardvärdet är Falskt.

standardvärde: False
--set

Uppdatera ett objekt genom att ange en egenskapssökväg och ett värde som ska anges. Exempel: --set property1.property2=.

--web -e

Visa slutpunktens information i Azure ML Studio i en webbläsare.

standardvärde: False
Globala parametrar
--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

accepterade värden: json, jsonc, none, table, tsv, yaml, yamlc
standardvärde: json
--query

JMESPath-frågesträng. Mer http://jmespath.org/ information och exempel finns i.

--subscription

Namn eller ID för prenumerationen. Du kan konfigurera standardprenumerationen med .az account set -s NAME_OR_ID

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint delete

Ta bort en slutpunkt.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Exempel

Ta bort en onlineslutpunkt, inklusive alla dess distributioner

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namnet på resursgruppen. Du kan konfigurera standardgruppen med .az configure --defaults group=<name>

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med .az configure --defaults workspace=<name>

Valfria parametrar

--local

Ta bort lokal slutpunkt.

accepterade värden: false, true
standardvärde: False
--no-wait

Vänta inte tills den tidskrävande åtgärden har slutförts. Standardvärdet är Falskt.

standardvärde: False
--yes -y

Fråga inte efter bekräftelse.

standardvärde: False
Globala parametrar
--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

accepterade värden: json, jsonc, none, table, tsv, yaml, yamlc
standardvärde: json
--query

JMESPath-frågesträng. Mer http://jmespath.org/ information och exempel finns i.

--subscription

Namn eller ID för prenumerationen. Du kan konfigurera standardprenumerationen med .az account set -s NAME_OR_ID

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint get-credentials

Visa en lista över token/nycklar för en onlineslutpunkt.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Exempel

Visa en lista över nycklarna för en onlineslutpunkt

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namnet på resursgruppen. Du kan konfigurera standardgruppen med .az configure --defaults group=<name>

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med .az configure --defaults workspace=<name>

Globala parametrar
--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

accepterade värden: json, jsonc, none, table, tsv, yaml, yamlc
standardvärde: json
--query

JMESPath-frågesträng. Mer http://jmespath.org/ information och exempel finns i.

--subscription

Namn eller ID för prenumerationen. Du kan konfigurera standardprenumerationen med .az account set -s NAME_OR_ID

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint invoke

Anropa en slutpunkt.

Du kan anropa en onlineslutpunkt med vissa begärandedata. Detta kommer att vara slutsatsdragning i realtid och bedömningsresultatet returneras omedelbart.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Exempel

Anropa en onlineslutpunkt med vissa begärandedata

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Anropa en onlineslutpunkt som riktar sig mot en specifik distribution

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namnet på resursgruppen. Du kan konfigurera standardgruppen med .az configure --defaults group=<name>

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med .az configure --defaults workspace=<name>

Valfria parametrar

--deployment-name -d

Namnet på distributionen till målet.

--local

Anropa lokal slutpunkt. Detta fungerar bara om en lokal distribution har skapats för den här slutpunkten.

accepterade värden: false, true
standardvärde: False
--request-file -r

Lokal sökväg till JSON-filen som innehåller begärandedata.

Globala parametrar
--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

accepterade värden: json, jsonc, none, table, tsv, yaml, yamlc
standardvärde: json
--query

JMESPath-frågesträng. Mer http://jmespath.org/ information och exempel finns i.

--subscription

Namn eller ID för prenumerationen. Du kan konfigurera standardprenumerationen med .az account set -s NAME_OR_ID

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint list

Visa en lista över slutpunkter i en arbetsyta.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Exempel

Visa en lista över alla onlineslutpunkter på en arbetsyta

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Visa en lista över alla batchslutpunkter i en arbetsyta

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Visa en lista över alla onlineslutpunkter i en arbetsyta med argumentet --query för att köra en JMESPath-fråga på resultatet av kommandon.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--resource-group -g

Namnet på resursgruppen. Du kan konfigurera standardgruppen med .az configure --defaults group=<name>

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med .az configure --defaults workspace=<name>

Valfria parametrar

--local

Visa en lista över alla lokala slutpunkter.

accepterade värden: false, true
standardvärde: False
Globala parametrar
--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

accepterade värden: json, jsonc, none, table, tsv, yaml, yamlc
standardvärde: json
--query

JMESPath-frågesträng. Mer http://jmespath.org/ information och exempel finns i.

--subscription

Namn eller ID för prenumerationen. Du kan konfigurera standardprenumerationen med .az account set -s NAME_OR_ID

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint regenerate-keys

Återskapa nycklarna för en onlineslutpunkt.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Exempel

Återskapa nycklarna för en onlineslutpunkt

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namnet på resursgruppen. Du kan konfigurera standardgruppen med .az configure --defaults group=<name>

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med .az configure --defaults workspace=<name>

Valfria parametrar

--key-type

Vilken typ av nyckel som ska återskapas. Tillåtna värden: primär, sekundär.

standardvärde: primary
--no-wait

Vänta inte tills den tidskrävande åtgärden har slutförts. Standardvärdet är Falskt.

standardvärde: False
Globala parametrar
--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

accepterade värden: json, jsonc, none, table, tsv, yaml, yamlc
standardvärde: json
--query

JMESPath-frågesträng. Mer http://jmespath.org/ information och exempel finns i.

--subscription

Namn eller ID för prenumerationen. Du kan konfigurera standardprenumerationen med .az account set -s NAME_OR_ID

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint show

Visa information för en slutpunkt.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Exempel

Visa information för en batchslutpunkt

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Visa etableringstillståndet för en slutpunkt med argumentet --query för att köra en JMESPath-fråga på resultatet av kommandon.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--name -n

Namnet på onlineslutpunkten.

--resource-group -g

Namnet på resursgruppen. Du kan konfigurera standardgruppen med .az configure --defaults group=<name>

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med .az configure --defaults workspace=<name>

Valfria parametrar

--local

Visa lokal slutpunkt.

accepterade värden: false, true
standardvärde: False
--web -e

Visa slutpunktens information i Azure ML Studio i en webbläsare.

standardvärde: False
Globala parametrar
--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

accepterade värden: json, jsonc, none, table, tsv, yaml, yamlc
standardvärde: json
--query

JMESPath-frågesträng. Mer http://jmespath.org/ information och exempel finns i.

--subscription

Namn eller ID för prenumerationen. Du kan konfigurera standardprenumerationen med .az account set -s NAME_OR_ID

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.

az ml online-endpoint update

Uppdatera en slutpunkt.

Egenskaperna "description", "tags" och "traffic" för en slutpunkt kan uppdateras. Dessutom kan nya distributioner läggas till i en slutpunkt och befintliga distributioner kan uppdateras.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Exempel

Uppdatera en slutpunkt från en YAML-specifikationsfil

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Uppdatera trafikinställningarna för en slutpunkt

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Obligatoriska parametrar

--resource-group -g

Namnet på resursgruppen. Du kan konfigurera standardgruppen med .az configure --defaults group=<name>

--workspace-name -w

Namnet på Azure ML-arbetsytan. Du kan konfigurera standardarbetsytan med .az configure --defaults workspace=<name>

Valfria parametrar

--add

Lägg till ett objekt i en lista över objekt genom att ange en sökväg och nyckelvärdepar. Exempel: --add property.listProperty <key=value, string or JSON string>.

standardvärde: []
--file -f

Lokal sökväg till YAML-filen som innehåller Azure ML online-slutpunktsspecifikationen. YAML-referensdokumenten för onlineslutpunkten finns på: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

När du använder "set" eller "add" bevarar du strängliteraler i stället för att försöka konvertera till JSON.

standardvärde: False
--local

Uppdatera den lokala slutpunkten.

accepterade värden: false, true
standardvärde: False
--mirror-traffic

Dirigerar en duplicerad procentandel av livetrafik till en träningsdistribution.

--name -n

Namnet på onlineslutpunkten.

--no-wait

Vänta inte tills den tidskrävande åtgärden har slutförts. Standardvärdet är Falskt.

standardvärde: False
--remove

Ta bort en egenskap eller ett element från en lista. Exempel: --remove property.list <indexToRemove> ELLER --remove propertyToRemove.

standardvärde: []
--set

Uppdatera ett objekt genom att ange en egenskapssökväg och ett värde som ska anges. Exempel: --set property1.property2=<value>.

standardvärde: []
--traffic -r

Blankstegsavgränsade nyckel/värde-par, inom citattecken, för trafikinställningarna för slutpunkten.

--web -e

Visa slutpunktens information i Azure ML Studio i en webbläsare.

standardvärde: False
Globala parametrar
--debug

Öka loggningsverositeten för att visa alla felsökningsloggar.

--help -h

Visa det här hjälpmeddelandet och avsluta.

--only-show-errors

Visa bara fel och ignorera varningar.

--output -o

Utdataformat.

accepterade värden: json, jsonc, none, table, tsv, yaml, yamlc
standardvärde: json
--query

JMESPath-frågesträng. Mer http://jmespath.org/ information och exempel finns i.

--subscription

Namn eller ID för prenumerationen. Du kan konfigurera standardprenumerationen med .az account set -s NAME_OR_ID

--verbose

Öka loggningsverbositeten. Använd --debug för fullständiga felsökningsloggar.