Installera och köra containrar med anpassad namngiven entitetsigenkänning

Med containrar kan du vara värd för API:et för anpassad namngiven entitetsigenkänning i din egen infrastruktur med hjälp av din egen tränade modell. Om du har säkerhets- eller datastyrningskrav som inte kan uppfyllas genom fjärranrop av anpassad namngiven entitetsigenkänning kan containrar vara ett bra alternativ.

Förutsättningar

• Om du inte har någon Azure-prenumeration kan du skapa ett kostnadsfritt konto.
• Docker installerat på en värddator. Docker måste konfigureras så att containrarna kan ansluta till och skicka faktureringsdata till Azure.
  • I Windows måste Docker också konfigureras för att stödja Linux-containrar.
  • Du bör ha en grundläggande förståelse för Docker-begrepp.
• En språkresurs med den kostnadsfria prisnivån (F0) eller standard (S).
• En tränad och distribuerad anpassad namngiven entitetsigenkänningsmodell

Samla in obligatoriska parametrar

Tre primära parametrar för alla Azure AI-containrar krävs. Licensvillkoren för Programvara från Microsoft måste finnas med värdet accept. En slutpunkts-URI och API-nyckel behövs också.

Slutpunkts-URI

Värdet {ENDPOINT_URI} är tillgängligt på översiktssidan för Azure-portalen för motsvarande Azure AI-tjänstresurs. Gå till sidan Översikt , hovra över slutpunkten och ikonen Kopiera till Urklipp visas. Kopiera och använd slutpunkten där det behövs.

Nycklar

Värdet {API_KEY} används för att starta containern och är tillgängligt på sidan Nycklar i Azure-portalen för motsvarande Azure AI-tjänstresurs. Gå till sidan Nycklar och välj ikonen Kopiera till Urklipp.

Krav och rekommendationer för värddatorer

Värden är en x64-baserad dator som kör Docker-containern. Det kan vara en dator lokalt eller en Docker-värdtjänst i Azure, till exempel:

• Azure Kubernetes Service.
• Azure Container Instances.
• Ett Kubernetes-kluster som distribuerats till Azure Stack. Mer information finns i Distribuera Kubernetes till Azure Stack.

I följande tabell beskrivs de lägsta och rekommenderade specifikationerna för containrar med anpassad namngiven entitetsigenkänning. Varje CPU-kärna måste vara minst 2,6 gigahertz (GHz) eller snabbare. De tillåtna transaktionerna per sekund (TPS) visas också.

CPU-kärna och minne motsvarar --cpus inställningarna och --memory som används som en del av docker run kommandot.

Exportera din modell för anpassad namngiven entitetsigenkänning

Innan du fortsätter med att köra docker-avbildningen måste du exportera din egen tränade modell för att exponera den för containern. Använd följande kommando för att extrahera din modell och ersätta platshållarna nedan med dina egna värden:

curl --location --request PUT '{ENDPOINT_URI}/language/authoring/analyze-text/projects/{PROJECT_NAME}/exported-models/{TRAINED_MODEL_NAME}?api-version=2023-04-15-preview' \
--header 'Ocp-Apim-Subscription-Key: {API_KEY}' \
--header 'Content-Type: application/json' \
--data-raw '{
    "TrainedmodelLabel": "{TRAINED_MODEL_NAME}"
}'

Hämta containeravbildningen med docker pull

Containeravbildningen Anpassad namngiven entitetsigenkänning finns i mcr.microsoft.com containerregistersyndikatet. Den finns på lagringsplatsen azure-cognitive-services/textanalytics/ och heter customner. Det fullständigt kvalificerade containeravbildningsnamnet är , mcr.microsoft.com/azure-cognitive-services/textanalytics/customner.

Om du vill använda den senaste versionen av containern kan du använda taggen latest . Du hittar också en fullständig lista över taggar på MCR.

docker pull Använd kommandot för att ladda ned en containeravbildning från Microsoft Container Registry.

docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

Kör containern med docker run

När containern finns på värddatorn använder du kommandot docker run för att köra containrarna. Containern fortsätter att köras tills du stoppar den.

Kör följande docker run kommando för att köra containern Anpassad namngiven entitetsigenkänning. Ersätt platshållarna nedan med dina egna värden:

docker run --rm -it -p5000:5000  --memory 4g --cpus 1 \
-v {LOCAL_PATH}:/modelPath \
mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest \
EULA=accept \
BILLING={ENDPOINT_URI} \
APIKEY={API_KEY} \
projectName={PROJECT_NAME}
exportedModelName={TRAINED_MODEL_NAME}

Det här kommandot:

• Kör en container med anpassad namngiven entitetsigenkänning och laddar ned den exporterade modellen till den angivna lokala sökvägen.
• Allokerar en CPU-kärna och 4 GB minne
• Exponerar TCP-port 5000 och allokerar en pseudo-TTY för containern
• Tar automatiskt bort containern när den har avslutats. Containeravbildningen är fortfarande tillgänglig på värddatorn.

Köra flera containrar på samma värd

Om du tänker köra flera containrar med exponerade portar ska du köra varje container med en annan exponerad port. Kör till exempel den första containern på port 5000 och den andra containern på port 5001.

Du kan ha den här containern och en annan Azure AI-tjänstcontainer som körs på VÄRDEN tillsammans. Du kan också ha flera containrar av samma Azure AI-tjänstcontainer som körs.

Köra frågor mot containerns förutsägelseslutpunkt

Containern innehåller REST-baserade slutpunkts-API:er för frågeförutsägelse.

Använd värden, http://localhost:5000, för container-API:er.

Verifiera att en container körs

Det finns flera sätt att verifiera att containern körs. Leta upp den externa IP-adressen och den exponerade porten för containern i fråga och öppna din favoritwebbläsare. Använd de olika url:er för begäranden som följer för att verifiera att containern körs. Exempelbegärande-URL:er som anges här är http://localhost:5000, men din specifika container kan variera. Se till att förlita dig på containerns externa IP-adress och exponerade port.

Stoppa containern

Om du vill stänga av containern väljer du Ctrl+C i den kommandoradsmiljö där containern körs.

Felsökning

Om du kör containern med en utdatamontering och loggning aktiverad genererar containern loggfiler som är användbara för att felsöka problem som inträffar när containern startas eller körs.

Fakturering

Containrar med anpassad namngiven entitetsigenkänning skickar faktureringsinformation till Azure med hjälp av en resurs för anpassad namngiven entitetsigenkänning på ditt Azure-konto.

Frågor till containern faktureras på prisnivån för den Azure-resurs som används för parametern ApiKey .

Azure AI-tjänstcontainrar är inte licensierade att köras utan att vara anslutna till slutpunkten för mätning eller fakturering. Du måste aktivera containrarna för att kunna kommunicera faktureringsinformation med faktureringsslutpunkten hela tiden. Azure AI-tjänstcontainrar skickar inte kunddata, till exempel den bild eller text som analyseras, till Microsoft.

Ansluta till Azure

Containern behöver faktureringsargumentvärdena för att köras. Med de här värdena kan containern ansluta till faktureringsslutpunkten. Containern rapporterar användning var 10:e till 15:e minut. Om containern inte ansluter till Azure inom den tillåtna tidsperioden fortsätter containern att köras men hanterar inte frågor förrän faktureringsslutpunkten har återställts. Anslutningen görs 10 gånger med samma tidsintervall på 10 till 15 minuter. Om den inte kan ansluta till faktureringsslutpunkten inom de 10 försöken slutar containern att hantera begäranden. Se vanliga frågor och svar om Azure AI-tjänstcontainern för ett exempel på den information som skickas till Microsoft för fakturering.

Faktureringsargument

Kommandot docker run startar containern när alla tre av följande alternativ har giltiga värden:

Sammanfattning

I den här artikeln har du lärt dig begrepp och arbetsflöden för att ladda ned, installera och köra containrar med anpassad namngiven entitetsigenkänning. Sammanfattningsvis:

• Anpassad namngiven entitetsigenkänning tillhandahåller Linux-containrar för Docker.
• Containeravbildningar laddas ned från Microsoft Container Registry (MCR).
• Containeravbildningar körs i Docker.
• Du kan använda REST API eller SDK för att anropa åtgärder i containrar för anpassad namngiven entitetsigenkänning genom att ange värd-URI:n för containern.
• Du måste ange faktureringsinformation när du instansierar en container.

Nästa steg

• Se Konfigurera containrar för konfigurationsinställningar.