Instalace a spuštění kontejnerů rozpoznávání vlastních pojmenovaných entit

Kontejnery umožňují hostovat rozhraní API pro rozpoznávání vlastních pojmenovaných entit ve vlastní infrastruktuře pomocí vlastního natrénovaného modelu. Pokud máte požadavky na zabezpečení nebo zásady správného řízení dat, které se nedají splnit voláním rozpoznávání vlastních pojmenovaných entit vzdáleně, můžou být kontejnery dobrou volbou.

Požadavky

• Pokud ještě nemáte předplatné Azure, vytvořte si bezplatný účet.
• Docker nainstalovaný na hostitelském počítači. Docker musí být nakonfigurovaný tak, aby se kontejnery mohly připojit a odesílat fakturační data do Azure.
  • Ve Windows musí být Docker také nakonfigurovaný tak, aby podporoval kontejnery Linuxu.
  • Měli byste mít základní znalosti o konceptech Dockeru.
• Prostředek jazyka s cenovou úrovní Free (F0) nebo Standard (S).
• Trénovaný a nasazený model rozpoznávání vlastních pojmenovaných entit

Shromáždění požadovaných parametrů

Jsou vyžadovány tři primární parametry pro všechny kontejnery Azure AI. Licenční podmínky pro software společnosti Microsoft musí být k dispozici s hodnotou přijetí. Vyžaduje se také identifikátor URI koncového bodu a klíč rozhraní API.

Identifikátor URI koncového bodu

Tato {ENDPOINT_URI} hodnota je k dispozici na stránce Přehled webu Azure Portal odpovídajícího prostředku služeb Azure AI. Přejděte na stránku Přehled, najeďte myší na koncový bod a zobrazí se ikona Kopírovat do schránky. Zkopírujte koncový bod a použijte ho tam, kde je to potřeba.

Klávesy

Hodnota {API_KEY} se používá ke spuštění kontejneru a je k dispozici na stránce Klíče webu Azure Portal odpovídajícího prostředku služeb Azure AI. Přejděte na stránku Klíče a vyberte ikonu Kopírovat do schránky.

Požadavky na hostitelský počítač a doporučení

Hostitel je počítač založený na platformě x64, na kterém běží kontejner Dockeru. Může to být počítač v místním prostředí nebo hostitelská služba Dockeru v Azure, například:

• Azure Kubernetes Service.
• Azure Container Instances.
• Cluster Kubernetes nasazený do služby Azure Stack. Další informace najdete v tématu Nasazení Kubernetes do služby Azure Stack.

Následující tabulka popisuje minimální a doporučené specifikace pro kontejnery Custom Named Entity Recognition. Každé jádro procesoru musí mít alespoň 2,6 gigahertz (GHz) nebo rychlejší. Jsou uvedeny také povolené transakce za sekundu (TPS).

Jádro procesoru --cpus a paměť odpovídají nastavením, --memory které se používají jako součást docker run příkazu.

Export modelu rozpoznávání vlastních pojmenovaných entit

Než budete pokračovat ve spuštění image Dockeru, budete muset exportovat vlastní natrénovaný model, abyste ho zpřístupnili kontejneru. Pomocí následujícího příkazu extrahujte model a nahraďte následující zástupné symboly vlastními hodnotami:

curl --location --request PUT '{ENDPOINT_URI}/language/authoring/analyze-text/projects/{PROJECT_NAME}/exported-models/{TRAINED_MODEL_NAME}?api-version=2023-04-15-preview' \
--header 'Ocp-Apim-Subscription-Key: {API_KEY}' \
--header 'Content-Type: application/json' \
--data-raw '{
    "TrainedmodelLabel": "{TRAINED_MODEL_NAME}"
}'

Získání image kontejneru pomocí docker pull

Image kontejneru Rozpoznávání vlastních pojmenovaných entit najdete v syndikátu registru kontejneru mcr.microsoft.com . Nachází se v úložišti azure-cognitive-services/textanalytics/ a má název customner. Plně kvalifikovaný název image kontejneru je . mcr.microsoft.com/azure-cognitive-services/textanalytics/customner

Pokud chcete použít nejnovější verzi kontejneru, můžete použít latest značku. Úplný seznam značek najdete také v MCR.

docker pull Pomocí příkazu stáhněte image kontejneru ze služby Microsoft Container Registry.

docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

Spuštění kontejneru pomocí docker run

Jakmile je kontejner v hostitelském počítači, spusťte kontejnery pomocí příkazu docker run . Kontejner se bude dál spouštět, dokud ho nezastavíte.

Pokud chcete spustit kontejner Rozpoznávání vlastních pojmenovaných entit, spusťte následující docker run příkaz. Nahraďte následující zástupné symboly vlastními hodnotami:

docker run --rm -it -p5000:5000  --memory 4g --cpus 1 \
-v {LOCAL_PATH}:/modelPath \
mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest \
EULA=accept \
BILLING={ENDPOINT_URI} \
APIKEY={API_KEY} \
projectName={PROJECT_NAME}
exportedModelName={TRAINED_MODEL_NAME}

Tento příkaz:

• Spustí kontejner Rozpoznávání vlastních pojmenovaných entit a stáhne exportovaný model do zadané místní cesty.
• Přidělí jedno jádro procesoru a 4 gigabajty (GB) paměti.
• Zpřístupní port TCP 5000 a přidělí pro kontejner pseudo-TTY.
• Po ukončení kontejneru se automaticky odebere. Image kontejneru je stále dostupná na hostitelském počítači.

Spuštění více kontejnerů na stejném hostiteli

Pokud máte v úmyslu spouštět více kontejnerů s vystavenými porty, nezapomeňte jednotlivé kontejnery spouštět s jiným vystaveným portem. Například spusťte první kontejner na portu 5000 a druhý kontejner na portu 5001.

Tento kontejner a jiný kontejner služeb Azure AI můžete mít spuštěný společně na hostiteli. Můžete mít také několik kontejnerů stejného kontejneru služeb Azure AI spuštěných.

Zadání dotazu do prediktivního koncového bodu kontejneru

Kontejner poskytuje rozhraní API prediktivního koncového bodu pro dotazy založené na REST.

Pro rozhraní API kontejneru použijte hostitele http://localhost:5000.

Ověření, že je kontejner spuštěný

Existuje několik způsobů, jak ověřit, že je kontejner spuštěný. Vyhledejte externí IP adresu a vystavený port kontejneru a otevřete svůj oblíbený webový prohlížeč. Pomocí různých adres URL požadavků, které následují, ověřte, že kontejner běží. Tady jsou uvedené http://localhost:5000ukázkové adresy URL požadavků, ale váš konkrétní kontejner se může lišit. Ujistěte se, že spoléháte na externí IP adresu kontejneru a vystavený port.

Zastavení kontejneru

Pokud chcete kontejner vypnout, vyberte v prostředí příkazového řádku, ve kterém je kontejner spuštěný, ctrl+C.

Řešení problému

Pokud kontejner spustíte s povoleným připojením a protokolováním výstupu, kontejner vygeneruje soubory protokolu, které jsou užitečné při řešení problémů, ke kterým dochází při spuštění nebo spuštění kontejneru.

Fakturace

Kontejnery Custom Named Entity Recognition odesílají fakturační údaje do Azure pomocí prostředku Custom Named Entity Recognition na vašem účtu Azure.

Dotazy na kontejner se účtují na cenové úrovni prostředku Azure, který se používá pro tento ApiKey parametr.

Kontejnery služeb Azure AI nejsou licencované ke spuštění bez připojení ke koncovému bodu měření nebo fakturace. Kontejnery musíte povolit, aby vždy komunikují fakturační údaje s koncovým bodem fakturace. Kontejnery služeb Azure AI neodesílají zákaznická data, jako je obrázek nebo text analyzovaný, do Microsoftu.

Připojení k Azure

Kontejner potřebuje ke spuštění hodnoty fakturačních argumentů. Tyto hodnoty umožňují kontejneru připojit se ke koncovému bodu fakturace. Kontejner hlásí využití přibližně každých 10 až 15 minut. Pokud se kontejner nepřipojí k Azure v rámci povoleného časového intervalu, kontejner se bude dál spouštět, ale nebude obsluhovat dotazy, dokud se neobnoví koncový bod fakturace. Připojení se pokouší 10krát ve stejném časovém intervalu 10 až 15 minut. Pokud se během 10 pokusů nemůže připojit ke koncovému bodu fakturace, kontejner přestane obsluhovat požadavky. Příklad informací odeslaných Microsoftu pro fakturaci najdete v nejčastějších dotazech ke kontejneru služeb Azure AI.

Argumenty fakturace

Příkaz docker run spustí kontejner, pokud jsou k dispozici všechny tři z následujících možností s platnými hodnotami:

Shrnutí

V tomto článku jste se naučili koncepty a pracovní postupy pro stahování, instalaci a spouštění kontejnerů Custom Named Entity Recognition. Souhrnně:

• Rozpoznávání vlastních pojmenovaných entit poskytuje kontejnery Linuxu pro Docker.
• Image kontejnerů se stáhnou ze služby Microsoft Container Registry (MCR).
• Image kontejnerů se spouštějí v Dockeru.
• Pomocí rozhraní REST API nebo sady SDK můžete volat operace v kontejnerech Custom Named Entity Recognition zadáním identifikátoru URI hostitele kontejneru.
• Při vytváření instance kontejneru je nutné zadat fakturační údaje.

Další kroky

• Viz Konfigurace kontejnerů pro nastavení konfigurace.