Özel Adlandırılmış Varlık Tanıma kapsayıcılarını yükleme ve çalıştırma

Kapsayıcılar, kendi eğitilmiş modelinizi kullanarak Özel Adlandırılmış Varlık Tanıma API'sini kendi altyapınızda barındırmanıza olanak tanır. Özel Adlandırılmış Varlık Tanıma uzaktan çağrılarak karşılanamaz güvenlik veya veri idare gereksinimleriniz varsa kapsayıcılar iyi bir seçenek olabilir.

Önkoşullar

• Azure aboneliğiniz yoksa ücretsiz hesap oluşturun.
• Docker bir ana bilgisayara yüklendi. Docker, kapsayıcıların Azure'a bağlanmasına ve faturalama verileri göndermesine izin verecek şekilde yapılandırılmalıdır.
  • Windows'da Docker,Linux kapsayıcılarını destekleyecek şekilde de yapılandırılmalıdır.
  • Docker kavramları hakkında temel bilgilere sahip olmanız gerekir.
• Ücretsiz (F0) veya standart (S) fiyatlandırma katmanına sahip bir Dil kaynağı.
• Eğitilmiş ve dağıtılan Özel Adlandırılmış Varlık Tanıma modeli

Gerekli parametreleri toplama

Tüm Azure AI kapsayıcıları için üç birincil parametre gereklidir. Microsoft Yazılım Lisans Koşulları kabul değeriyle birlikte mevcut olmalıdır. Uç Nokta URI'si ve API anahtarı da gereklidir.

Uç nokta URI'si

Bu {ENDPOINT_URI} değere karşılık gelen Azure AI hizmetleri kaynağının Azure portalı genel bakış sayfasından ulaşabilirsiniz. Genel Bakış sayfasına gidin, uç noktanın üzerine gelin ve Panoya kopyala simgesi görüntülenir. Gerektiğinde uç noktayı kopyalayın ve kullanın.

Anahtarlar

Bu {API_KEY} değer kapsayıcıyı başlatmak için kullanılır ve ilgili Azure AI hizmetleri kaynağının Azure portalının Anahtarlar sayfasında kullanılabilir. Anahtarlar sayfasına gidin ve Panoya kopyala simgesini seçin.

Konak bilgisayar gereksinimleri ve önerileri

Konak, Docker kapsayıcısını çalıştıran x64 tabanlı bir bilgisayardır. Şirket içi bir bilgisayar veya Azure'da Docker barındırma hizmeti olabilir, örneğin:

• Azure Kubernetes Service.
• Azure Container Instances.
• Azure Stack'e dağıtılan bir Kubernetes kümesi. Daha fazla bilgi için bkz . Kubernetes'i Azure Stack'e dağıtma.

Aşağıdaki tabloda Özel Adlandırılmış Varlık Tanıma kapsayıcıları için en düşük ve önerilen belirtimler açıklanmaktadır. Her CPU çekirdeği en az 2,6 gigahertz (GHz) veya daha hızlı olmalıdır. İzin verilebilen Saniye Başına İşlemler (TPS) de listelenir.

CPU çekirdeği ve bellek, komutun --cpus bir parçası olarak kullanılan ve --memory ayarlarına docker run karşılık gelir.

Özel Adlandırılmış Varlık Tanıma modelinizi dışarı aktarma

Docker görüntüsünü çalıştırmaya devam etmeden önce, kapsayıcınızda kullanıma sunabilmek için kendi eğitilmiş modelinizi dışarı aktarmanız gerekir. Modelinizi ayıklamak ve aşağıdaki yer tutucuları kendi değerlerinizle değiştirmek için aşağıdaki komutu kullanın:

curl --location --request PUT '{ENDPOINT_URI}/language/authoring/analyze-text/projects/{PROJECT_NAME}/exported-models/{TRAINED_MODEL_NAME}?api-version=2023-04-15-preview' \
--header 'Ocp-Apim-Subscription-Key: {API_KEY}' \
--header 'Content-Type: application/json' \
--data-raw '{
    "TrainedmodelLabel": "{TRAINED_MODEL_NAME}"
}'

ile kapsayıcı görüntüsünü alma docker pull

Özel Adlandırılmış Varlık Tanıma kapsayıcı görüntüsü kapsayıcı kayıt defteri dağıtımında mcr.microsoft.com bulunabilir. Depoda azure-cognitive-services/textanalytics/ bulunur ve olarak adlandırılır customner. Tam kapsayıcı görüntüsü adı: mcr.microsoft.com/azure-cognitive-services/textanalytics/customner.

Kapsayıcının en son sürümünü kullanmak için etiketini kullanabilirsiniz latest . McR'de etiketlerin tam listesini de bulabilirsiniz.

Microsoft Container Registry'den docker pull kapsayıcı görüntüsü indirmek için komutunu kullanın.

docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

Kapsayıcıyı ile çalıştırma docker run

Kapsayıcı konak bilgisayara yüklendikten sonra docker run komutunu kullanarak kapsayıcıları çalıştırın. Kapsayıcı, siz durdurana kadar çalışmaya devam eder.

Özel Adlandırılmış Varlık Tanıma kapsayıcısını çalıştırmak için aşağıdaki docker run komutu yürütür. Aşağıdaki yer tutucuları kendi değerlerinizle değiştirin:

docker run --rm -it -p5000:5000  --memory 4g --cpus 1 \
-v {LOCAL_PATH}:/modelPath \
mcr.microsoft.com/azure-cognitive-services/textanalytics/customner:latest \
EULA=accept \
BILLING={ENDPOINT_URI} \
APIKEY={API_KEY} \
projectName={PROJECT_NAME}
exportedModelName={TRAINED_MODEL_NAME}

Şu komut:

• Özel Adlandırılmış Varlık Tanıma kapsayıcısını çalıştırır ve dışarı aktarılan modelinizi belirtilen yerel yola indirir.
• Bir CPU çekirdeği ve 4 gigabayt (GB) bellek ayırır
• TCP bağlantı noktası 5000'i kullanıma sunar ve kapsayıcı için sahte TTY ayırır
• Kapsayıcı çıktıktan sonra otomatik olarak kaldırılır. Kapsayıcı görüntüsü ana bilgisayarda hala kullanılabilir.

Aynı konakta birden çok kapsayıcı çalıştırma

Kullanıma sunulan bağlantı noktalarıyla birden çok kapsayıcı çalıştırmayı planlıyorsanız, her kapsayıcıyı farklı bir kullanıma sunulan bağlantı noktasıyla çalıştırdığınızdan emin olun. Örneğin, ilk kapsayıcıyı 5000 numaralı bağlantı noktasında, ikinci kapsayıcıyı da 5001 numaralı bağlantı noktasında çalıştırın.

Bu kapsayıcıyı ve HOST üzerinde çalışan farklı bir Azure AI hizmetleri kapsayıcısını birlikte kullanabilirsiniz. Aynı Azure AI hizmetleri kapsayıcısının birden çok kapsayıcısını da çalıştırabilirsiniz.

Kapsayıcının tahmin uç noktasını sorgulama

Kapsayıcı REST tabanlı sorgu tahmin uç noktası API’lerini sağlar.

Kapsayıcı API’leri için http://localhost:5000 konağını kullanın.

Kapsayıcının çalıştığını doğrulama

Kapsayıcının çalıştığını doğrulamanın çeşitli yolları vardır. Dış IP adresini ve söz konusu kapsayıcının kullanıma sunulan bağlantı noktasını bulun ve sık kullandığınız web tarayıcısını açın. Kapsayıcının çalıştığını doğrulamak için aşağıdaki çeşitli istek URL'lerini kullanın. Burada listelenen örnek istek URL'leri şunlardır http://localhost:5000; ancak kapsayıcınız farklılık gösterebilir. Kapsayıcınızın Dış IP adresine ve kullanıma sunulan bağlantı noktasına bağlı olduğundan emin olun.

Kapsayıcıyı durdurma

Kapsayıcıyı kapatmak için, kapsayıcının çalıştığı komut satırı ortamında Ctrl+C tuşlarına basın.

Sorun giderme

Kapsayıcıyı bir çıkış bağlaması ve günlüğe kaydetme etkin olarak çalıştırırsanız kapsayıcı, kapsayıcıyı başlatırken veya çalıştırırken karşılaşılan sorunları gidermeye yardımcı olan günlük dosyaları oluşturur.

Faturalandırma

Özel Adlandırılmış Varlık Tanıma kapsayıcıları, Azure hesabınızdaki Özel Adlandırılmış Varlık Tanıma kaynağını kullanarak faturalama bilgilerini Azure'a gönderir.

Kapsayıcıya yönelik sorgular, parametre için kullanılan Azure kaynağının fiyatlandırma katmanında ApiKey faturalandırılır.

Azure AI hizmetleri kapsayıcıları, ölçüm veya faturalama uç noktasına bağlı olmadan çalıştırılma lisansına sahip değildir. Faturalama bilgilerini faturalama uç noktasıyla her zaman iletmek için kapsayıcıları etkinleştirmeniz gerekir. Azure AI hizmetleri kapsayıcıları, analiz edilen görüntü veya metin gibi müşteri verilerini Microsoft'a göndermez.

Azure'a bağlanma

Kapsayıcının çalışması için faturalama bağımsız değişkeni değerleri gerekir. Bu değerler kapsayıcının faturalama uç noktasına bağlanmasına olanak sağlar. Kapsayıcı yaklaşık 10-15 dakikada bir kullanımı bildirir. Kapsayıcı izin verilen zaman penceresinde Azure'a bağlanmazsa, kapsayıcı çalışmaya devam eder ancak faturalama uç noktası geri yüklenene kadar sorgular sunmaz. Bağlantı, 10 ile 15 dakika aynı zaman aralığında 10 kez denenir. 10 denemede faturalama uç noktasına bağlanamazsa kapsayıcı isteklerin sunulmasını durdurur. Faturalama için Microsoft'a gönderilen bilgilerin bir örneği için bkz. Azure AI hizmetleri kapsayıcısı SSS .

Faturalama bağımsız değişkenleri

Komut, docker run aşağıdaki seçeneklerin üçü de geçerli değerlerle sağlandığında kapsayıcıyı başlatır:

Özet

Bu makalede, Özel Adlandırılmış Varlık Tanıma kapsayıcılarını indirmeye, yüklemeye ve çalıştırmaya yönelik kavramları ve iş akışını öğrendiniz. Özet olarak:

• Özel Adlandırılmış Varlık Tanıma, Docker için Linux kapsayıcıları sağlar.
• Kapsayıcı görüntüleri Microsoft Container Registry'den (MCR) indirilir.
• Kapsayıcı görüntüleri Docker'da çalışır.
• Kapsayıcının konak URI'sini belirterek Özel Adlandırılmış Varlık Tanıma kapsayıcılarındaki işlemleri çağırmak için REST API veya SDK kullanabilirsiniz.
• Kapsayıcı örneği oluştururken faturalama bilgilerini belirtmeniz gerekir.

Sonraki adımlar

• Bkz . Yapılandırma ayarları için kapsayıcıları yapılandırma.