Установка и запуск контейнеров службы "Речь" с помощью Docker

С помощью контейнеров можно использовать подмножество функций службы "Речь" в собственной среде. Из этой статьи вы узнаете, как скачать, установить и запустить контейнер "Речь".

Необходимые компоненты

Прежде чем использовать контейнеры службы "Речь", необходимо выполнить следующие условия. Если у вас нет подписки Azure, создайте бесплатную учетную запись, прежде чем приступить к работе. Необходимые компоненты:

• Docker, установленный на главном компьютере. Docker нужно настроить таким образом, чтобы контейнеры могли подключать и отправлять данные о выставлении счетов в Azure.
  • В Windows для поддержки контейнеров Linux также должен быть настроен Docker.
  • Необходимо знать основные принципы и основные понятия Docker.
• Ресурс службы "Речь" с бесплатной ценовой категорией (F0) или ценовой категорией "Стандартный" (S).

Аргументы для выставления счетов

Контейнеры службы "Речь" не лицензируются для запуска без подключения к Azure для измерения. Контейнер должен всегда настраивать для обмена данными о выставлении счетов с службой измерения.

Требуются три основных параметра для всех контейнеров ИИ Azure. Для условий лицензионного соглашения на использование программного обеспечения корпорации Майкрософт должно быть задано значение accept. Также требуются URI конечной точки и ключ API.

Запросы к контейнеру оплачиваются согласно ценовой категории ресурса Azure, используемого для параметра ApiKey.

Команда docker run запускает контейнер, когда все три из следующих параметров предоставляются с допустимыми значениями:

Для запуска контейнера необходимо указать значения аргументов, касающихся выставления счетов. Эти значения обеспечивают подключение контейнера к конечной точке выставления счетов. Отчеты об использовании контейнера примерно каждые 10—15 минут. Если контейнер не подключится к Azure в течение допустимого периода времени, контейнер будет продолжать работать, но не будет обслуживать запросы, пока не будет восстановлена конечная точка выставления счетов. Попытки подключения выполняются 10 раз на протяжении одинакового интервала времени (10–15 минут). Если контейнеру не удается подключиться к конечной точке выставления счетов за 10 попыток, он останавливает запросы на обслуживание. Пример информации, отправляемой корпорации Майкрософт для выставления счетов, см . в документации по службам ИИ Azure.

Дополнительные сведения об этих параметрах см. в статье Настройка контейнеров.

Требования к контейнеру и рекомендации

В следующей таблице описано минимальное и рекомендуемое выделение ресурсов для каждого контейнера службы речи.

Частота каждого ядра должна быть минимум 2,6 ГГц.

Ядро и память соответствуют параметрам --cpus и --memory, которые используются как часть команды docker run.

Требования к главному компьютеру и рекомендации

Узел — это 64-разрядный компьютер, на котором выполняется контейнер Docker. Это может быть компьютер в локальной среде или служба размещения Docker в Azure, включая следующие решения:

• Служба Azure Kubernetes.
• Экземпляры контейнеров Azure.
• Кластер Kubernetes, развернутый в Azure Stack. Дополнительные сведения см. в статье Развертывание Kubernetes в Azure Stack.

Поддержка расширения Advanced Vector Extensions

Главным является компьютер, на котором выполняется контейнер Docker. Узел должен поддерживать расширение Advanced Vector Extensions (AVX2). Проверить наличие поддержки AVX2 вы можете на узлах Linux с помощью следующей команды:

grep -q avx2 /proc/cpuinfo && echo AVX2 supported || echo No AVX2 support detected

Запуск контейнера

Воспользуйтесь командой docker run для запуска контейнера. После выполнения контейнер продолжает выполняться, пока не остановите контейнер.

Обратите внимание на следующие рекомендации с docker run помощью команды:

• Символ продолжения строки: в следующих разделах команда Docker в качестве символа продолжения строки использует обратную косую черту\. Замените или удалите этот символ на основе требований операционной системы узла.
• Порядок аргументов: не изменяйте порядок аргументов, если вы плохо знакомы с контейнерами Docker.

Используйте команду docker images, чтобы получить список скачанных образов контейнеров. Следующая команда содержит идентификатор, репозиторий и тег каждого скачаемого образа контейнера, отформатированного в виде таблицы:

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

Ниже приведен пример результата:

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

Проверка состояния контейнера

Проверить это можно несколькими способами. Получите адрес и открытый порт для рассматриваемого контейнера из его параметра Внешний IP-адрес и запустите веб-браузер. Используйте приведенные ниже URL-адреса запросов, чтобы убедиться, что контейнер работает.

В примерах в качестве URL-адресов запросов используется значение http://localhost:5000, однако ваш конкретный контейнер может иметь отличия. Убедитесь в правильности внешнего IP-адреса и открытого порта контейнера.

Остановка контейнера

Чтобы завершить работу контейнера, в среде командной строки, где выполняется контейнер, нажмите комбинацию клавиш Ctrl+C.

Запуск нескольких контейнеров на одном узле

Если вы планируете запускать несколько контейнеров при открытых портах, обязательно назначьте каждому контейнеру отдельный открытый порт. Например, запускайте первый контейнер на порте 5000, а второй — на порте 5001.

Этот контейнер можно использовать и другой контейнер ИИ Azure, работающий вместе на узле HOST. Вы также можете использовать несколько контейнеров одного и того же контейнера ИИ Azure.

URL-адреса узлов

Дополнительные сведения об использовании протоколов WSS и HTTPS см . в документации по безопасности контейнеров в службах ИИ Azure.

Устранение неполадок

При запуске контейнера могут возникнуть проблемы. Используйте выход Подключение и включите ведение журнала. Это позволит контейнеру создавать файлы журналов, которые пригодятся вам при устранении неполадок.

Параметры ведения журнала

Контейнеры службы "Речь" поддерживают ведение журнала ASP.NET Core. Ниже приведен пример neural-text-to-speech container начала ведения журнала по умолчанию в консоли:

docker run --rm -it -p 5000:5000 --memory 12g --cpus 6 \
mcr.microsoft.com/azure-cognitive-services/speechservices/neural-text-to-speech \
Eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY} \
Logging:Console:LogLevel:Default=Information

Дополнительные сведения о ведении журнала см. в разделе "Настройка контейнеров службы "Речь" и записей об использовании в документации по службам ИИ Azure.

Контейнер Microsoft диагностика

Если у вас возникли проблемы с запуском контейнера ИИ Azure, можно попробовать использовать контейнер Microsoft диагностика. Используйте этот контейнер для диагностики распространенных ошибок в среде развертывания, которые могут предотвратить работу контейнеров ИИ Azure должным образом.

Чтобы получить контейнер, используйте следующую команду docker pull:

docker pull mcr.microsoft.com/azure-cognitive-services/diagnostic

Затем запустите контейнер. Замените {ENDPOINT_URI} на URI конечной точки, а {API_KEY} — на свой ключ для ресурса:

docker run --rm mcr.microsoft.com/azure-cognitive-services/diagnostic \
eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY}

Тесты контейнера для сетевого подключения к конечной точке выставления счетов.

Запуск отключенных контейнеров

Чтобы запустить отключенные контейнеры (не подключенные к Интернету), необходимо отправить эту форму запроса и ждать утверждения. Дополнительные сведения о применении и приобретении плана обязательств по использованию контейнеров в отключенных средах см . в документации по службам ИИ Azure с использованием контейнеров в отключенных средах .

Следующие шаги

• Ознакомьтесь со статьей о конфигурации контейнеров.
• Подробные сведения об использовании контейнера службы "Речь" в Kubernetes и Helm.
• Развертывание и запуск контейнеров в экземпляре контейнеров Azure
• Используйте больше контейнеров ИИ Azure.