Azure OpenAI modelleriyle çalışma

Azure OpenAI Service, farklı özelliklere ve fiyat noktalarına sahip çeşitli modeller tarafından desteklenir. Model kullanılabilirliği bölgeye göre değişir.

Model Listesi API'sini kullanarak Azure OpenAI kaynağınız tarafından hem çıkarım hem de ince ayar için kullanılabilen modellerin listesini alabilirsiniz.

Model güncelleştirmeleri

Azure OpenAI artık belirli model dağıtımları için otomatik güncelleştirmeleri destekliyor. Otomatik güncelleştirme desteğinin kullanılabildiği modellerde, Azure OpenAI Studio'da Dağıtımlar ve Düzenle altında bir model sürümü açılır menüsü görünür:

Azure OpenAI modeli sürümleri ve bunların nasıl çalıştığı hakkında daha fazla bilgiyi Azure OpenAI modeli sürümleri makalesinde bulabilirsiniz.

Varsayılana otomatik güncelleştirme

Dağıtımınızı Otomatik güncelleştirme olarak varsayılan olarak ayarladığınızda, model dağıtımınız varsayılan sürümdeki değişikliği izleyen iki hafta içinde otomatik olarak güncelleştirilir. Önizleme sürümü için, yeni önizleme sürümü yayımlandıktan iki hafta sonra yeni bir önizleme sürümü kullanıma sunulduğunda otomatik olarak güncelleştirilir.

Çıkarım modelleri için hala erken test aşamalarındaysanız, otomatik güncelleştirme özelliğine sahip modelleri her kullanılabilir olduğunda varsayılan ayara dağıtmanızı öneririz.

Belirli model sürümü

Azure OpenAI kullanımınız geliştikçe ve model güncelleştirmelerini el ile denetlemek isteyebilirsiniz. Yükseltmeden önce uygulamanızın davranışının kullanım örneğiniz için tutarlı olduğunu test edebilir ve doğrulayabilirsiniz.

Dağıtım için belirli bir model sürümünü seçtiğinizde, kendiniz güncelleştirmeyi seçene veya modelin kullanımdan kaldırma tarihine ulaşana kadar bu sürüm seçili kalır. Kullanımdan kaldırma tarihine ulaşıldığında model, kullanımdan kaldırıldığında otomatik olarak varsayılan sürüme yükseltilir.

Kullanımdan kaldırma tarihlerini görüntüleme

Şu anda dağıtılan modeller için Azure OpenAI Studio'dan Dağıtımlar'ı seçin:

Model dağıtımı yükseltme yapılandırması

Azure OpenAI Studio'da daha önce dağıtılan modeller için hangi model yükseltme seçeneklerinin ayarlandığını kontrol edebilirsiniz. Dağıtımlar'ı> seçin Dağıtım adı sütununun altında mavi renkle vurgulanan dağıtım adlarından birini seçin.

Dağıtım adı seçildiğinde model dağıtımının Özellikleri açılır. Sürüm güncelleştirme ilkesi altında dağıtımınız için hangi yükseltme seçeneklerinin ayarlandığını görüntüleyebilirsiniz:

Buna karşılık gelen özelliğe REST, Azure PowerShell ve Azure CLI aracılığıyla da erişilebilir.

Üç ayrı model dağıtımı yükseltme seçeneği vardır:

Örnekler

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}
 
// Step 2: Show Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption
 
// VersionUpgradeOption can be null - one way to check is
$null -eq $deployment.Properties.VersionUpgradeOption
 
// Step 3: Update Deployment VersionUpgradeOption
$deployment.Properties.VersionUpgradeOption = "NoAutoUpgrade"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku
 
// repeat step 1 and 2 to confirm the change.
// If not sure about deployment name, use this command to show all deployments under an account
Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName}

// To update to a new model version

// Step 1: Get Deployment
$deployment = Get-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName}

// Step 2: Show Deployment Model properties
$deployment.Properties.Model.Version

// Step 3: Update Deployed Model Version
$deployment.Properties.Model.Version = "0613"
New-AzCognitiveServicesAccountDeployment -ResourceGroupName {ResourceGroupName} -AccountName {AccountName} -Name {DeploymentName} -Properties $deployment.Properties -Sku $deployment.Sku

// repeat step 1 and 2 to confirm the change.

GET https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments?api-version=2023-05-01

{
  "value": [
    {
      "id": "/subscriptions/aaaaaaaa-bbbb-cccc-dddd-eeeeeeeeeeeb/resourceGroups/az-test-openai/providers/Microsoft.CognitiveServices/accounts/aztestopenai001/deployments/gpt-35-turbo",
      "type": "Microsoft.CognitiveServices/accounts/deployments",
      "name": "gpt-35-turbo",
      "sku": {
        "name": "Standard",
        "capacity": 80
      },
      "properties": {
        "model": {
          "format": "OpenAI",
          "name": "gpt-35-turbo",
          "version": "0301"
        },
        "versionUpgradeOption": "OnceNewDefaultVersionAvailable",
        "capabilities": {
          "completion": "true",
          "chatCompletion": "true"
        },
        "raiPolicyName": "Microsoft.Default",
        "provisioningState": "Succeeded",
        "rateLimits": [
          {
            "key": "request",
            "renewalPeriod": 10,
            "count": 80
          },
          {
            "key": "token",
            "renewalPeriod": 60,
            "count": 80000
          }
        ]
      },
      "systemData": {
        "createdBy": "docs@contoso.com",
        "createdByType": "User",
        "createdAt": "2023-07-31T16:45:32.622404Z",
        "lastModifiedBy": "docs@contoso.com",
        "lastModifiedByType": "User",
        "lastModifiedAt": "2023-10-31T13:59:34.4978286Z"
      },
      "etag": "\"aaaaaaaa-bbbb-cccc-dddd-eeeeeeeeeeee\""
    }
  ]
}

API aracılığıyla modelleri güncelleştirme ve dağıtma

PUT https://management.azure.com/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.CognitiveServices/accounts/{accountName}/deployments/{deploymentName}?api-version=2023-05-01

Yol parametreleri

Desteklenen sürümler

• 2023-05-01Swagger belirtimi

İstek gövdesi

Bu, kullanılabilir istek gövdesi parametrelerinin yalnızca bir alt kümesidir. Parametrelerin tam listesi için REST API başvuru belgelerine başvurabilirsiniz.

Örnek istek

curl -X PUT https://management.azure.com/subscriptions/00000000-0000-0000-0000-000000000000/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo?api-version=2023-05-01 \
  -H "Content-Type: application/json" \
  -H 'Authorization: Bearer YOUR_AUTH_TOKEN' \
  -d '{"sku":{"name":"Standard","capacity":120},"properties": {"model": {"format": "OpenAI","name": "gpt-35-turbo","version": "0613"},"versionUpgradeOption":"OnceCurrentVersionExpired"}}'

Örnek yanıt

 {
  "id": "/subscriptions/{subscription-id}/resourceGroups/resource-group-temp/providers/Microsoft.CognitiveServices/accounts/docs-openai-test-001/deployments/gpt-35-turbo",
  "type": "Microsoft.CognitiveServices/accounts/deployments",
  "name": "gpt-35-turbo",
  "sku": {
    "name": "Standard",
    "capacity": 120
  },
  "properties": {
    "model": {
      "format": "OpenAI",
      "name": "gpt-35-turbo",
      "version": "0613"
    },
    "versionUpgradeOption": "OnceCurrentVersionExpired",
    "capabilities": {
      "chatCompletion": "true"
    },
    "provisioningState": "Succeeded",
    "rateLimits": [
      {
        "key": "request",
        "renewalPeriod": 10,
        "count": 120
      },
      {
        "key": "token",
        "renewalPeriod": 60,
        "count": 120000
      }
    ]
  },
  "systemData": {
    "createdBy": "docs@contoso.com",
    "createdByType": "User",
    "createdAt": "2023-02-28T02:57:15.8951706Z",
    "lastModifiedBy": "docs@contoso.com",
    "lastModifiedByType": "User",
    "lastModifiedAt": "2023-10-31T15:35:53.082912Z"
  },
  "etag": "\"GUID\""
}

Sonraki adımlar

• Azure OpenAI modeli bölgesel kullanılabilirliği hakkında daha fazla bilgi edinin
• Azure OpenAI hakkında daha fazla bilgi edinin