Atualização de agosto de 2024 provisionada do OpenAI do Azure

Em meados de agosto de 2024, a Microsoft apresentou melhorias na sua oferta de Taxa de Transferência Provisionada que abordam os comentários dos clientes sobre usabilidade e agilidade operacional que abrem novas opções de pagamento e cenários de implantação.

Este artigo destina-se aos usuários existentes da oferta de taxa de transferência provisionada. Os novos clientes devem se referir ao Guia de integração provisionada do OpenAI do Azure.

O que está sendo alterado?

Os recursos abaixo estão sendo distribuídos para a oferta Gerenciada Provisionada.

Aperfeiçoamentos de usabilidade

Novo modelo comercial por hora/reserva

Detalhes da melhoria de usabilidade

A granularidade da cota provisionada está mudando de específica do modelo para independente do modelo. Em vez de cada modelo e versão dentro da assinatura e da região ter seu próprio limite de cota, há um único item de cota por assinatura e região que limita o número total de PTUs que podem ser implantadas em todos os modelos e versões com suporte.

Cota independente do modelo

A partir de 12 de agosto de 2024, a cota atual e específica do modelo dos clientes existentes foi convertida em independente do modelo. Isso acontece automaticamente. Não há perda de cota na transição. Os limites de cota existentes são resumidos e atribuídos a um novo item de cota independente do modelo.

A nova cota independente do modelo é exibida como um item de cota chamado Unidade de Taxa de Transferência Gerenciada Provisionada, com o modelo e a versão não mais incluídos no nome. No painel Cota do Studio, expandir o item de cota ainda mostra todas as implantações que contribuem para o item de cota.

Cota padrão

As assinaturas novas e existentes recebem uma pequena quantidade de cota provisionada em muitas regiões. Isso permite que os clientes comecem a usar essas regiões sem precisarem primeiro solicitar a cota.

Quanto aos clientes existentes, se a região já contiver uma atribuição de cota, o limite de cota não será alterado para a região. Por exemplo, ele não é aumentado automaticamente pelo novo valor padrão.

Solicitações de cota de autoatendimento

Os clientes não obtêm mais cota entrando em contato com suas equipes de vendas. Em vez disso, eles usam o formulário de solicitação da cota de autoatendimento e especificam o tipo de cota gerenciado por PTU. O formulário é acessível a partir de um link à direita do item de cota. O destino é responder a todas as solicitações de cota dentro de dois dias úteis.

A captura de tela da cota a seguir mostra a cota independente de modelo sendo usada por implantações de diferentes tipos, além do link para solicitar cota adicional.

Cota como um limite

Antes da atualização de agosto, o OpenAI do Azure Provisionado estava disponível apenas para alguns clientes e a cota era alocada para maximizar a capacidade de implantá-la e usá-la. Com essas alterações, o processo de aquisição de cota foi simplificado para todos os usuários e há uma maior probabilidade de executar limitações de capacidade de serviço quando as implantações são tentadas. Uma nova experiência de API e Estúdio está disponível para ajudar os usuários a encontrarem regiões em que a assinatura possui cota e o serviço possui capacidade para dar suporte às implantações de um modelo desejado.

Também recomendamos que os clientes que usam compromissos agora criem suas implantações antes de criar ou expandir compromissos para cobri-las. Isso garante que a capacidade esteja disponível antes da criação de um compromisso e evita a compra excessiva do compromisso. Para dar suporte a isso, a restrição que impedia a criação de implantações maior do que seus compromissos foi removida. Essa nova abordagem de cota, disponibilidade de capacidade e compromissos corresponde ao que é fornecido no modelo por hora/reserva, e a orientação a ser implantada antes da compra de um compromisso (ou reserva, para o modelo por hora) é a mesma para ambos.

Consulte os links a seguir para obter mais informações. As diretrizes para reservas e compromissos são as mesmas:

• Transparência de Capacidade
• Reservas de dimensionamento

Novo modelo de pagamento de reserva por hora

A Microsoft introduziu um novo modelo de pagamento "Por hora/reserva" para as implantações provisionadas. Isso se soma ao atual modelo de pagamento do Compromisso, que continuará a ter suporte pelo menos até o final de 2024.

Modelo de pagamento de compromisso

• É necessário um compromisso mensal regional para usar o provisionado (termos mais longos disponíveis contratualmente).

• Os compromissos estão limitados aos recursos do OpenAI do Azure, o que dificulta a transferência de implantações entre recursos.

• Os compromissos não podem ser cancelados ou alterados durante o período, exceto para adicionar novas PTUs.

• Dá suporte aos modelos lançados antes de 01º de agosto de 2024.

Modelo de pagamento de reserva por hora

• O modelo de pagamento está alinhado com os padrões do Azure para outros produtos.

• Há suporte para o uso por hora, sem compromisso.

• Os descontos de prazo de um mês e um ano podem ser comprados como Reservas regionais do Azure.

• As reservas podem ter escopo flexível para cobrirem várias assinaturas e o escopo pode ser alterado no meio do prazo.

• Dá suporte a todos os modelos, antigos e novos.

Estrutura do modelo de pagamento

Com o lançamento do modelo de pagamento por hora/reserva, as opções de pagamento são mais flexíveis e o modelo de pagamentos provisionados foi alterado. Quando os compromissos de um mês eram a única forma de comprar o provisionado, o modelo era:

1. Obter uma cota de PTU da sua equipe de contas da Microsoft.
2. "Compre" a cota de um compromisso no recurso onde você deseja implantar.
3. Criar implantações no recurso até o limite do compromisso.

A principal diferença entre esse modelo e o novo modelo é que, anteriormente, a única forma de pagar pelo provisionado era por meio de um desconto de termo de um mês. Agora, você pode implantar e pagar pelas implantações por hora, se preferir, e tomar uma decisão separada sobre se deseja descontá-las por meio de um compromisso de um mês (como antes) ou uma reserva do Azure.

Com esse insight, a nova maneira de pensar sobre os modelos de pagamento é a seguinte:

1. Obtenha uma cota de PTU usando o formulário de autoatendimento.
2. Crie implantações usando sua cota.
3. Opcionalmente, compre ou estenda um compromisso ou uma reserva para aplicar um desconto de termo às suas implantações.

As etapas 1 e 2 são as mesmas em todos os casos. A diferença é se um compromisso ou uma reserva do Azure é usado como veículo para fornecer o desconto. Em ambos os modelos:

• É possível implantar mais PTUs do que você desconta. (por exemplo, a criação de uma implantação de curto prazo para experimentar um novo modelo é habilitada pela implantação sem a compra de um desconto)

• O método de desconto (compromisso ou reserva) aplica o preço com desconto a um número fixo de PTUs e tem um escopo que define quais implantações são contabilizadas no desconto.

  Tipo de Desconto	Escopos disponíveis (em uma região)
  Compromisso	Recurso OpenAI do Azure
  Row2	Grupo de recursos, assinatura única, grupo de gerenciamento (grupo de assinaturas), compartilhado (todas as assinaturas em uma conta de cobrança)

• O preço com desconto é aplicado às PTUs implementadas até o número de PTUs com desconto no desconto.

• O número de PTUs implantados que excederem os PTUs com desconto (ou que não estiverem cobertos por nenhum desconto) será cobrado à taxa por hora.

• A melhor prática é criar primeiro as implantações e depois aplicar os descontos. Isso é para garantir esse serviço. A capacidade do sistema está disponível para dar suporte às suas implantações antes de criar um compromisso de prazo para PTUs que você não pode usar.

Mapeamento de implantações para o método de desconto

Os clientes que usam o OpenAI do Azure Provisionado antes de agosto de 2024 podem usar um ou ambos os modelos de pagamento simultaneamente em uma assinatura. O modelo de pagamento usado para cada implantação é determinado com base em seu recurso do OpenAI do Azure:

O recurso tem um Compromisso ativo

• O compromisso desconta todas as implantações no recurso até o número de PTUs no compromisso. Qualquer excesso de PTUs será cobrado por hora.

O recurso não tem um compromisso ativo

• As implantações no recurso são qualificadas para serem descontadas por uma reserva do Azure. Para que essas implantações sejam descontadas, elas devem existir dentro do escopo de uma reserva ativa. Todas as implantações dentro do escopo da reserva (incluindo possivelmente implantações em outros recursos na mesma ou em outras assinaturas) serão descontadas como um grupo até o número de PTUs na reserva. Qualquer excesso de PTUs será cobrado por hora.

Alterações no modo de pagamento existente

Os clientes que tiverem compromissos hoje podem continuar a usá-los pelo menos até o final de 2024. Isso inclui a compra de novas PTUs em compromissos novos ou existentes e o gerenciamento de comportamentos de renovação de compromisso. No entanto, a atualização de agosto mudou certos aspectos da operação do compromisso.

• Somente os modelos lançados como provisionados antes de 01º de agosto de 2024 ou anteriores podem ser implantados em um recurso com um compromisso.

• Se as PTUs implantadas em um compromisso excederem as PTUs comprometidas, as cobranças por excesso de hora serão emitidas contra o mesmo medidor por hora usado no novo modelo de pagamento por hora/reserva. Isso permite que os encargos excedentes sejam descontados por uma Reserva do Azure.

• É possível implantar mais PTUs do que as comprometidas no recurso. Isso dá suporte à capacidade de garantir a disponibilidade da capacidade antes de aumentar o tamanho do compromisso para cobri-la.

Migrar os recursos existentes dos seus compromissos.

Os clientes existentes podem optar por migrar seus recursos existentes do modelo de pagamento de compromisso para o modelo de pagamento por hora/reserva para se beneficiarem da capacidade de implementarem os modelos mais recentes ou para consolidarem o desconto de diversas implementações em uma única reserva.

Duas abordagens estão disponíveis para os clientes migrarem recursos usando o modelo do Compromisso para o modelo de Hora/Reserva.

Migração de autoatendimento

A abordagem de migração por autoatendimento permite que um cliente se livre organicamente dos seus compromissos, permitindo que eles expirem. O processo para migrar um recurso é o seguinte:

• Definir o compromisso existente para não ser atualizado automaticamente e observar a data de validade.

• Antes da data de término, um cliente deve comprar uma Reserva do Azure abrangendo o número total de PTUs confirmadas por assinatura. Se uma reserva existente já tiver a assinatura no seu escopo, ela poderá ser aumentada em tamanho para cobrir as novas PTUs.

• Quando o compromisso expirar, as implantações sob o recurso mudarão automaticamente para o modo por Hora/Reserva com o uso descontado pela reserva.

Essa abordagem de migração de autoatendimento resultará em uma sobreposição em que a reserva e o compromisso estão ativos. Essa é uma característica desse modo de migração e o tempo de reserva ou compromisso dessa sobreposição não será creditado de volta ao cliente.

Uma abordagem alternativa para a migração por autoatendimento é mudar a compra da reserva para que ocorra após a expiração do compromisso. Nessa abordagem, as implantações gerarão uso por hora no período entre a expiração do compromisso e a compra da reserva. Assim como no modelo anterior, essa é uma característica dessa abordagem e esse uso por hora não será creditado.

Vantagens da migração de autoatendimento:

• Os recursos individuais podem ser migrados em momentos diferentes.
• Os clientes gerenciam a migração sem dependências da Microsoft.

Desvantagens da migração de autoatendimento:

• Haverá um curto período de cobrança dupla ou por hora durante a transição da cobrança por compromisso para a cobrança por hora/reserva.

Migração gerenciada

A abordagem de migração gerenciada envolve a parceria do cliente com a Microsoft para migrar em massa todos os compromissos de PTU em uma assinatura/região ao mesmo tempo. Funciona da seguinte maneira:

1. O cliente envolverá sua equipe de conta e solicitará uma migração gerenciada. Um proprietário de migração da equipe da Microsoft será atribuído para ajudar o cliente com a migração.
2. Será selecionada uma data em que todos os recursos das assinaturas e regiões dos clientes que contiverem compromissos atuais de PTU serão migrados do modelo de faturamento por compromisso para o modelo de faturamento por hora/reserva. Várias assinaturas e regiões podem ser migradas na mesma data.
3. Na data acordada:
   • O cliente comprará reservas regionais para cobrir as PTUs confirmadas que serão convertidas e passarão as informações de reserva para seu contato de migração da Microsoft.
   • Dentro de 2 a 3 dias úteis, todos os compromissos serão cancelados de forma proativa e as implantações anteriormente sob compromisso começarão a usar o modelo de pagamento por hora/reserva.
   • No período de cobrança posterior ao da compra da reserva, o cliente receberá um crédito pela compra da reserva cobrindo as partes dos compromissos que foram canceladas, começando no momento da compra da reserva.

Os clientes devem entrar em contato com suas equipes de conta para agendarem uma migração gerenciada.

Vantagens da migração gerenciada:

• A migração em massa de todos os compromissos em uma assinatura/região é benéfica para clientes com muitos compromissos.
• Migração de custo contínuo: não há possibilidade de cobrança dupla ou encargos extras por hora.

Desvantagens da migração gerenciada:

• Todos os compromissos em uma assinatura/região devem ser migrados ao mesmo tempo.
• Necessidade de coordenar um horário para a migração com a equipe da Microsoft.

Gerenciar compromissos de taxa de transferência provisionada

Os compromissos de taxa de transferência provisionada são criados e gerenciados no menu Gerenciar Compromissos do Estúdio OpenAI do Azure. Você pode navegar até esse modo de exibição selecionando Gerenciar Compromissos no menu Cota:

A partir da visualização Gerenciar Compromissos, você pode fazer várias coisas:

• Comprar novos compromissos ou editar compromissos existentes.
• Monitorar todos os compromissos em sua assinatura.
• Identificar e tomar ações sobre compromissos que podem causar cobrança inesperada.

As seções a seguir guiarão você por essas tarefas.

Comprar um compromisso de taxa de transferência provisionada

Com seu plano de compromisso pronto, a próxima etapa é criar os compromissos. Os compromissos são criados manualmente por meio do Estúdio do OpenAI do Azure e exigem que o usuário que está criando o compromisso tenha a função de Colaborador ou Colaborador dos Serviços Cognitivos no nível da assinatura.

Para cada novo compromisso que você precisa criar, siga estas etapas:

1. Inicialize a caixa de diálogo de aquisição de taxa de transferência provisionada selecionando Cotas>Provisionado>Gerenciar compromissos.

2. Selecione Compromisso de compra.

3. Selecione o recurso OpenAI do Azure e adquira o compromisso. Você visualizará seus recursos divididos em recursos com compromissos existentes, que você poderá editar e recursos que atualmente não têm um compromisso.

4. Selecione Comprar. Uma caixa de diálogo de confirmação será exibida. Depois de confirmar, suas PTUs serão confirmadas e você poderá usá-las para criar uma implantação provisionada. |

Editar um compromisso de taxa de transferência provisionada existente

No modo de exibição Gerenciar Compromissos, você também poderá editar um compromisso existente. Há dois tipos de alterações que é possível fazer em um compromisso existente:

• Você poderá adicionar as PTUs ao compromisso.
• Você poderá alterar as configurações de renovação.

Para editar um compromisso, selecione o atual a ser editado e, em seguida, selecione Editar compromisso.

Adicionar unidades de produtividade provisionadas a compromissos existentes

Adicionar as PTUs a um compromisso existente permitirá criar implantações maiores ou mais numerosas dentro do recurso. É possível fazer isso a qualquer momento durante o período de seu compromisso.

Alterar as configurações de renovação

As configurações de renovação de compromisso podem ser alteradas a qualquer momento antes da data de validade do compromisso. Os motivos para alterar as configurações de renovação podem incluir encerrar o uso da taxa de transferência provisionada configurando o compromisso para não renovar automaticamente, ou diminuir o uso da taxa de transferência provisionada reduzindo o número de PTUs que serão comprometidos no próximo período.

Monitorar compromissos e evitar cobranças inesperadas

O painel gerenciar compromissos fornece uma visão geral da assinatura de todos os recursos com compromissos e uso de PTU em uma determinada Assinatura do Azure. De particular interesse de importância são:

• PTUs Confirmadas, Implantadas e em Uso – Estes números fornecem os tamanhos de seus compromissos e quanto está em uso por implantações. Maximize seu investimento usando todas as PTUs confirmadas.
• Data e política de expiração – A data de validade e a política informam quando um compromisso expirará e o que acontecerá quando isso acontecer. Um compromisso definido como renovação automática gerará um evento de cobrança na data de renovação. Para compromissos que estão expirando, exclua as implantações destes recursos antes da data de validade para evitar cobrança excedente por hora. As configurações de renovação atuais de um compromisso.
• Notificações – Alertas sobre condições importantes, como compromissos não usados e configurações que podem resultar em excedentes de cobrança. Os excedentes de cobrança podem ser causados por situações como quando um compromisso expirou e as implantações ainda estão presentes, mas mudaram para a cobrança por hora.

Cenários comuns de gerenciamento de compromisso

Descontinuar o uso da taxa de transferência provisionada

Para encerrar o uso da taxa de transferência provisionada e evitar encargos excedentes por hora após a expiração do compromisso, interrompa os encargos após a expiração dos compromissos atuais, para isso tem de se seguir dois passos:

1. Defina a política de renovação em todos os compromissos como Não renovar automaticamente.
2. Exclua as implantações provisionadas usando a cota.

Mover um compromisso/implantação para um novo recurso na mesma assinatura/região

Não é possível no Estúdio do OpenAI do Azure mover diretamente uma implantação ou um compromisso para um novo recurso. Em vez disso, é necessário criar uma nova implantação no recurso de destino e mover o tráfego para ele. Para fazer isso será necessário ter um compromisso adquirido estabelecido no novo recurso. Como os compromissos são cobrados antecipadamente por um período de 30 dias, é necessário cronometrar essa ação com a validade do compromisso original para minimizar o tempo de sobreposição com o novo compromisso e a "cobrança dupla" durante a sobreposição.

Há duas abordagens que podem ser tomadas para implementar essa transição.

Opção 1: substituição sem sobreposição

Essa opção exige algum tempo de inatividade, mas não necessita de cota extra e nem gera custos extras.

Opção 2: substituição com sobreposição

Essa opção não tem tempo de inatividade por ter implantações existentes e novas ativas ao mesmo tempo. Isso exige cota disponível para criar a nova implantação e gerará custos extras durante as implantações com sobreposição.

Se a etapa final demorar mais do que o esperado e terminar depois que o compromisso existente expirar, há três opções para minimizar as cobranças excedentes.

• Gere tempo de inatividade: exclua a implantação original e conclua a movimentação.
• Pagar excedente: Mantenha a implantação original e pague por hora até mover o tráfego e excluir a implantação.
• Redefina o compromisso original para renovar mais uma vez. Isso lhe dará tempo para concluir a movimentação com um custo conhecido.

Tanto pagar pelo excedente quanto redefinir o compromisso original gerará cobranças além da data de validade original. Se precisar de apenas um ou dois dias para concluir a mudança, pagar encargos excedentes pode ser mais barato do que obter um novo compromisso de um mês. Compare os custos das duas opções para encontrar a abordagem de menor custo.

Mover a implantação para uma nova região e ou assinatura

As mesmas abordagens se aplicam à movimentação do compromisso e da implantação na região, com a exceção de que ter a cota disponível no novo local será necessário em todos os casos.

Exibir e editar um recurso existente

No Estúdio do OpenAI do Azure, selecione Cota>Provisionado>Gerenciar compromissos e selecione um recurso com um compromisso existente para exibi-lo/alterá-lo.