Azure OpenAI’yı İzleme

Bu makalede şunlar açıklanmaktadır:

• Bu hizmet için toplayabileceğiniz izleme verilerinin türleri.
• Bu verileri analiz etmenin yolları.

Azure kaynaklarını kullanan kritik uygulamalarınız ve iş süreçleriniz varsa sisteminiz için uyarıları izlemeniz ve almanız gerekir. Azure İzleyici hizmeti, sisteminizin her bileşeninden ölçümleri ve günlükleri toplar ve toplar. Azure İzleyici kullanılabilirlik, performans ve dayanıklılığın bir görünümünü sağlar ve sorunları size bildirir. İzleme verilerini ayarlamak ve görüntülemek için Azure portalı, PowerShell, Azure CLI, REST API veya istemci kitaplıklarını kullanabilirsiniz.

• Azure İzleyici hakkında daha fazla bilgi için bkz. Azure İzleyici'ye genel bakış.
• Azure kaynaklarını genel olarak izleme hakkında daha fazla bilgi için bkz . Azure İzleyici ile Azure kaynaklarını izleme.

Panolar

Azure OpenAI, Azure OpenAI kaynaklarınızın her biri için kullanıma hazır panolar sağlar. İzleme panolarına erişmek için Azure OpenAI kaynaklarınızın birinde oturum açın https://portal.azure.com ve genel bakış bölmesini seçin.

Panolar dört kategoride gruplandırılır: HTTP İstekleri, Belirteç Tabanlı Kullanım, PTU Kullanımı ve İnce Ayarlama.

Azure İzleyici'de veri toplama ve yönlendirme

Azure OpenAI, diğer Azure kaynaklarıyla aynı izleme verilerini toplar. Azure İzleyici'yi etkinlik günlüklerinde, kaynak günlüklerinde, sanal makine günlüklerinde ve platform ölçümlerinde veri oluşturacak şekilde yapılandırabilirsiniz. Daha fazla bilgi için bkz . Azure kaynaklarından verileri izleme.

Platform ölçümleri ve Azure İzleyici etkinlik günlüğü otomatik olarak toplanır ve depolanır. Bu veriler bir tanılama ayarı kullanılarak diğer konumlara yönlendirilebilir. Azure İzleyici kaynak günlükleri, bir tanılama ayarı oluşturup günlükleri bir veya daha fazla konuma yönlendirene kadar toplanmaz ve depolanmaz.

Tanılama ayarı oluşturduğunuzda hangi günlük kategorilerinin toplanacağını belirtirsiniz. Azure portalı, Azure CLI veya PowerShell kullanarak tanılama ayarı oluşturma hakkında daha fazla bilgi için bkz . Azure'da platform günlüklerini ve ölçümlerini toplamak için tanılama ayarı oluşturma.

Tanılama ayarlarını kullanmanın ve Verileri Azure İzleyici Günlüklerine göndermenin ilişkili başka maliyetleri olduğunu unutmayın. Daha fazla bilgi için bkz . Azure İzleyici Günlükleri maliyet hesaplamaları ve seçenekleri.

Toplayabileceğiniz ölçümler ve günlükler aşağıdaki bölümlerde açıklanmıştır.

Kaynak türleri

Azure, abonelikteki her şeyi tanımlamak için kaynak türleri ve kimlikler kavramını kullanır. Kaynak türleri, Azure'da çalışan her kaynağın kaynak kimliklerinin de bir parçasıdır. Örneğin, bir sanal makine için kaynak türünden biri olur Microsoft.Compute/virtualMachines. Hizmetlerin ve ilişkili kaynak türlerinin listesi için bkz . Kaynak sağlayıcıları.

Azure İzleyici, çekirdek izleme verilerini benzer şekilde, ad alanları olarak da adlandırılan kaynak türlerine göre ölçümler ve günlükler halinde düzenler. Farklı kaynak türleri için farklı ölçümler ve günlükler kullanılabilir. Hizmetiniz birden fazla kaynak türüyle ilişkilendirilebilir.

Azure OpenAI için kaynak türleri hakkında daha fazla bilgi için bkz . Azure OpenAI izleme verileri başvurusu.

Veri depolama

Azure İzleyici için:

• Ölçüm verileri Azure İzleyici ölçüm veritabanında depolanır.
• Günlük verileri Azure İzleyici günlükleri deposunda depolanır. Log Analytics, Azure portalında bu depoyu sorgulayan bir araçtır.
• Azure etkinlik günlüğü, Azure portalında kendi arabirimine sahip ayrı bir depodur.

İsteğe bağlı olarak ölçüm ve etkinlik günlüğü verilerini Azure İzleyici günlük deposuna yönlendirebilirsiniz. Ardından Log Analytics'i kullanarak verileri sorgulayabilir ve diğer günlük verileriyle ilişkilendirebilirsiniz.

Birçok hizmet, ölçüm ve günlük verilerini Azure İzleyici dışındaki diğer depolama konumlarına göndermek için tanılama ayarlarını kullanabilir. Örnek olarak Event Hubs kullanarak Azure Depolama, barındırılan iş ortağı sistemleri ve Azure dışı iş ortağı sistemleri verilebilir.

Azure İzleyici'nin verileri nasıl depolandığı hakkında ayrıntılı bilgi için bkz . Azure İzleyici veri platformu.

Azure İzleyici platform ölçümleri

Azure İzleyici çoğu hizmet için platform ölçümleri sağlar. Bu ölçümler şunlardır:

• Her ad alanı için ayrı ayrı tanımlanır.
• Azure İzleyici zaman serisi ölçüm veritabanında depolanır.
• Hafif ve neredeyse gerçek zamanlı uyarıyı destekleyebilecek.
• Bir kaynağın zaman içindeki performansını izlemek için kullanılır.

Koleksiyon: Azure İzleyici, platform ölçümlerini otomatik olarak toplar. Yapılandırma gerekmez.

Yönlendirme: Ayrıca bazı platform ölçümlerini Azure İzleyici Günlüklerine / Log Analytics'e yönlendirerek bunları diğer günlük verileriyle sorgulayabilirsiniz. Ölçümü Azure İzleyici Günlükleri/Log Analytics'e yönlendirmek için bir tanılama ayarı kullanıp kullanamadığını görmek için her ölçümün DS dışarı aktarma ayarını denetleyin.

• Daha fazla bilgi için Ölçüm tanılama ayarına bakın.
• Bir hizmetin tanılama ayarlarını yapılandırmak için bkz . Azure İzleyici'de tanılama ayarları oluşturma.

Azure İzleyici'deki tüm kaynaklar için toplamanın mümkün olduğu tüm ölçümlerin listesi için bkz . Azure İzleyici'de desteklenen ölçümler.

Azure OpenAI,Azure AI hizmetlerinin bir alt kümesiyle ortaklığa sahiptir. Azure OpenAI için kullanılabilir ölçümlerin listesi için bkz . Azure OpenAI izleme verileri başvurusu.

Azure İzleyici kaynak günlükleri

Kaynak günlükleri, bir Azure kaynağı tarafından yapılan işlemler hakkında içgörü sağlar. Günlükler otomatik olarak oluşturulur, ancak bunları kaydetmek veya sorgulamak için Azure İzleyici günlüklerine yönlendirmeniz gerekir. Günlükler kategoriler halinde düzenlenir. Belirli bir ad alanının birden çok kaynak günlüğü kategorisi olabilir.

Koleksiyon: Bir tanılama ayarı oluşturup günlükleri bir veya daha fazla konuma yönlendirene kadar kaynak günlükleri toplanmaz ve depolanmaz. Tanılama ayarı oluşturduğunuzda hangi günlük kategorilerinin toplanacağını belirtirsiniz. Azure portalı, program aracılığıyla ve ancak Azure İlkesi dahil olmak üzere tanılama ayarlarını oluşturmanın ve korumanın birden çok yolu vardır.

Yönlendirme: Önerilen varsayılan ayar, kaynak günlüklerini diğer günlük verileriyle sorgulayabileceğiniz Azure İzleyici Günlüklerine yönlendirmektir. Azure Depolama, Azure Event Hubs ve belirli Microsoft izleme iş ortakları gibi diğer konumlar da kullanılabilir. Daha fazla bilgi için bkz . Azure kaynak günlükleri ve Kaynak günlüğü hedefleri.

Kaynak günlüklerini toplama, depolama ve yönlendirme hakkında ayrıntılı bilgi için bkz . Azure İzleyici'de tanılama ayarları.

Azure İzleyici'deki tüm kullanılabilir kaynak günlüğü kategorilerinin listesi için bkz . Azure İzleyici'de desteklenen kaynak günlükleri.

Azure İzleyici'deki tüm kaynak günlükleri aynı üst bilgi alanlarına ve ardından hizmete özgü alanlara sahiptir. Ortak şema, Azure İzleyici kaynak günlüğü şemasında özetlenmiştir.

Kullanılabilir kaynak günlüğü kategorileri, ilişkili Log Analytics tabloları ve Azure OpenAI için günlük şemaları için bkz . Azure OpenAI izleme veri başvurusu.

Azure etkinlik günlüğü

Etkinlik günlüğü, bu kaynağın dışından görüldüğü gibi her Azure kaynağı için işlemleri izleyen abonelik düzeyinde olaylar içerir; örneğin, yeni bir kaynak oluşturma veya sanal makine başlatma.

Koleksiyon: Etkinlik günlüğü olayları otomatik olarak oluşturulur ve Azure portalında görüntülemek üzere ayrı bir depoda toplanır.

Yönlendirme: Etkinlik günlüğü verilerini Azure İzleyici Günlüklerine göndererek diğer günlük verileriyle birlikte analiz edebilirsiniz. Azure Depolama, Azure Event Hubs ve belirli Microsoft izleme iş ortakları gibi diğer konumlar da kullanılabilir. Etkinlik günlüğünü yönlendirme hakkında daha fazla bilgi için bkz . Azure etkinlik günlüğüne genel bakış.

İzleme verilerini analiz etme

İzleme verilerini analiz etmek için birçok araç vardır.

Azure İzleyici araçları

Azure İzleyici aşağıdaki temel araçları destekler:

• Azure portalında Azure kaynaklarına yönelik ölçümleri görüntülemenize ve analiz etmenizi sağlayan bir araç olan Ölçüm gezgini. Daha fazla bilgi için bkz . Azure İzleyici ölçüm gezginiyle ölçümleri analiz etme.

• Azure portalında Kusto sorgu dilini (KQL) kullanarak günlük verilerini sorgulamanıza ve analiz etmenizi sağlayan bir araç olan Log Analytics. Daha fazla bilgi için bkz . Azure İzleyici'de günlük sorgularını kullanmaya başlama.

• Azure portalında görüntülemeye ve temel aramalara yönelik bir kullanıcı arabirimine sahip olan etkinlik günlüğü. Daha ayrıntılı analiz yapmak için verileri Azure İzleyici günlüklerine yönlendirmeniz ve Log Analytics'te daha karmaşık sorgular çalıştırmanız gerekir.

Daha karmaşık görselleştirmelere olanak sağlayan araçlar şunlardır:

• Farklı veri türlerini Azure portalında tek bir bölmede birleştirmenize olanak sağlayan panolar .
• Çalışma kitapları, Azure portalında oluşturabileceğiniz özelleştirilebilir raporlar. Çalışma kitapları metin, ölçüm ve günlük sorguları içerebilir.
• Grafana, işletimsel panolarda üstünlük sağlayan açık bir platform aracıdır. Azure İzleyici dışındaki birden çok kaynaktan veri içeren panolar oluşturmak için Grafana'yı kullanabilirsiniz.
• Çeşitli veri kaynakları genelinde etkileşimli görselleştirmeler sağlayan bir iş analizi hizmeti olan Power BI. Bu görselleştirmelerden yararlanmak için Power BI'ı günlük verilerini Azure İzleyici'den otomatik olarak içeri aktaracak şekilde yapılandırabilirsiniz.

Tanılama ayarlarını yapılandırma

Tüm ölçümler Azure İzleyici'deki tanılama ayarlarıyla dışarı aktarılabilir. Azure İzleyici Log Analytics sorguları ile günlükleri ve ölçüm verilerini analiz etmek için Azure OpenAI kaynağınız ve Log Analytics çalışma alanınız için tanılama ayarlarını yapılandırmanız gerekir.

Tanılama ayarlarını yapılandırdıktan sonra Log Analytics çalışma alanınızda Azure OpenAI kaynağınız için ölçümler ve günlük verileriyle çalışabilirsiniz.

Azure İzleyici dışarı aktarma araçları

Aşağıdaki yöntemleri kullanarak Azure İzleyici'nin verilerini diğer araçlara alabilirsiniz:

• Ölçümler: Azure İzleyici ölçüm veritabanından ölçüm verilerini ayıklamak için ölçümler için REST API'sini kullanın. API, alınan verileri iyileştirmek için filtre ifadelerini destekler. Daha fazla bilgi için bkz . Azure İzleyici REST API başvurusu.

• Günlükler: REST API'sini veya ilişkili istemci kitaplıklarını kullanın.

• Bir diğer seçenek de çalışma alanı verilerini dışarı aktarmadır.

Azure İzleyici için REST API'yi kullanmaya başlamak için bkz . Azure izleme REST API'sini izleme kılavuzu.

Kusto sorguları

Kusto sorgu dilini (KQL) kullanarak Azure İzleyici Günlükleri/Log Analytics deposundaki izleme verilerini analiz edebilirsiniz.

Herhangi bir hizmet için yaygın sorguların listesi için bkz . Log Analytics sorguları arabirimi.

Azure OpenAI modelini dağıttığınızda, Azure AI Studio'daki oyun alanı ortamını kullanarak bazı tamamlama çağrıları gönderebilirsiniz.

Tamamlamalar oyun alanına veya Sohbet tamamlamalar oyun alanına girdiğiniz tüm metinler, Azure OpenAI kaynağınız için ölçümler ve günlük verileri oluşturur. Kaynağınızın Log Analytics çalışma alanında Kusto sorgu dilini kullanarak izleme verilerini sorgulayabilirsiniz.

1. Azure OpenAI kaynak sayfanızdaki sol bölmedeki İzleme'nin altında Günlükler'i seçin.

2. Azure OpenAI kaynağınız için tanılama ile yapılandırdığınız Log Analytics çalışma alanını seçin.

3. Log Analytics çalışma alanı sayfasında, sol bölmedeki Genel Bakış'ın altında Günlükler'i seçin.

   Azure portalında varsayılan olarak örnek sorguların ve önerilerin yer aldığı bir Sorgular penceresi görüntülenir. Bu pencereyi kapatabilirsiniz.

Aşağıdaki örnekler için Sorgu penceresinin üst kısmındaki düzenleme bölgesine Kusto sorgusunu girin ve çalıştır'ı seçin. Sorgu sonuçları, sorgu metninin altında görüntülenir.

Aşağıdaki Kusto sorgusu, kaynağınızla ilgili Azure Tanılama (AzureDiagnostics) verilerin ilk analizinde yararlıdır:

AzureDiagnostics
| take 100
| project TimeGenerated, _ResourceId, Category, OperationName, DurationMs, ResultSignature, properties_s

Bu sorgu 100 girdiden oluşan bir örnek döndürür ve günlüklerde kullanılabilir veri sütunlarının bir alt kümesini görüntüler. Sorgu sonuçlarında, kullanılabilir tüm sütunları ve ilişkili veri türlerini görüntülemek için tablo adının yanındaki oku seçebilirsiniz.

Kullanılabilir tüm veri sütunlarını görmek için, sorgudan kapsam parametreleri satırını | project ... kaldırabilirsiniz:

AzureDiagnostics
| take 100

Kaynağınızın Azure Ölçümleri (AzureMetrics) verilerini incelemek için aşağıdaki sorguyu çalıştırın:

AzureMetrics
| take 100
| project TimeGenerated, MetricName, Total, Count, Maximum, Minimum, Average, TimeGrain, UnitName

Sorgu 100 girdiden oluşan bir örnek döndürür ve Azure Ölçüm verilerinin kullanılabilir sütunlarının bir alt kümesini görüntüler:

Uyarılar

Azure İzleyici uyarıları, izleme verilerinizde belirli koşullar bulunduğunda sizi proaktif olarak bilgilendirir. Uyarılar, müşterileriniz fark etmeden önce sisteminizdeki sorunları tanımlamanıza ve çözmenize olanak sağlar. Daha fazla bilgi için bkz . Azure İzleyici uyarıları.

Azure kaynakları için birçok yaygın uyarı kaynağı vardır. Azure kaynaklarına yönelik yaygın uyarı örnekleri için bkz . Örnek günlük uyarısı sorguları. Azure İzleyici Temel Uyarıları (AMBA) sitesi, önemli platform ölçüm uyarılarını, panolarını ve yönergelerini uygulamak için yarı otomatik bir yöntem sağlar. Site, Azure Giriş Bölgesi'nin (ALZ) parçası olan tüm hizmetler de dahil olmak üzere Azure hizmetlerinin sürekli olarak genişleyen bir alt kümesi için geçerlidir.

Ortak uyarı şeması, Azure İzleyici uyarı bildirimlerinin kullanımını standartlaştırır. Daha fazla bilgi için bkz . Ortak uyarı şeması.

Uyarı türleri

Azure İzleyici veri platformundaki herhangi bir ölçüm veya günlük veri kaynağı hakkında uyarı alabilirsiniz. İzlediğiniz hizmetlere ve topladığınız izleme verilerine bağlı olarak birçok farklı uyarı türü vardır. Farklı uyarı türlerinin çeşitli avantajları ve dezavantajları vardır. Daha fazla bilgi için bkz . Doğru izleme uyarı türünü seçme.

Aşağıdaki listede oluşturabileceğiniz Azure İzleyici uyarılarının türleri açıklanmaktadır:

• Ölçüm uyarıları , kaynak ölçümlerini düzenli aralıklarla değerlendirir. Ölçümler platform ölçümleri, özel ölçümler, Azure İzleyici'den ölçümlere dönüştürülen günlükler veya Application Insights ölçümleri olabilir. Ölçüm uyarıları birden çok koşul ve dinamik eşik de uygulayabilir.
• Günlük uyarıları , kullanıcıların önceden tanımlanmış bir sıklıkta kaynak günlüklerini değerlendirmek için Log Analytics sorgusu kullanmasına olanak sağlar.
• Etkinlik günlüğü uyarıları , tanımlı koşullarla eşleşen yeni bir etkinlik günlüğü olayı oluştuğunda tetikler. Kaynak Durumu uyarıları ve Hizmet Durumu uyarıları, hizmetiniz ve kaynak durumunuz hakkında rapor veren etkinlik günlüğü uyarılarıdır.

Bazı Azure hizmetleri akıllı algılama uyarılarını, Prometheus uyarılarını veya önerilen uyarı kurallarını da destekler.

Bazı hizmetler için, aynı Azure bölgesinde bulunan aynı türdeki birden çok kaynağa aynı ölçüm uyarı kuralını uygulayarak büyük ölçekte izleyebilirsiniz. İzlenen her kaynak için tek tek bildirimler gönderilir. Desteklenen Azure hizmetleri ve bulutları için bkz . Tek bir uyarı kuralıyla birden çok kaynağı izleme.

Uyarıları ayarlama

Her kuruluşun uyarı gereksinimleri farklılık gösterir ve zaman içinde değişebilir. Genellikle, uyarı oluşursa tüm uyarılar eyleme dönüştürülebilir ve belirli bir hedeflenen yanıta sahip olmalıdır. Bir uyarı anında yanıt gerektirmiyorsa, koşul uyarı yerine bir raporda yakalanabilir. Bazı kullanım örnekleri, belirli hata koşulları mevcutken uyarı gerektirebilir. Diğer durumlarda, belirli bir zaman aralığı için belirli bir eşiği aşan hatalar için uyarılara ihtiyacınız olabilir.

Belirli eşiklerin altındaki hatalar genellikle Azure İzleyici Günlüklerindeki verilerin düzenli analiziyle değerlendirilebilir. Günlük verilerinizi zaman içinde analiz ettikçe, belirli bir koşulun beklenen bir süre için gerçekleşmediğini fark edebilirsiniz. Uyarıları kullanarak bu koşulu izleyebilirsiniz. Bazen günlükte bir olayın olmaması bir hata kadar önemli bir sinyaldir.

Azure OpenAI kullanımınızla geliştirmekte olduğunuz uygulama türüne bağlı olarak, Azure İzleyici Application Insights uygulama katmanında daha fazla izleme avantajı sunabilir.

Azure OpenAI uyarı kuralları

Azure OpenAI izleme veri başvurusunda listelenen herhangi bir ölçüm, günlük girişi veya etkinlik günlüğü girişi için uyarılar ayarlayabilirsiniz.

Danışman önerileri

Bazı hizmetler için, kaynak işlemleri sırasında kritik koşullar veya yakın değişiklikler gerçekleşirse portaldaki hizmete Genel Bakış sayfasında bir uyarı görüntülenir. Uyarı için daha fazla bilgi ve önerilen düzeltmeleri soldaki menüde İzleme altında Danışman önerileri bölümünde bulabilirsiniz. Normal işlemler sırasında hiçbir danışman önerisi görüntülenmez.

Azure Danışmanı hakkında daha fazla bilgi için bkz . Azure Danışmanına genel bakış.

İlgili içerik

• Azure OpenAI için oluşturulan ölçümlerin, günlüklerin ve diğer önemli değerlerin başvurusu için bkz . Azure OpenAI izleme verileri başvurusu .
• Azure kaynaklarını izleme hakkında genel ayrıntılar için bkz . Azure İzleyici ile Azure kaynaklarını izleme.
• Bkz . Günlükler hakkında Azure İzleyici günlüklerindeki günlük aramalarını anlama.