Sunucusuz API uç noktalarındaki modeller için bölge kullanılabilirliği | Azure Machine Learning
Bu makalede sunucusuz API uç noktası dağıtımlarını destekleyen modellerin her biri için hangi bölgelerin kullanılabilir olduğunu öğreneceksiniz.
Model kataloğundaki bazı modeller kullandıkça öde faturalaması ile sunucusuz API olarak dağıtılabilir. Bu tür bir dağıtım, modelleri aboneliğinizde barındırmadan API olarak kullanmanın yanı sıra kuruluşların ihtiyaç duyduğu kurumsal güvenlik ve uyumluluğu korumanın bir yolunu sağlar. Bu dağıtım seçeneği aboneliğinizden kota gerektirmez.
Bölgesel kullanılabilirlik
Kullandıkça öde faturalaması yalnızca Azure aboneliği model sağlayıcısının teklifi kullanıma sunduğu bir ülkedeki bir ödeme hesabına ait olan kullanıcılar tarafından kullanılabilir (sonraki bölümdeki tabloda yer alan "teklif kullanılabilirlik bölgesi" bölümüne bakın). Teklif ilgili bölgede kullanılabiliyorsa, kullanıcının modelin dağıtım veya ince ayar için kullanılabildiği Azure bölgesinde bir Hub/Project'i olmalıdır (aşağıdaki tablolarda yer alan "Hub/Proje Bölgesi" sütunlarına bakın).
Modelleri uyumlu yapma
Model | Teklif Kullanılabilirlik Bölgesi | Dağıtım için Hub/Proje Bölgesi | İnce ayar için Merkez/Proje Bölgesi |
---|---|---|---|
Cohere Command R+ 08-2024 | Microsoft Tarafından Yönetilen Ülkeler | Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Cohere Command R 08-2024 | Microsoft Tarafından Yönetilen Ülkeler | Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Cohere Command R+ | Microsoft Tarafından Yönetilen Ülkeler Japonya Katar |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Komut R'lerini Uyumlu Yapma | Microsoft Tarafından Yönetilen Ülkeler Japonya Katar |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Cohere Rerank 3 - İngilizce | Microsoft Tarafından Yönetilen Ülkeler Japonya Katar |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Cohere Rerank 3 - Çok Dilli | Microsoft Tarafından Yönetilen Ülkeler Japonya Katar |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Birlikte Ekle 3 - İngilizce | Microsoft Tarafından Yönetilen Ülkeler Japonya Katar |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Birlikte Ekleme 3 - Çok Dilli | Microsoft Tarafından Yönetilen Ülkeler Japonya Katar |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
JAIS modelleri
Model | Teklif Kullanılabilirlik Bölgesi | Dağıtım için Hub/Proje Bölgesi | İnce ayar için Merkez/Proje Bölgesi |
---|---|---|---|
JAIS 30B Sohbet | Microsoft Tarafından Yönetilen Ülkeler Mısır |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Meta Lama modelleri
Model | Teklif Kullanılabilirlik Bölgesi | Dağıtım için Hub/Proje Bölgesi | İnce ayar için Merkez/Proje Bölgesi |
---|---|---|---|
Lama 2 7B Lama 2 13B Lama 2 70B |
Microsoft Tarafından Yönetilen Ülkeler | Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD Batı ABD Batı ABD 3 |
Batı ABD 3 |
Lama 2 7B Sohbet Lama 2 7B Sohbet Lama 2 70B Sohbet |
Microsoft Tarafından Yönetilen Ülkeler | Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD Batı ABD Batı ABD 3 |
Batı ABD 3 |
Llama 3 8B Yönergesi Llama 3 70B Yönergesi |
Microsoft Tarafından Yönetilen Ülkeler | Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Llama 3.1 8B Yönergesi Llama 3.1 70B Yönergesi |
Microsoft Tarafından Yönetilen Ülkeler | Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD Batı ABD Batı ABD 3 |
Batı ABD 3 |
Llama 3.1 405B Yönergesi | Microsoft Tarafından Yönetilen Ülkeler | Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD Batı ABD Batı ABD 3 |
Kullanılamaz |
Microsoft Phi-3 aile modelleri
Model | Teklif Kullanılabilirlik Bölgesi | Dağıtım için Hub/Proje Bölgesi | İnce ayar için Merkez/Proje Bölgesi |
---|---|---|---|
Phi-3.5-vision-Instruct | Uygulanamaz | Doğu ABD 2 Orta İsveç |
Kullanılamaz |
Phi-3.5-MoE-Instruct | Uygulanamaz | Doğu ABD 2 Orta İsveç |
Kullanılamaz |
Phi-3.5-Mini Yönerge | Uygulanamaz | Doğu ABD 2 Orta İsveç |
Kullanılamaz |
Phi-3-Mini-4k-Instruct Phi-3-Mini-128K-Instruct |
Uygulanamaz | Doğu ABD 2 Orta İsveç |
Doğu ABD 2 |
Phi-3-Small-8K-Instruct Phi-3-Small-128K-Instruct |
Uygulanamaz | Doğu ABD 2 Orta İsveç |
Kullanılamaz |
Phi-3-Medium-4K-Instruct Phi-3-Medium-128K-Instruct |
Uygulanamaz | Doğu ABD 2 Orta İsveç |
Doğu ABD 2 |
Mistral modeller
Model | Teklif Kullanılabilirlik Bölgesi | Dağıtım için Hub/Proje Bölgesi | İnce ayar için Merkez/Proje Bölgesi |
---|---|---|---|
Mistral Nemo | Microsoft Tarafından Yönetilen Ülkeler Brezilya Hong Kong İsrail |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Ministral-3B | Microsoft Tarafından Yönetilen Ülkeler Brezilya Hong Kong İsrail |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Mistral Small | Microsoft Tarafından Yönetilen Ülkeler Brezilya Hong Kong İsrail |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Mistral Large (2402) | Microsoft Tarafından Yönetilen Ülkeler Brezilya Hong Kong İsrail |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Mistral-Large (2407) | Microsoft Tarafından Yönetilen Ülkeler Brezilya Hong Kong İsrail |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Nixtla modelleri
Model | Teklif Kullanılabilirlik Bölgesi | Dağıtım için Hub/Proje Bölgesi | İnce ayar için Merkez/Proje Bölgesi |
---|---|---|---|
TimeGEN-1 | Microsoft Tarafından Yönetilen Ülkeler Meksika İsrail |
Doğu ABD Doğu ABD 2 Orta Kuzey ABD Orta Güney ABD İsveç Orta Batı ABD Batı ABD 3 |
Kullanılamaz |
Bölge kullanılabilirliğine alternatifler
Altyapınızın çoğu belirli bir bölgedeyse ve yalnızca sunucusuz API uç noktaları olarak kullanılabilen modellerden yararlanmak istiyorsanız, desteklenen bölgede bir çalışma alanı oluşturabilir ve ardından uç noktayı başka bir bölgeden kullanabilirsiniz.
Mevcut sunucusuz API uç noktasını dağıtıldığı çalışma alanından farklı bir çalışma alanında yapılandırmayı öğrenmek için Farklı bir çalışma alanından sunucusuz API uç noktalarını kullanma sayfasını okuyun.