AI Ready – Azure'da yapay zeka iş yükleri oluşturan kuruluşlara yönelik öneriler
Bu makalede, Azure'da yapay zeka iş yükleri oluşturmaya yönelik kuruluş süreci özetlenmiştir. Makale, büyük ölçekte yapay zeka iş yüklerini benimsemeye yönelik önemli tasarım ve süreç kararları almaya yönelik öneriler sağlar. Bölge seçimi, kaynak düzenleme ve ağ iletişimi için yapay zekaya özgü yönergelere odaklanır.
Yapay zeka güvenilirliğini belirleme
Yapay zeka güvenilirliği tutarlı performans, uyumluluk ve kullanılabilirlik sağlamak için yapay zeka modellerini barındırmak için uygun bölgelerin seçilmesini içerir. Kuruluşların güvenilir yapay zeka hizmetlerini korumak için yedeklilik, yük devretme ve performans iyileştirmesi ile ilgilenmelidir.
Yapay zeka modeli uç noktalarını barındırmak için birden çok bölge kullanın. Üretim iş yüklerinde, yedeklilik sağlamak ve yüksek kullanılabilirlik sağlamak için en az iki bölgede yapay zeka uç noktalarını barındırabilirsiniz. Üretken yapay zeka modelleri durum bilgisi olmasa da, bunları birden çok bölgede barındırmak, bölgesel hatalar sırasında daha hızlı yük devretme ve kurtarma sağlar. Azure OpenAI Hizmeti modelleri için genel dağıtımları kullanabilirsiniz. Bu çok bölgeli dağıtımlar, istekleri otomatik ve şeffaf bir şekilde yeterli kapasiteye sahip bir bölgeye yönlendirebilir. Bölgesel dağıtım olarak da bilinen bir şirket dışı dağıtım seçerseniz, yapay zeka uç noktalarına api isteklerinin yük dengelemesi için Azure API Management'ı kullanın.
Hizmet kullanılabilirliğini onaylayın. Dağıtımdan önce, ihtiyacınız olan yapay zeka kaynakları için bölgede kullanılabilirlik olduğundan emin olun. Bazı bölgeler belirli yapay zeka hizmetleri sağlamayabilir veya sınırlı özelliklere sahip olabilir ve bu da çözümünüzün işlevselliğini etkileyebilir. Bu sınırlama, dağıtımınızın ölçeklenebilirliğini de etkileyebilir. Örneğin, Azure OpenAI hizmeti kullanılabilirliği dağıtım modelinize göre farklılık gösterebilir. Bu dağıtım modelleri genel standart, genel sağlanan, bölgesel standart ve bölgesel sağlamayı içerir. Gerekli kaynaklara erişiminiz olduğunu doğrulamak için yapay zeka hizmetini denetleyin.
Bölge kotası ve kapasitesini değerlendirin. Yapay zeka iş yükleriniz büyüdükçe seçtiğiniz bölgedeki kota veya abonelik sınırlarını göz önünde bulundurun. Azure hizmetlerinin bölgesel abonelik sınırları vardır. Bu sınırlar, büyük çıkarım iş yükleri gibi büyük ölçekli yapay zeka modeli dağıtımlarını etkileyebilir. Kesintileri önlemek için Azure desteği daha fazla kapasiteye ihtiyacınız olduğunu düşünüyorsanız önceden iletişime geçin.
Performansı değerlendirin. Alma artırılmış nesil (RAG) uygulamaları gibi verileri alması gereken uygulamalar oluştururken performansı iyileştirmek için veri depolama konumlarını göz önünde bulundurmanız önemlidir. RAG uygulamalarında verileri modellerle birlikte kullanmanız gerekmez, ancak bunu yapmak gecikme süresini azaltarak ve verimli veri alımı sağlayarak performansı artırabilir.
İşlemlerin sürekliliğine hazırlanın. İş sürekliliğini ve olağanüstü durum kurtarmayı güvence altına almak için ince ayarlı modeller, RAG verileri, eğitilen modeller ve eğitim veri kümeleri gibi kritik varlıkları ikincil bir bölgede çoğaltın. Bu yedeklilik, kesinti olması durumunda daha hızlı kurtarma sağlar ve hizmet kullanılabilirliğinin devam etmesini sağlar.
Yapay zeka idaresi oluşturma
Yapay zeka idaresi, kaynakları düzenlemeyi ve yapay zeka iş yüklerini ve maliyetlerini yönetmek için ilkeler uygulamayı kapsar. Farklı iş yüklerinde uyumluluk ve güvenlik sağlamak için yönetim gruplarını ve abonelikleri yapılandırmayı içerir. Düzgün yapay zeka idaresi yetkisiz erişimi engeller, riskleri yönetir ve yapay zeka kaynaklarının kuruluş içinde verimli bir şekilde çalışmasını sağlar.
İnternet'e yönelik ve iç yapay zeka iş yüklerini birbirinden ayırın. Yapay zeka iş yüklerini İnternet'e yönelik ("çevrimiçi") ve yalnızca şirket içi ("kurumsal") olarak ayırmak için en azından yönetim gruplarını kullanın. Ayrım, önemli bir veri idare sınırı sağlar. İç verileri genel verilerden ayrı tutmanıza yardımcı olur. Dış kullanıcıların iç iş için gereken hassas iş bilgilerine erişmesini istemezsiniz. İnternet'e yönelik ve iç iş yükleri arasındaki bu ayrım, Azure giriş bölgesi yönetim gruplarıyla uyumludur.
Her yönetim grubuna yapay zeka ilkeleri uygulayın. Azure giriş bölgelerinde kullanılan ilkeler gibi her iş yükü türü için temel ilkelerle başlayın. Azure AI hizmetleri, Azure AI Search, Azure Machine Learning ve Azure Sanal Makineler için tekdüzen idare sağlamak için temelinize daha fazla Azure İlkesi tanımı ekleyin.
İş yükü aboneliklerinde yapay zeka kaynaklarını dağıtma. Yapay zeka kaynaklarının iş yükü yönetim grubundan (iç veya İnternet'e yönelik) iş yükü idare ilkelerini devralmaları gerekir. Bunları platform kaynaklarından ayrı tutun. Platform ekipleri tarafından denetlenen yapay zeka kaynakları geliştirme sorunları yaratma eğilimindedir. Azure giriş bölgesi bağlamında yapay zeka iş yüklerini uygulama giriş bölgesi aboneliklerine dağıtın.
Yapay zeka ağı oluşturma
Yapay zeka ağı, güvenlik ve bağlantı dahil olmak üzere yapay zeka iş yükleri için ağ altyapısı tasarımını ve uygulamasını ifade eder. Merkez-uç gibi topolojilerin kullanılmasını, DDoS koruması gibi güvenlik önlemlerinin uygulanmasını ve verimli veri aktarımının sağlanmasını içerir. Etkili yapay zeka ağı, güvenli ve güvenilir iletişim için kritik öneme sahiptir, ağ tabanlı kesintileri önler ve performansı korur.
İnternet'e yönelik yapay zeka iş yükleri için Azure DDoS Koruması'nı etkinleştirin. Azure DDoS Koruması , yapay zeka hizmetlerinizi dağıtılmış hizmet reddi saldırılarından kaynaklanan olası kesintilere ve kapalı kalma süresine karşı korur. İnternet'e yönelik uygulamaları hedefleyen trafik taşkınlarına karşı savunmak için sanal ağ düzeyinde Azure DDoS korumasını etkinleştirin.
Şirket içi verilere bağlanın. Şirket içi kaynaklardan bulut ortamlarına büyük miktarda veri aktaran kuruluşlar için yüksek bant genişliğine sahip bir bağlantı kullanın.
Azure ExpressRoute'u göz önünde bulundurun. Azure ExpressRoute yüksek veri hacimleri, gerçek zamanlı işleme veya tutarlı performans gerektiren iş yükleri için idealdir. Veri yolu performansını geliştiren FastPath özelliğine sahiptir.
Azure VPN Gateway'i göz önünde bulundurun. Orta düzeyde veri birimleri, seyrek veri aktarımı veya genel İnternet erişimi gerektiğinde Azure VPN Gateway'i kullanın. ExpressRoute'tan daha küçük veri kümeleri için ayarlamak ve uygun maliyetli olmak daha kolaydır. Yapay zeka iş yükleriniz için doğru topolojiyi ve tasarımı kullanın. Şirket içi ve karma bağlantı için siteden siteye VPN kullanın. Güvenli cihaz bağlantısı için noktadan siteye VPN kullanın. Daha fazla bilgi için bkz. Şirket içi ağı Azure’a bağlama.
Etki alanı adı çözümleme hizmetlerini hazırlayın. Özel uç noktaları kullandığınızda, uygun DNS çözümlemesi ve başarılı özel uç nokta işlevselliği için özel uç noktaları DNS ile tümleştirin. Azure giriş bölgenizin bir parçası olarak Azure DNS altyapısını dağıtın ve uygun bölgeler için mevcut DNS hizmetlerinden koşullu ileticileri yapılandırın. Daha fazla bilgi için bkz. Azure giriş bölgeleri için uygun ölçekte Özel Bağlantı ve DNS tümleştirmesi.
Ağ erişim denetimlerini yapılandırın. Yapay zeka iş yüklerine gelen ve giden trafiği yöneten erişim ilkelerini tanımlamak ve uygulamak için ağ güvenlik gruplarını (NSG) kullanın. Bu denetimler, yalnızca temel iletişime izin verildiğinden emin olmak için en az ayrıcalık ilkesini uygulamak için kullanılabilir.
Ağ izleme hizmetlerini kullanın. Ağ performansı ve sistem durumu hakkında görünürlük elde etmek için Azure İzleyici Ağ İçgörüleri ve Azure Ağ İzleyicisi gibi hizmetleri kullanın. Ayrıca, Azure ağınızda gelişmiş tehdit algılama ve yanıt için Microsoft Sentinel'i kullanın.
Giden Azure iş yükü trafiğini incelemek ve güvenliğini sağlamak için Azure Güvenlik Duvarı dağıtın. Azure Güvenlik Duvarı, giden trafik İnternet'e ulaşmadan önce güvenlik ilkelerini zorunlu kılar. Giden trafiği denetlemek ve izlemek için kullanın ve özel IP'leri güvenlik duvarının genel IP'sine çevirerek SNAT'nin iç IP adreslerini gizlemesini sağlayın. Daha iyi izleme ve güvenlik için güvenli ve tanımlanabilir giden trafiği sağlar.
İnternet'e yönelik iş yükleri için Azure Web Uygulaması Güvenlik Duvarı (WAF) kullanın. Azure WAF, yapay zeka iş yüklerinizi SQL eklemeleri ve siteler arası betik saldırıları gibi yaygın web güvenlik açıklarından korumaya yardımcı olur. Application Gateway üzerinde Azure WAF'yi kötü amaçlı web trafiğine karşı gelişmiş güvenlik gerektiren iş yükleri için yapılandırın.
Yapay zeka temeli oluşturma
AI temeli, Azure'da yapay zeka iş yüklerini destekleyen temel altyapıyı ve kaynak hiyerarşisini sağlar. İdare ve işletim gereksinimleriyle uyumlu ölçeklenebilir, güvenli ortamlar ayarlamayı içerir. Güçlü bir yapay zeka temeli, yapay zeka iş yüklerinin verimli bir şekilde dağıtılıp yönetilmesini sağlar. Ayrıca gelecekteki büyüme için güvenlik ve esneklik sağlar.
Azure giriş bölgesini kullanma
Azure giriş bölgesi, Azure ortamınızı hazırlayan önerilen başlangıç noktasıdır. Platform ve uygulama kaynakları için önceden tanımlanmış bir kurulum sağlar. Platform kullanıma sunulduktan sonra yapay zeka iş yüklerini ayrılmış uygulama giriş bölgelerine dağıtabilirsiniz. Aşağıdaki Şekil 2'de yapay zeka iş yüklerinin Bir Azure giriş bölgesi içinde nasıl tümleştirilmemiş olduğu gösterilmektedir.
Şekil 2. Azure giriş bölgesinde yapay zeka iş yükü.
Yapay zeka ortamı oluşturma
Azure giriş bölgesi kullanmıyorsanız yapay zeka ortamınızı oluşturmak için bu makaledeki önerileri izleyin. Aşağıdaki diyagramda bir temel kaynak hiyerarşisi gösterilmektedir. Yapay zeka idaresi oluşturma konusunda açıklandığı gibi iç yapay zeka iş yüklerini ve İnternet'e yönelik yapay zeka iş yüklerini segmentlere ayırır. İç iş yükleri, müşterilerden çevrimiçi erişimi reddetmek için ilke kullanır. Bu ayırma, iç verilerin dış kullanıcılara açık olmasını engeller. Yapay zeka geliştirme, yapay zeka kaynaklarını ve verilerini yönetmek için sıçrama kutusu kullanır.
Şekil 3. Yapay zeka iş yükleri için temel kaynak hiyerarşisi.
Sonraki adımlar
Sonraki adım yapay zeka iş yüklerini derlemek ve yapay zeka ortamınıza dağıtmaktır. Gereksinimlerinizi karşılayan mimari kılavuzunu bulmak için aşağıdaki bağlantıları kullanın. Hizmet olarak platform (PaaS) mimarileriyle başlayın. PaaS, Microsoft'un yapay zekayı benimsemeye yönelik önerilen yaklaşımıdır.