Hallo Burak,
Azure KI Services bietet mehrere Docker-Container, mit denen Du lokal die gleichen APIs verwenden kannst, die in Azure verfügbar sind. Container können direkt für Azure Kubernetes Service (AKS), Azure Container Instances oder einen Kubernetes-Cluster mit Bereitstellung in Azure Stack bereitgestellt werden, wie hier erläutert:
Der Ansatz, der mit jedem Container in Azure KI Services funktioniert, auch auf Deinem lokalen Host (Deinem Computer), findest Du unter diesem Link:
Bereitstellen und Ausführen eines Containers unter Azure Container Instances
Du interessierst Dich wahrscheinlich für Azure API Management, das Sicherheitskontrollen sowie die Prüfung und Überwachung der Azure OpenAI-Modelle ermöglicht, wie hier beschrieben:
Introduction to Monitoring Azure OpenAI Service
In diesem Artikel werden die Optionen zum Bereitstellen von API Management mit AKS beschrieben:
Verwenden von API Management mit in Azure Kubernetes Service bereitgestellten Microservices
Gruß,
Ivan Dragov