Využívání koncových bodů bezserverového rozhraní API z jiného pracovního prostoru
V tomto článku se dozvíte, jak nakonfigurovat existující koncový bod bezserverového rozhraní API v jiném pracovním prostoru, než který byl nasazen.
Některé modely v katalogu modelů je možné nasadit jako bezserverová rozhraní API. Tento druh nasazení poskytuje způsob, jak využívat modely jako rozhraní API bez jejich hostování ve vašem předplatném a současně udržovat podnikové zabezpečení a dodržování předpisů, které organizace potřebují. Tato možnost nasazení nevyžaduje kvótu z vašeho předplatného.
Potřeba využívat koncový bod bezserverového rozhraní API v jiném pracovním prostoru než koncový bod, který byl použit k vytvoření nasazení, může nastat v situacích, jako jsou tyto:
- Chcete centralizovat nasazení v daném pracovním prostoru a využívat je z různých pracovních prostorů ve vaší organizaci.
- Model musíte nasadit do pracovního prostoru v konkrétní oblasti Azure, kde je k dispozici bezserverové nasazení pro daný model. Musíte ho ale využívat z jiné oblasti, kde není pro konkrétní modely dostupné bezserverové nasazení.
Požadavky
Předplatné Azure s platným způsobem platby. Bezplatná nebo zkušební předplatná Azure nebudou fungovat. Pokud nemáte předplatné Azure, vytvořte si placený účet Azure, abyste mohli začít.
Pracovní prostor Azure Machine Learning, ve kterém chcete využívat stávající nasazení.
Model nasazený do koncového bodu bezserverového rozhraní API Tento článek předpokládá, že jste dříve nasadili model Meta-Llama-3-8B-Instruct . Informace o nasazení tohoto modelu jako bezserverového rozhraní API najdete v tématu Nasazení modelů jako bezserverových rozhraní API.
Abyste mohli pracovat se službou Azure Machine Learning, musíte nainstalovat následující software:
K navigaci studio Azure Machine Learning můžete použít libovolný kompatibilní webový prohlížeč.
Vytvoření připojení koncového bodu rozhraní API bez serveru
Pokud chcete vytvořit připojení, postupujte takto:
Připojte se k pracovnímu prostoru, ve kterém je koncový bod nasazený:
Přejděte na studio Azure Machine Learning a přejděte do pracovního prostoru, kde je nasazený koncový bod, ke kterému se chcete připojit.
Získejte adresu URL a přihlašovací údaje koncového bodu pro koncový bod, ke kterému se chcete připojit. V tomto příkladu získáte podrobnosti o názvu koncového bodu meta-llama3-8b-qwerty.
Na levém bočním panelu vyberte koncové body .
Výběrem karty Bezserverové koncové body zobrazte koncové body bezserverového rozhraní API.
Vyberte koncový bod, ke kterému se chcete připojit.
Na kartě Podrobnosti koncového bodu zkopírujte hodnoty pro cílový identifikátor URI a klíč.
Teď se připojte k pracovnímu prostoru , ve kterém chcete vytvořit připojení a využívat koncový bod.
Vytvořte připojení v pracovním prostoru:
Přejděte do pracovního prostoru, do kterého je potřeba vytvořit připojení.
V levém navigačním panelu přejděte do části Spravovat a vyberte Připojení.
Vyberte Vytvořit.
Vyberte bezserverový model.
Jako cílový identifikátor URI vložte hodnotu, kterou jste zkopírovali dříve.
Jako klíč vložte hodnotu, kterou jste zkopírovali dříve.
Pojmenujte připojení, v tomto případě meta-llama3-8b-connection.
Vyberte Přidat připojení.
V tomto okamžiku je připojení k dispozici ke spotřebě.
Ověření, že připojení funguje:
V levém navigačním panelu studio Azure Machine Learning přejděte do toku Výzvy pro vytváření>obsahu.
Výběrem možnosti Vytvořit vytvořte nový tok.
V poli Tok chatu vyberte Vytvořit.
Zadejte název toku výzvy a vyberte Vytvořit.
Výběrem uzlu chatu v grafu přejděte do oddílu chatu.
V části Připojení otevřete rozevírací seznam a vyberte připojení, které jste právě vytvořili, v tomto případě meta-llama3-8b-connection.
Výběrem možnosti Spustit výpočetní relaci z horního navigačního panelu spusťte automatický modul runtime toku výzvy.
Vyberte možnost Chat. Teď můžete odesílat zprávy a získávat odpovědi.