Rychlý start: Moderování textu a obrázků s bezpečností obsahu v Azure AI Studiu
Důležité
Položky označené (Preview) v tomto článku jsou aktuálně ve verzi Public Preview. Tato verze Preview je poskytována bez smlouvy o úrovni služeb a nedoporučujeme ji pro produkční úlohy. Některé funkce se nemusí podporovat nebo mohou mít omezené možnosti. Další informace najdete v dodatečných podmínkách použití pro verze Preview v Microsoft Azure.
V tomto rychlém startu použijete službu Azure AI Content Safety v Azure AI Studiu k moderování textu a obrázků. Bezpečnost obsahu detekuje škodlivý uživatelem generovaný a AI generovaný obsah v aplikacích a službách.
Upozornění
Část ukázkového obsahu poskytovaného nástrojem Azure AI Studio může být urážlivá. Ve výchozím nastavení jsou ukázkové obrázky rozmazané. Doporučuje se, aby uživatel rozhodoval.
Požadavky
- Předplatné Azure – Vytvoření předplatného zdarma
- Jakmile budete mít předplatné Azure, vytvořte na webu Azure Portal prostředek zabezpečení obsahu, abyste získali svůj klíč a koncový bod. Zadejte jedinečný název vašeho prostředku, vyberte předplatné a vyberte skupinu prostředků, podporovanou oblast a podporovanou cenovou úroveň. Pak vyberte Vytvořit.
- Centrum AI Studio v Azure AI Studiu.
Nastavení
- Přihlaste se k Azure AI Studiu.
- Vyberte centrum, ve které chcete pracovat.
- V levé navigační nabídce vyberte Služby AI. Vyberte panel Zabezpečení obsahu.
Moderování textu nebo obrázků
Vyberte jednu z následujících karet, abyste mohli začít s bezpečností obsahu v Azure AI Studiu.
Azure AI Studio nabízí možnost rychlého vyzkoušení moderování textu. Funkce moderování textového obsahu bere v úvahu různé faktory, jako je typ obsahu, zásady platformy a potenciální vliv na uživatele. Spouštění testů moderování u ukázkového obsahu Potom nakonfigurujte filtry pro další vyladění výsledků testu. Seznam blokovaných položek můžete použít také k přidání konkrétních termínů, se kterými chcete zjistit a reagovat.
- Na stránce Zabezpečení obsahu v Azure AI Studiu vyberte panel Moderování obsahu.
- V rozevírací nabídce vyberte prostředek AI Services nebo název prostředku zabezpečení obsahu.
- Můžete si buď vybrat předem napsanou ukázku textu, nebo si do vstupního pole napsat vlastní ukázkový text.
- Volitelně můžete nakonfigurovat filtry obsahu na kartě Konfigurovat filtry . Pomocí posuvníků určete, jakou úroveň závažnosti v každé kategorii má model odmítnout. Služba stále vrací všechny kategorie škod, které byly zjištěny, spolu s úrovní závažnosti pro každý (0-Safe, 2-Low, 4-Medium, 6-High), ale povolený/blokovaný výsledek závisí na tom, jak konfigurujete filtr.
- Volitelně můžete nastavit seznam blokovaných položek pomocí karty Použít seznam blokovaných položek. Můžete si vybrat seznam blokovaných položek, který jste už vytvořili, nebo vytvořit nový. Pomocí tlačítka Upravit můžete přidat a odebrat termíny. Ve stejném filtru můžete naskládat několik seznamů blokovaných položek.
- Až budou filtry připravené, vyberte Spustit test.
Zobrazení a export kódu
Pomocí tlačítka Zobrazit kód v horní části stránky můžete zobrazit a zkopírovat ukázkový kód, který zahrnuje konfiguraci filtrování závažnosti, seznamů blokovaných položek a moderování funkcí. Kód pak můžete nasadit ve vlastní aplikaci.
Vyčištění prostředků
Abyste se vyhnuli zbytečným nákladům na Azure, měli byste odstranit prostředky, které jste vytvořili v tomto rychlém startu, pokud už nejsou potřeba. Ke správě prostředků můžete použít Azure Portal.