Standardprinciper för innehållssäkerhet

Azure OpenAI Service innehåller standardsäkerhet som tillämpas på alla modeller, exklusive Azure OpenAI Whisper. De här konfigurationerna ger dig en ansvarsfull upplevelse som standard, inklusive modeller för innehållsfiltrering, blocklistor, prompttransformering, autentiseringsuppgifter för innehåll och andra.

Standardsäkerhet syftar till att minska risker som hat och rättvisa, sexuellt, våld, självskadebeteende, skyddat materialinnehåll och användarinmatningsattacker. Mer information om innehållsfiltrering finns i vår dokumentation som beskriver kategorier och allvarlighetsnivåer här.

All säkerhet kan konfigureras. Mer information om konfigurerbarhet finns i vår dokumentation om hur du konfigurerar innehållsfiltrering.

Textmodeller: GPT-4, GPT-3.5

Textmodeller i Azure OpenAI-tjänsten kan ta in och generera både text och kod. Dessa modeller använder Azures modeller för textinnehållsfiltrering för att identifiera och förhindra skadligt innehåll. Det här systemet fungerar både när du frågar och slutför.

Riskkategori Fråga/slutföra Tröskelvärde för allvarlighetsgrad
Hat och rättvisa Frågor och slutföranden Medium
Våld Frågor och slutföranden Medium
Sexuell Frågor och slutföranden Medium
Självskadebeteende Frågor och slutföranden Medium
Användarinmatningsattack (Jailbreak) Uppmanas Ej tillämpligt
Skyddat material – text Kompletteringar Ej tillämpligt
Skyddat material – kod Kompletteringar Ej tillämpligt

Visionsmodeller: GPT-4o, GPT-4 Turbo, DALL-E 3, DALL-E 2

GPT-4o och GPT-4 Turbo

Riskkategori Fråga/slutföra Tröskelvärde för allvarlighetsgrad
Hat och rättvisa Frågor och slutföranden Medium
Våld Frågor och slutföranden Medium
Sexuell Frågor och slutföranden Medium
Självskadebeteende Frågor och slutföranden Medium
Identifiering av individer och slutsatsdragning av känsliga attribut Uppmanas Ej tillämpligt
Användarinmatningsattack (Jailbreak) Uppmanas Ej tillämpligt

DALL-E 3 och DALL-E 2

Riskkategori Fråga/slutföra Tröskelvärde för allvarlighetsgrad
Hat och rättvisa Frågor och slutföranden Låg
Våld Frågor och slutföranden Låg
Sexuell Frågor och slutföranden Låg
Självskadebeteende Frågor och slutföranden Låg
Autentiseringsuppgifter för innehåll Kompletteringar Ej tillämpligt
Bedräglig generation av politiska kandidater Uppmanas Ej tillämpligt
Skildringar av offentliga figurer Uppmanas Ej tillämpligt
Användarinmatningsattack (Jailbreak) Uppmanas Ej tillämpligt
Skyddat material – Konst och Studio-tecken Uppmanas Ej tillämpligt
Olämpligt språk Uppmanas Ej tillämpligt

Utöver ovanstående säkerhetskonfigurationer levereras Azure OpenAI DALL-E också med snabbomvandling som standard. Denna omvandling sker på alla uppmaningar för att förbättra säkerheten för din ursprungliga uppmaning, särskilt i riskkategorierna för mångfald, bedräglig generation av politiska kandidater, skildringar av offentliga personer, skyddat material och andra.