Nyheter i Azure AI Content Safety

  • Artikel

Lär dig vad som är nytt i tjänsten. Dessa objekt kan vara viktig information, videor, blogginlägg och andra typer av information. Bokmärke den här sidan för att hålla dig uppdaterad med nya funktioner, förbättringar, korrigeringar och dokumentationsuppdateringar.

Oktober 2024

Kommande utfasningar

Följande versioner är schemalagda för utfasning för att anpassa till principer för innehållssäkerhetsversioner och livscykelhantering:

  • Från och med den 28 januari 2024: Alla versioner utom 2024-09-01, 2024-09-15-previewoch 2024-09-30-preview kommer att bli inaktuella och stöds inte längre. Vi rekommenderar att användarna övergår till de senaste tillgängliga versionerna för att fortsätta få fullständig support och uppdateringar. Om du har frågor om den här processen eller behöver hjälp med övergången kontaktar du vårt supportteam.

September 2024

Multimodal analys (förhandsversion)

Multimodal-API:et analyserar material som innehåller både bildinnehåll och textinnehåll för att göra program och tjänster säkrare från skadligt användargenererat eller AI-genererat innehåll. Att analysera en bild och dess tillhörande textinnehåll tillsammans kan bevara kontexten och ge en mer omfattande förståelse av innehållet. Följ snabbstarten för att komma igång.

Identifiering av skyddat material för kod (förhandsversion)

API:et för skyddad materialkod flaggar skyddat kodinnehåll (från kända GitHub-lagringsplatser, inklusive programvarubibliotek, källkod, algoritmer och annat upphovsrättsskyddat programmeringsinnehåll) som kan matas ut av stora språkmodeller. Följ snabbstarten för att komma igång.

Varning

Innehållssäkerhetstjänstens kodskanner/indexerare är endast aktuell till och med den 6 november 2021. Kod som lades till i GitHub efter det här datumet identifieras inte. Använd ditt eget omdöme när du använder skyddat material för kod för att identifiera de senaste kodkropparna.

Grundkorrigering (förhandsversion)

API:et för grundidentifiering innehåller en korrigeringsfunktion som automatiskt korrigerar eventuell upptäckt ogrundad text i texten baserat på de angivna grundkällorna. När korrigeringsfunktionen är aktiverad innehåller svaret ett corrected Text fält som visar den korrigerade texten i linje med grundkällorna. Följ snabbstarten för att komma igång.

Augusti 2024

Nya funktioner är GA

API:et promptsköldar och api för grundidentifiering är nu allmänt tillgängliga (GA). Följ en snabbstart för att prova dem.

Juli 2024

Offentlig förhandsversion av api för anpassade kategorier (standard)

Med API:et för anpassade kategorier (standard) kan du skapa och träna dina egna anpassade innehållskategorier och genomsöka text efter matchningar. Mer information finns i Anpassade kategorier .

Maj 2024

Offentlig förhandsversion av anpassade kategorier (snabb) API

Med API:et för anpassade kategorier (snabb) kan du snabbt definiera nya skadliga innehållsmönster och genomsöka text och bilder efter matchningar. Mer information finns i Anpassade kategorier .

Mars 2024

Offentlig förhandsversion av Prompt Shields

Tidigare känd som Jailbreak riskidentifiering, identifierar den här uppdaterade funktionen promptattacker, där användare avsiktligt utnyttjar systemsårbarheter för att framkalla obehörigt beteende från en stor språkmodell. Prompt Shields analyserar både direktanvändarattacker och indirekta attacker som är inbäddade i indatadokument eller bilder. Mer information finns i Fråga om sköldar .

Offentlig förhandsversion av markavkänningsidentifiering

API:et för grundidentifiering identifierar om textsvaren från stora språkmodeller (LLM) är baserade på källmaterialet som tillhandahålls av användarna. Ogrundad information beskriver instanser där LLM:erna producerar information som inte är faktisk eller felaktig beroende på vad som fanns i källmaterialet. Mer information finns i Grundidentifiering .

Januari 2024

Content Safety SDK GA

Azure AI Content Safety-tjänsten är nu allmänt tillgänglig via följande klientbiblioteks-SDK:er:

Viktigt!

De offentliga förhandsversionerna av Azure AI Content Safety SDK:er kommer att vara inaktuella senast den 31 mars 2024. Uppdatera dina program så att de använder GA-versionerna.

November 2023

Jailbreaka risk och skyddad materialidentifiering (förhandsversion)

Med de nya API:erna för säkerhetsriskidentifiering och skyddad materialidentifiering kan du minimera några av riskerna när du använder generativ AI.

  • Jailbreak riskidentifiering söker igenom text efter risken för en jailbreak-attack på en stor språkmodell. Snabbstart
  • Skyddad materialtextidentifiering söker igenom AI-genererad text efter känt textinnehåll (till exempel låttexter, artiklar, recept, valt webbinnehåll). Snabbstart

Risk för jailbreak och skyddad materialidentifiering är endast tillgängliga i utvalda regioner. Se Regiontillgänglighet.

Oktober 2023

Azure AI Content Safety är allmänt tillgängligt (GA)

Azure AI Content Safety-tjänsten är nu allmänt tillgänglig som en molntjänst.

  • Tjänsten är tillgänglig i många fler Azure-regioner. Se Översikt för en lista.
  • Returformaten för Analysera API:er har ändrats. Se snabbstarterna för de senaste exemplen.
  • Namn och returformat för flera andra API:er har ändrats. Se migreringsguiden för en fullständig lista över icke-bakåtkompatibla ändringar. Andra guider och snabbstarter återspeglar nu GA-versionen.

Azure AI Content Safety Java- och JavaScript-SDK:er

Tjänsten Azure AI Content Safety är nu tillgänglig via Java- och JavaScript-SDK:er. SDK:erna är tillgängliga på Maven respektive npm. Följ en snabbstart för att komma igång.

juli 2023

Azure AI Content Safety C# SDK

Azure AI Content Safety-tjänsten är nu tillgänglig via en C# SDK. SDK:n är tillgänglig på NuGet. Följ en snabbstart för att komma igång.

maj 2023

Offentlig förhandsversion av Azure AI Content Safety

Azure AI Content Safety identifierar material som kan vara stötande, riskabelt eller på annat sätt oönskat. Den här tjänsten erbjuder toppmoderna text- och bildmodeller som identifierar problematiskt innehåll. Azure AI Content Safety hjälper till att göra program och tjänster säkrare från skadligt användargenererat och AI-genererat innehåll. Följ en snabbstart för att komma igång.

Uppdateringar av Azure AI-tjänster

Azure-uppdateringsmeddelanden för Azure AI-tjänster