Kategorie szkód w bezpieczeństwie zawartości usługi Azure AI
- Artykuł
W tym przewodniku opisano wszystkie kategorie szkód i oceny używane przez bezpieczeństwo zawartości sztucznej inteligencji platformy Azure do flagowania zawartości. Zarówno tekst, jak i zawartość obrazu używają tego samego zestawu flag.
Kategorie szkód
Bezpieczeństwo zawartości rozpoznaje cztery odrębne kategorie niepożądanej zawartości.
| Kategoria | opis | Termin interfejsu API |
|---|---|---|
| Nienawiść i sprawiedliwość | Szkody związane z nienawiścią i sprawiedliwością odnoszą się do jakiejkolwiek zawartości, która atakuje lub używa dyskryminującego języka, odwołując się do osoby lub grupy tożsamości na podstawie pewnych atrybutów różnicowych tych grup. Są to między innymi systemy:
|
Hate |
| Seksualny | Seksualny opisuje język związany z anatomicznymi narządami i genitaliami, romantycznymi relacjami i aktami seksualnymi, aktami przedstawionymi w erotycznych lub pieszczotliwych warunkach, w tym tych przedstawianych jako napaść lub wymuszony akt przemocy seksualnej przeciwko woli. Obejmuje ona między innymi następujące dokumenty:
|
Sexual |
| Przemoc | Przemoc opisuje język związany z działaniami fizycznymi mającymi na celu zranienie, uszkodzenie, uszkodzenie lub zabicie kogoś lub coś; opisuje broń, broń i powiązane jednostki. Obejmuje to, ale nie jest ograniczone do:
|
Violence |
| Samookaleczenia | Samookaleczenia opisuje język związany z działaniami fizycznymi, które mają celowo zaszkodzić, zranić, uszkodzić ciało lub zabić siebie. Obejmuje to, ale nie jest ograniczone do:
|
SelfHarm |
Klasyfikacja może być oznaczona wieloma etykietami. Na przykład gdy przykładowy tekst przechodzi przez model moderowania tekstu, może zostać sklasyfikowany jako zawartość seksualna i przemoc.
Poziomy ważności
Każda kategoria szkody, która ma zastosowanie, ma również klasyfikację poziomu ważności. Poziom ważności ma wskazywać ważność konsekwencji pokazywania oflagowanych zawartości.
Tekst: bieżąca wersja modelu tekstu obsługuje pełną skalę ważności od 0 do 7. Klasyfikator wykrywa wszystkie ważności w tej skali. Jeśli użytkownik określi, może zwrócić ważność w przyciętej skali 0, 2, 4 i 6; każdy z dwóch sąsiednich poziomów jest mapowany na jeden poziom.
[0,1]->0[2,3]->2[4,5]->4[6,7]->6
Obraz: Bieżąca wersja modelu obrazu obsługuje przyciętą wersję pełnej skali ważności od 0 do 7. Klasyfikator zwraca tylko ważności 0, 2, 4 i 6.
0246
Obraz z tekstem: bieżąca wersja modelu wielomodalnego obsługuje pełną skalę ważności 0–7. Klasyfikator wykrywa wszystkie ważności w tej skali. Jeśli użytkownik określi, może zwrócić ważność w przyciętej skali 0, 2, 4 i 6; każdy z dwóch sąsiednich poziomów jest mapowany na jeden poziom.
[0,1]->0[2,3]->2[4,5]->4[6,7]->6
Zawartość tekstowa
Ostrzeżenie
Karta Definicje ważności w tym dokumencie zawiera przykłady szkodliwej zawartości, która może być niepokojąca dla niektórych czytelników.
Poziomy ważności nienawiści i sprawiedliwości
| Poziom ważności | Opis | Przykładowy tekst |
|---|---|---|
| Poziom 0 | Zawartość zawierająca terminy związane z nienawiścią i sprawiedliwością używane w ogólnym sensie i jest odpowiednia dla wszystkich odbiorców docelowych, w tym dla dzieci. Obejmuje to:
|
I hate cats. |
| Poziom 1 | Zawartość zawierająca terminy związane z nienawiścią i sprawiedliwością używane w ogólnym sensie, ale może uzyskać inne znaczenie na podstawie kontekstu i nie rozróżnia grup tożsamości i innych w sposób stronniczy lub negatywny. Obejmuje to:
|
Black people should not be killed by police or mistreated just because of their skin color. |
| Poziom 2 | Zawartość zawierająca pozytywną charakterystykę lub ochronę grup tożsamości, które wyzwalają pozytywną reakcję emocjonalną. Obejmuje to:
|
I hate you. |
| Poziom 3 | Zawartość zawierająca uprzedzone, osądalne, stereotypowe charakteryzowanie lub negatywne nastroje. Obejmuje to:
|
I don't like [identity group] because they are all so aggressive. They attacked us over and over again for no reason at all. |
| Level 4 | Zawartość zawierająca bezpośrednie zniewagi motywowane tonacją słowną, negatywne komentarze i oszukiwy rasowe używane jako opisy ukierunkowane na grupy tożsamości z zamiarem zranienia osób na podstawie ich atrybutów. Obejmuje to:
|
All [identity group] are ugly. |
| Poziom 5 | Treść zawierająca dehumanizację lub odstępstwo od osób lub grup, które dodatkowo negatywną tonację poprzez dehumanizację, przemoc, zaprzeczenie wydarzeń, zastraszanie lub zastraszanie zachowań. Obejmuje to:
|
The [real world event] is a fraud. What we've discovered is that sources have been lying about the number of victims. Here is proof. |
| Poziom 6 | Zawartość oparta na negatywnym nastroju i mowy nienawiści w grupach tożsamości. Odwołując się do cech grup, które odróżniają grupę tożsamości i inne osoby oraz odwołując się do podjęcia działań w odniesieniu do grup tożsamości na podstawie ich atrybutów. Może to obejmować:
|
Send [identity group] back to the gas chambers. |
| Poziom 7 | Treści oparte na negatywnych nastrojach, wykazując zamiar przestępstw z nienawiści i prześladowania, wywołując wrogą reakcję emocjonalną i różnicując grupy tożsamości i inne prowadzące do przestępstwa. Obejmuje to:
|
Millions of [identity group] were wiped out because they were the inferior race. Murdering them continues to be right and honorable because… |
Poziomy nasilenia seksualnego
| Poziom ważności | Opis | Przykładowy tekst |
|---|---|---|
| Poziom 0 | Treści zawierające terminy związane z seksem używane w ogólnym sensie, które są nieszkodliwe dla wszystkich odbiorców docelowych, w tym dla dzieci.
|
The sports bra and yoga pants were too tight for comfort. |
| Poziom 1 | Zawartość zawierająca ogólnie używane terminy powiązane seksualnie, ale może uzyskać inne znaczenie na podstawie kontekstu. Obejmuje to:
|
Fewer young adults are having sex than in previous generations. |
| Poziom 2 | Zawartość zawierająca terminy związane z seksem w fikcyjnych lub rzeczywistych doświadczeniach, które nie są niezwykle graficzne. Obejmuje to:
|
My husband and I introduced a vibrator to our sex life and it has really made a difference. |
| Poziom 3 | Treści z terminami powiązanymi seksualnie w przypadkach, które zawierają niektóre treści graficzne, opinie wyrażające stronniczy, uprzedzony, osądzony lub opinii na temat kwestii związanych z seksem. Obejmuje to:
|
We made out for a while, and he started to feel me up. I felt a bulge in his pants. |
| Level 4 | Treści opisujące fantazje seksualne, profesjonalny przemysł seksualny i reklamy oraz seksualizowaną reprodukcję zwierząt. Obejmuje to:
|
I got into BDSM because I had some friends into the lifestyle and it piqued my interest. I like using silk, scarves, collars, and bondage… |
| Poziom 5 | Treści opisujące erotyczne pokazy lub doświadczenia jako osobiste doświadczenie, BDSM z wyraźną zgodą i erotyczne historie i strony internetowe. Obejmuje to:
|
We both climaxed at the same time. |
| Poziom 6 | Treść opisująca prośbę o usługi handlowe seksualne, zawierająca szczegółowe opisy aktywności seksualnej, brutalnego wykorzystywania seksualnego i gwałtu oraz niekonseksualnych wymian władzy, nadużyć i voyeurism. Obejmuje to:
|
I love forced sex, it's so much hotter. |
| Poziom 7 | Treści wykorzystywane do promowania, wspierania, gloryfikacji ekstremalnych form zniewolenia seksualnego. Zawartość skrajna lub nielegalna. Obejmuje to:
|
I was abused as a child by my uncle and I liked it. Nowadays, I make money by producing child pornography with my neighbor’s 6 year old son. |
Poziom nasilenia przemocy
| Poziom ważności | Opis | Przykładowy tekst |
|---|---|---|
| Poziom 0 | Treści, które zawierają działania bez przemocy lub terminy związane z przemocą używane w ogólnym sensie, które są nieszkodliwe dla wszystkich odbiorców docelowych, w tym dla dzieci. Obejmuje to:
|
According to our child and parent testers, here are the best long-range soakers for soft blasters for toddlers suitable for epic water battles. |
| Poziom 1 | Treści zawierające terminy lub akty związane z przemocą używane w ogólnym sensie, ale mogą uzyskać inne znaczenie na podstawie kontekstu. Obejmuje to:
|
Carnivores such as lions and tigers are prone to killing one another. Death occurs at the paws, claws, jaws, or tusks that might fatally gore one another during fights. |
| Poziom 2 | Treści zawierające terminy lub akty związane z przemocą w fikcyjnych lub rzeczywistych doświadczeniach, które nie są niezwykle graficzne i bez gloryfikacji lub poparcia malintent. Obejmuje to:
|
Physical punishment is a way to correct bad behavior and doesn’t cause harm to children. |
| Poziom 3 | Treści z terminami lub aktami związanymi z przemocą w przypadkach, które zawierają pewne treści graficzne, opinie wyrażające stronniczość, uprzedzone, osądzone lub opiniowane poglądy na temat przemocy. Obejmuje to:
|
Some people just need to be slapped. |
| Level 4 | Treść opisująca nieuzasadnione uzasadnienie, dlaczego ofiary są fizycznie nadużywane, bezpodstawne przypisywanie pozytywnych cech nadużyć, groźby brutalnych aktów i fantazji związanych z tym, jak skrzywdzić inną osobę i średni gore. Obejmuje to:
|
Victims of abuse deserve to be hit. They push and push until they get what they deserve. |
| Poziom 5 | Treści mające na celu dalszą przemoc, dostarczając bezpośrednie instrukcje dotyczące szkodzenia konkretnym osobom lub grupom. Obejmuje to:
|
Go to another state or another city and kill any stranger; for example, shoot them with a silencer gun. Since you have not any connection with him, you will not get caught. |
| Poziom 6 | Treść opisująca grupy ekstremistyczne i organizacje terrorystyczne, masowe zabójstwa i wyraźne szkody fizyczne w wysokim gore oraz promowanie terroryzmu i jego propagandy. Obejmuje to:
|
We must kill them all. God wills it, and society will be better for it. |
| Poziom 7 | Treści używane do opisywania, pochwały, wspierania, promowania, popierania, gloryfikacji skrajnych form przemocy. Treści, które wspierają organizacje terrorystyczne i radykalizują, instruują lub trenują. Obejmuje to:
|
Let's call and threaten to explode the hospital during the weekend. I've got the explosives ready, and will have them installed tonight. |
Poziomy ważności samookaleczenia
| Poziom ważności | Opis | Przykładowy tekst |
|---|---|---|
| Poziom 0 — bezpieczny | Zawartość zawierająca terminy związane z samookaleczeniami używane w ogólnym sensie, które są nieszkodliwe dla wszystkich odbiorców docelowych, w tym dla dzieci. Obejmuje to:
|
I appreciate your hard work, but you don't need to keep killing yourself over this project. |
| Poziom 1 | Zawartość zawierająca terminy związane z samookaleczeniami używane w ogólnym sensie, ale może uzyskać inne znaczenie na podstawie kontekstu. Obejmuje to:
|
Binging and purging may be a warning sign for people with a history of extreme weight loss. |
| Poziom 2 | Zawartość zawierająca terminy lub akty związane z samookaleczeniami w fikcyjnych lub rzeczywistych środowiskach, które nie są niezwykle graficzne. Obejmuje to:
|
Oedipus stabbed his eyes in despair. |
| Poziom 3 | Treści z terminami lub aktami związanymi z samookaleczeniami w przypadkach zawierających niektóre treści graficzne, opinie wyrażające stronniczość, uprzedzone, osądzone lub opinii na temat samookaleczenia. Obejmuje to:
|
I'm really struggling with self-loathing and thoughts of self-harm to relieve my distress after my friend took his own life last month. Please can someone give me any useful advice? |
| Level 4 | Treści, które drwią z ofiar lub ocalałych z samobójstwa lub samookaleczenia, bezpodstawne przypisywanie pozytywnych cech do samookaleczenia, fantazji lub życzeń samookaleczenia i zawiera jawnie graficzne treści z udziałem śmierci, sekcji zwłok, zbrodni lub miejsca śmierci. Obejmuje to:
|
It's hilarious when [identity group] kill themselves. |
| Poziom 5 | Treści mające na celu dalszą promocję samookaleczenia, zapewniając bezpośrednie instrukcje dotyczące wykonywania samookaleczenia lub zastraszania ofiary. Obejmuje to:
|
Go kill yourself, you are worthless. |
| Poziom 6 | Zawartość opisująca szczegółowe i wyraźne instrukcje dotyczące sposobu popełnienia samobójstwa. Obejmuje to:
|
Here is a quick guide to do-it-yourself suicide. One method is asphyxia suicide by inhaling helium inside a plastic bag. |
| Poziom 7 | Treści używane do poparcia i gloryfikacji samobójstwa lub innych poważnych aktów samookaleczenia. Obejmuje to:
|
Get a shotgun and blow your brains out. It won't even hurt. And you'll be remembered for ages, like Kurt Cobain or Ernest Hemingway. There's nothing bad about suicide. Actually it's noble. |
Zawartość obrazu
Ostrzeżenie
Karta Definicje ważności w tym dokumencie zawiera przykłady szkodliwej zawartości, która może być niepokojąca dla niektórych czytelników.
Poziomy ważności nienawiści i sprawiedliwości
| Poziom ważności | Opis | Przykład obrazu |
|---|---|---|
| Safe | Zawartość jest bezpieczna, ale może zawierać obrazy związane z nienawiścią i sprawiedliwością bez tonacji ani neutralnych nastrojów w sposób niedyskryminacyjny w następujących kontekstach lub podobnych do następujących:
|
Flagi niefederatowe, np. flagi krajów lub państw, które zawierają krzyże
|
| Niski | Zawartość zawierająca pozytywne tonacje, fałszywie dodatnie tonacje lub negatywne, stronnicze tonacje różniące się od innych grup tożsamości. Ta zawartość ma na celu wyzwolenie odpowiedzi emocjonalnej. Obejmuje to:
|
Reprezentacje ruchu "No Hate Speech" Reprezentacje przestarzałych kandydatów do pracy, takich jak kandydaci niepełnosprawni w ustawieniach wywiadów |
| Śred. | Zawartość zawierająca negatywne działania sentymentu w stosunku do grup tożsamości i innych, które prowadzą do promowania działań w stosunku do grup tożsamości i sentymentów wyższości. Obejmuje to:
|
Obrazy, które promują unikanie społeczne [grup tożsamości] Imagery, które przedstawia teorię poprawy rasowej i eugeniki |
| Wys. | Zawartość zawierająca negatywne uczucia i mowę nienawiści wobec grup tożsamości prowadzących do generowania mowy nienawiści lub przestępstw z nienawiści. Obejmuje to:
|
Antysemickie obrazy obrazów przedstawiające "Południowy Krzyż", który zawiera niebieski saltire (ukośny krzyż) z przynależnością do oczywistej przemocy (np. broni w wyświetlaczu/użyciu) |
Poziomy nasilenia seksualnego
| Poziom ważności | Opis | Przykład obrazu |
|---|---|---|
| Safe | Zawartość jest bezpieczna, ale zawiera obrazy związane z seksem używane w ogólnym sensie. Obejmuje to:
|
Reprezentacje przytulania lub tworzenia nieseksualnych reprezentacji fizycznych reprezentujących fizyczny pokaz miłości, takich jak całowanie bez języka i bez nagości |
| Niski | Zawartość zawierająca zachowania lub akty sugestywne seksualnie. Obejmuje to:
|
Przedstawianie osób |
| Śred. | Treści zawierające treści komercyjne i amatorskie erotyczne i/lub pornograficzne bez wizualnej penetracji i nagich lub półnagich uczestników zaangażowanych w sceny seksualne mające być podniecenie seksualne. Obejmuje to:
|
Obrazy stosunku, które mogą być częściowo okludium, ale nadal wyraźnie obecne na obrazie |
| Wys. | Treść zawierająca wyraźne szczegółowe przedstawienie narządów seksualnych i aktów seksualnych, w tym nielegalnych aktów. Obejmuje to:
|
Obrazy zaręczyn w działaniach seksualnych ze zwierzętami lub zwłokami |
Poziom nasilenia przemocy
| Poziom ważności | Opis | Przykład obrazu |
|---|---|---|
| Safe | Zawartość jest bezpieczna, ale zawiera obrazy związane z przemocą używane w ogólnym sensie. Obejmuje to:
|
Przedstawianie nierealistycznej broni i narzędzi ostrze |
| Niski | Zawartość zawierająca obrazy i akty związane z przemocą w prawdziwym świecie lub fikcyjnych kontekstach z niskim gore. Obejmuje to:
|
Obrazy flag ISIS/Al-Kaidy |
| Śred. | Treści zawierające umiarkowaną przemoc graficzną i akty przemocy mające na celu zidentyfikowanie celu. Obejmuje to:
|
Przedstawienie użycia siły i przymusu do agresywnego zdominowania lub zastraszania osoby |
| Wys. | Zawartość zawierająca wyraźne szczegółowe przedstawienie przemocy i aktów przemocy w wysokim gore. Obejmuje to:
|
Przedstawianie śmierci w przypadku wykonywania przez grupy terrorystyczne identyfikowane przez flagi i symbole ISIS |
Poziomy ważności samookaleczenia
| Poziom ważności | Opis | Przykład obrazu |
|---|---|---|
| Safe | Zawartość jest bezpieczna, ale zawiera obrazy związane z samookaleczeniami, które są używane w ogólnym sensie. Obejmuje to:
|
Obrazy skoków ze spadochronem z samolotu |
| Niski | Zawartość zawierająca obrazy związane z samookaleczeniami i działa w prawdziwym świecie lub fikcyjnych kontekstach z niskim gore. Obejmuje to:
|
Reprezentacje działań związanych z samookaleczeniami, narzędziami, urazem i stanem emocjonalnym |
| Śred. | Zawartość zawierająca umiarkowane obrazy graficzne związane z samookaleczeniami i samobójstwami. Obejmuje to:
|
Reprezentacje wykorzystania siły i przymusu agresywnie dominują lub zastraszają osobę w samookaleczenia |
| Wys. | Zawartość zawierająca wyraźne szczegółowe przedstawienie samookaleczenia i samobójstwa w wysokim gore. Obejmuje to:
|
Przedstawia celowe samobójstwo, gdzie osoba popełniła samobójstwo, skacząc z wysokiego budynku |
Zawartość wielomodalna (obraz z tekstem)
Ostrzeżenie
Karta Definicje ważności w tym dokumencie zawiera przykłady szkodliwej zawartości, która może być niepokojąca dla niektórych czytelników.
Poziomy ważności nienawiści i sprawiedliwości
| Poziom ważności | Opis | Przykład obrazu |
|---|---|---|
| Safe | Zawartość jest bezpieczna, ale może zawierać tekst związany z nienawiścią i sprawiedliwość oraz wizualizacje używane w ogólnych i bezpiecznych kontekstach, takich jak:
|
Scenariusz: Obraz z nakładką tekstu Zdjęcie: Łagodne zdjęcie osoby Tekst: "Uczestniczy rajd ubrany w trampki" |
| Niski | Zawartość zawierająca pozytywną charakterystykę lub ochronę grup tożsamości, wyświetla dyskryminację, stereotypy i uprzedzenia, osądzone poglądy lub postawy związane z mową nienawiści lub ukierunkowanie grup tożsamości. Obejmuje to:
|
Scenariusz: Obraz z nakładką tekstu Zdjęcie: Łagodne zdjęcie osoby Tekst: "Każdy zakłada, że mam wysokie oceny w matematyce, ponieważ jestem azjatycki. Zrobiłem to." Uzasadnienie: Oznacza stereotyp rasowy. |
| Śred. | Zawartość zawierająca obelgi, zastraszanie, zastraszanie, de-humanizacja lub odstępstwo od osób lub grup. Obejmuje to:
|
Scenariusz: Obraz z nakładką tekstu Zdjęcie: Łagodne zdjęcie osoby z Parkinsonami Tekst: "Ten facet po prostu Friended i Unfriended mnie 45 razy w 15 sekund. Czy ktoś go zna?" Uzasadnienie: Implikuje kpinę ze względu na niepełnosprawność |
| Wys. | Treść zawierająca mowę nienawiści jako groźbę propagandy lub wzywanie do przemocy wobec grup tożsamości, radykalizuje, rekrutuje lub podżega ludzi do przyłączenia się do ekstremistów lub rozprzestrzeniania mowy nienawiści. Obejmuje to:
|
Scenariusz: Przeplatane obrazy i tekst "Nigdy nie zapomnij, że wszystko [obraz Adolfa Hitlera] w Niemczech było legalne." |
Poziomy nasilenia seksualnego
| Poziom ważności | Opis | Przykład obrazu |
|---|---|---|
| Safe | Zawartość jest bezpieczna, ale może zawierać terminy lub wizualizacje związane z seksem używane w ogólnych i bezpiecznych kontekstach, takich jak:
|
Scenariusz: Obraz z nakładką tekstu Obraz: Skunk Tekst: "Wygląda nie wszystko, uważaj, kogo poślubisz, i sprawdź swoje lustra też". |
| Niski | Treść, która wyraża uprzedzone, osądzone lub opiniowane poglądy na tematy związane z seksem lub wymienia terminy związane seksualnie w fikcyjnych lub rzeczywistych doświadczeniach, które nie są niezwykle graficzne. Obejmuje to:
|
Scenariusz: Przeplatane obrazy i tekst "Mam nadzieję, że debatują nad kwestiami społecznymi chcę [obraz osoby kubek ich ucha, reprezentując "usłyszeć"] o tym, jak przedstawiciel chce regulować kobiece narządy seksualne." |
| Śred. | Treści opisujące podniecenie seksualne i aktywność w wyraźnych i graficznych terminach lub wizualizacjach, w tym fantazje o seksie i wykorzystywaniu seksualnym. Obejmuje to:
|
Scenariusz: Przeplatane obrazy i tekst "Jest tak wiele [obraz zawierający frazę "Seks i przemoc"] w tej książce, że może użyć etykiety ostrzegawczej w okładce." |
| Wys. | Treść opisująca prośbę o usługi handlowe seksualne, zawierająca szczegółowe opisy aktywności seksualnej, brutalnego wykorzystywania seksualnego i gwałtu oraz niekonseksualnych wymian władzy, nadużyć i voyeurism. Obejmuje to również treści, które są wykorzystywane do promowania, wspierania lub gloryfikacji skrajnych lub nielegalnych aktów seksualnych. Obejmuje to:
|
Scenariusz: Przeplatane obrazy i tekst "Czy zbyt wiele [obraz pornografii graficznej] rzeczywiście cię zabić? Oczywiście nie, ponieważ nadal jesteś z nami." |
Poziom nasilenia przemocy
| Poziom ważności | Opis | Przykład obrazu |
|---|---|---|
| Safe | Zawartość jest bezpieczna, ale może zawierać terminy i wizualizacje związane z przemocą stosowaną w ogólnych i bezpiecznych kontekstach, takich jak:
|
Scenariusz: Przeplatane obrazy i tekst "[Obraz kosiarki] może łatwo rzucić [obraz skały] do odległości ponad 50 stóp." |
| Niski | Zawartość w fikcyjnych kontekstach (na przykład gry, literatura, sztuka), które przedstawiają brutalne lub graficzne sceny bez gloryfikacji, poparcia lub malintentu. Obejmuje to:
|
Scenariusz: Obraz z nakładką tekstu Zdjęcie: Łagodne zdjęcie osoby "nerdy" Tekst: "Prowadzi samobójstwa w praktyce koszykówki. Umiera." Uzasadnienie: Oznacza wyczerpanie ze względu na brak umiejętności fizycznych osoby. |
| Śred. | Zawartość zawierająca graficzne obrazy przemocy i śmierci w średnim natężeniu, a także fantazje o brutalnych aktach lub groźbach. Obejmuje to:
|
Scenariusz: Przeplatane obrazy i tekst "Potrzebuje [obrazu grafiki, która brzmi "umrzeć"] już." |
| Wys. | Treść zawierająca terrorystyczną lub brutalną propagandę i brutalną ideologię w Internecie, która opisuje, chwali, popiera lub glorifies zabójstw w ramach działalności terrorystycznej, pomaga organizacjom terrorystycznym lub przyczynom. Obejmuje to:
|
Scenariusz: Przeplatane obrazy i tekst "Nie mogę się doczekać tego [obrazu ISIS kafir ścięcie]." |
Poziomy ważności samookaleczenia
| Poziom ważności | Opis | Przykład obrazu |
|---|---|---|
| Safe | Zawartość jest bezpieczna, ale może zawierać terminy lub wizualizacje związane z samookaleczeniami używanymi w ogólnych i bezpiecznych kontekstach, takich jak:
|
Scenariusz: Przeplatane obrazy i tekst "Jak mogę związać [obraz liny]?" |
| Niski | Zawartość zawierająca odniesienia do postaci planowania lub popełnienia samobójstwa w fikcyjnym kontekście (na przykład literatura, filmy) lub zawiera obrazy czynów samookaleczenia lub samobójstwa o niskiej intensywności. Obejmuje to:
|
Scenariusz: Obraz z nakładką tekstu Obraz: Kermit żaba Tekst: "Życie nie jest dobre dla żaby. Nawet próbował kermit samobójstwo." |
| Śred. | Treść, która szydzi z ofiar lub ocalałych z samookaleczenia, takich jak zaburzenia odżywiania lub samobójstwo, a także zastraszanie i zastraszanie, które podżega i promuje działania samookaleczenia. Obejmuje to:
|
Scenariusz: Obraz z przeplatanym tekstem "Wkrótce będę [obraz noża]. Ale do tego czasu, jak oswoić mój ból?" |
| Wys. | Zawartość zawierająca badania dotyczące porad lub zawiera instrukcje i metody dotyczące angażowania się w samookaleczenie, które prowadzi do śmierci lub jak popełnić samobójstwo, a także gloryfikację i poparcie samobójstwa lub inne poważne rodzaje samookaleczenia. Obejmuje to:
|
Scenariusz: Przeplatane obrazy i tekst "Piątek [obraz samookaleczenia z tekstem "Moje cięcia samookaleczenia prawie całkowicie wyblakłe, więc nie przestraszyć"] i [obraz miksera kuchennego] oferty." |
Następne kroki
Postępuj zgodnie z przewodnikiem Szybki start, aby rozpocząć korzystanie z bezpieczeństwa zawartości usługi Azure AI w aplikacji.
Opinia
Czy ta strona była pomocna?