Aprenda conceitos de moderação de imagem

  • Artigo

Use a moderação de imagem assistida por máquina do Content Moderator para moderar imagens para conteúdo adulto e picante. Analise imagens em busca de conteúdo de texto, extraia esse texto e detete rostos. Você pode fazer a correspondência entre imagens e listas personalizadas e tomar outras medidas.

Avaliação de conteúdo adulto e racista

A operação Avaliar retorna uma pontuação de confiança entre 0 e 1. Ele também retorna dados booleanos iguais a true ou false. Esses valores predizem se a imagem contém conteúdo adulto ou racista em potencial. Quando você chama a API com sua imagem (arquivo ou URL), a resposta retornada inclui as seguintes informações:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Nota

  • isImageAdultClassified representa a presença potencial de imagens que podem ser consideradas sexualmente explícitas ou para adultos em determinadas situações.
  • isImageRacyClassified representa a presença potencial de imagens que podem ser consideradas sexualmente sugestivas ou para adultos em determinadas situações.
  • As pontuações estão entre 0 e 1. Quanto maior a pontuação, maior o modelo está prevendo que a categoria pode ser aplicável. Esta pré-visualização baseia-se num modelo estatístico em vez de resultados codificados manualmente. Recomendamos testar com seu próprio conteúdo para determinar como cada categoria se alinha às suas necessidades.
  • Os valores booleanos são verdadeiros ou falsos, dependendo dos limiares internos de pontuação. Os clientes devem avaliar se devem usar esse valor ou decidir sobre limites personalizados com base em suas políticas de conteúdo.

Deteção de texto com reconhecimento ótico de caracteres (OCR)

A operação de Reconhecimento Ótico de Caracteres (OCR) prevê a presença de conteúdo de texto em uma imagem e o extrai para moderação de texto, entre outros usos. Você pode especificar o idioma. Se você não especificar um idioma, o padrão de deteção será inglês.

A resposta inclui as seguintes informações:

  • O texto original.
  • Os elementos de texto detetados com suas pontuações de confiança.

Exemplo de extrato:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Detetar faces

A deteção de rostos ajuda a detetar dados pessoais, tais como rostos nas imagens. Você deteta rostos potenciais e o número de rostos potenciais em cada imagem.

Uma resposta inclui estas informações:

  • Contagem de rostos
  • Lista de localizações de rostos detetados

Exemplo de extrato:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Criação e gestão de listas personalizadas

Em muitas comunidades online, depois que os usuários carregam imagens ou outro tipo de conteúdo, itens ofensivos podem ser compartilhados várias vezes nos dias, semanas e meses seguintes. Os custos de digitalizar e filtrar repetidamente a mesma imagem ou até mesmo versões ligeiramente modificadas da imagem de vários lugares podem ser caros e propensos a erros.

Em vez de moderar a mesma imagem várias vezes, você adiciona as imagens ofensivas à sua lista personalizada de conteúdo bloqueado. Dessa forma, seu sistema de moderação de conteúdo compara as imagens recebidas com suas listas personalizadas e interrompe qualquer processamento adicional.

Nota

Existe um limite máximo de 5 listas de imagens, sendo que cada lista não pode exceder 10 000 imagens.

O Content Moderator fornece uma API completa de Gerenciamento de Lista de Imagens com operações para gerenciar listas de imagens personalizadas. Confira o início rápido da Lista de Imagens .NET se você estiver familiarizado com o Visual Studio e o C#.

Correspondência com as suas listas personalizadas

A operação Corresponder permite a correspondência difusa das imagens recebidas com qualquer uma das suas listas personalizadas, criadas e gerenciadas usando as operações List.

Se uma correspondência for encontrada, a operação retornará o identificador e as tags de moderação da imagem correspondente. A resposta inclui esta informação:

  • Resultado do jogo (entre 0 e 1)
  • Imagem correspondente
  • Tags de imagem (atribuídas durante a moderação anterior)
  • Etiquetas de imagem

Exemplo de extrato:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Próximos passos

Teste o Guia de início rápido e use os exemplos de código da API REST.