Content Moderator
Content Moderator é um produto dos Serviços Cognitivos da Microsoft que fornece moderação assistida por computador de texto e imagens para conteúdo potencialmente ofensivo ou indesejado, aumentado com ferramentas internas de revisão humana
Esse conector está disponível nos seguintes produtos e regiões:
| Service | Class | Regions |
|---|---|---|
| Copilot Studio | Standard | Todas as regiões do Power Automate , exceto as seguintes: - China Cloud operado pela 21Vianet |
| Aplicativos Lógicos | Standard | Todas as regiões dos Aplicativos Lógicos , exceto as seguintes: - Regiões do Azure China |
| Power Apps | Standard | Todas as regiões do Power Apps , exceto as seguintes: - China Cloud operado pela 21Vianet |
| Power Automate | Standard | Todas as regiões do Power Automate , exceto as seguintes: - China Cloud operado pela 21Vianet |
| Contato | |
|---|---|
| Nome | Microsoft |
| URL |
Suporte do Microsoft LogicApps Suporte do Microsoft Power Automate Suporte do Microsoft Power Apps |
| Metadados do conector | |
|---|---|
| Publicador | Microsoft |
| Site | https://azure.microsoft.com/services/cognitive-services/content-moderator/ |
Use a API para examinar seu conteúdo e usar os insights resultantes para agir ou disponibilizá-lo na ferramenta de revisão para os moderadores humanos tomarem decisões finais.
Ao usar a API, as imagens precisam ter um mínimo de 128 pixels e um tamanho máximo de arquivo de 4 MB. O texto pode ter no máximo 1.024 caracteres. Esta API está atualmente disponível no Oeste dos EUA, Leste dos EUA 2, Centro-Oeste dos EUA, Europa Ocidental e Sudeste Asiático.
Criando uma conexão
O conector dá suporte aos seguintes tipos de autenticação:
| Default | Parâmetros para criar conexão. | Todas as regiões | Compartilhável |
Padrão
Aplicável: todas as regiões
Parâmetros para criar conexão.
Essa é uma conexão compartilhável. Se o aplicativo de energia for compartilhado com outro usuário, a conexão também será compartilhada. Para obter mais informações, consulte a visão geral dos Conectores para aplicativos de tela – Power Apps | Microsoft Docs
| Nome | Tipo | Description | Obrigatório |
|---|---|---|---|
| Chave de API | secureString | A chave de API para esta api | Verdade |
| URL do site | cadeia | URL do site raiz (exemplo: https://westus.api.cognitive.microsoft.com ). Se a URL do site não especificada for padronizada como 'https://westus.api.cognitive.microsoft.com'. |
Limitações
| Nome | Chamadas | Período de renovação |
|---|---|---|
| Chamadas à API por conexão | 1200 | 60 segundos |
Ações
| Corresponder uma imagem com uma de suas listas de imagens personalizadas |
Combine uma imagem com uma de suas Listas de Imagens personalizadas. Você pode criar e gerenciar suas listas de imagens personalizadas usando essa API. Retorna ID e marcas da imagem correspondente. |
| Criar revisões para revisores em sua equipe de moderação |
As revisões criadas apareceriam para revisores em sua equipe. À medida que os Revisores concluirem a revisão, os resultados da Revisão serão POSTED (ou seja, HTTP POST) no CallBackEndpoint especificado. |
| Detectar o idioma de um determinado conteúdo de entrada de texto |
Esta operação detectará o idioma de determinado conteúdo de entrada. Retorna o código ISO 639-3 para o idioma predominante que compreende o texto enviado. Há suporte para mais de 110 idiomas. |
| Detectar palavrões e correspondências com listas de blocos personalizadas e compartilhadas |
Detecta palavrões em mais de 100 idiomas e corresponde a listas de blocos personalizadas e compartilhadas. |
| Executar o fluxo de trabalho desejado em sua equipe para avaliar o conteúdo de imagem ou texto |
Uma ID de trabalho será retornada para o conteúdo de Imagem ou Texto postado neste ponto de extremidade. Depois que o conteúdo for avaliado em relação ao fluxo de trabalho fornecido, uma revisão será criada ou ignorada com base na expressão de fluxo de trabalho. |
| Localizar rostos em um conteúdo de imagem |
Localizar faces em um conteúdo de imagem. |
| Retornar qualquer texto encontrado em uma imagem para o idioma especificado |
Retorna qualquer texto encontrado na imagem para o idioma especificado. Se nenhum idioma for especificado na entrada, a detecção será padrão para inglês. |
| Verificar se uma imagem contém conteúdo picante ou adulto |
Retorna probabilidades de uma imagem que contém conteúdo adulto ou picante. |
Corresponder uma imagem com uma de suas listas de imagens personalizadas
Combine uma imagem com uma de suas Listas de Imagens personalizadas. Você pode criar e gerenciar suas listas de imagens personalizadas usando essa API.
Retorna ID e marcas da imagem correspondente.
Observação: o índice de atualização deve ser executado na Lista de Imagens correspondente antes que as adições e remoções sejam refletidas na resposta.
Parâmetros
| Nome | Chave | Obrigatório | Tipo | Description |
|---|---|---|---|---|
|
ID da lista
|
listId | string |
Opcionalmente, especifique uma listId com a qual corresponder. Se não for especificado, a imagem corresponderá a todas as suas Listas de Imagens. |
|
|
Origem da imagem
|
format | True | string |
Origem da imagem – incluída ou por URL de referência. |
|
Imagem
|
Image | True | dynamic |
Seu conteúdo de imagem. |
Retornos
| Nome | Caminho | Tipo | Description |
|---|---|---|---|
|
ID de acompanhamento
|
TrackingId | string |
ID de transação exclusiva do Content Moderator. |
|
Cache Id
|
CacheId | string |
ID do cache. |
|
É Correspondência
|
IsMatch | boolean |
Tem uma imagem correspondente à ID da lista de imagens de entrada ou às suas IDs de lista de imagens personalizadas. |
|
Detalhes da Correspondência - Pontuação
|
MatchDetails.Score | number |
Pontuação de confiança da correspondência de imagem. |
|
Detalhes da correspondência – ID da correspondência
|
MatchDetails.MatchId | number |
ID da lista de imagens personalizadas correspondente. |
|
Detalhes da correspondência – Origem
|
MatchDetails.Source | string |
Origem da imagem correspondente. |
|
Detalhes da Correspondência – Marcas
|
MatchDetails.Tags | array of number |
Marcas associadas à imagem correspondente. |
|
Detalhes da correspondência – Rótulo
|
MatchDetails.Label | string |
Rótulo de imagem correspondente. |
Criar revisões para revisores em sua equipe de moderação
As revisões criadas apareceriam para revisores em sua equipe. À medida que os Revisores concluirem a revisão, os resultados da Revisão serão POSTED (ou seja, HTTP POST) no CallBackEndpoint especificado.
Parâmetros
| Nome | Chave | Obrigatório | Tipo | Description |
|---|---|---|---|---|
|
Nome da Equipe
|
teamName | True | string |
O nome da sua equipe. |
|
SubTeam
|
subTeam | string |
SubTeam de sua equipe ao qual você deseja atribuir a revisão. |
|
|
Tipo de conteúdo
|
Type | True | string |
Tipo do conteúdo. |
|
Examinar conteúdo
|
Content | True | string |
Conteúdo de url(para tipo de imagem)/text(para tipo de texto) a ser revisado. |
|
ID de conteúdo
|
ContentId | True | string |
Identificador de conteúdo. |
|
Ponto de extremidade de retorno de chamada
|
CallbackEndpoint | string |
Ponto de extremidade de retorno de chamada opcional. |
|
|
Parâmetro de chave
|
Key | True | string |
Seu parâmetro de chave. |
|
Parâmetro Value
|
Value | True | string |
Seu parâmetro de valor. |
Retornos
| Nome | Caminho | Tipo | Description |
|---|---|---|---|
|
|
array of string |
Detectar o idioma de um determinado conteúdo de entrada de texto
Esta operação detectará o idioma de determinado conteúdo de entrada. Retorna o código ISO 639-3 para o idioma predominante que compreende o texto enviado. Há suporte para mais de 110 idiomas.
Parâmetros
| Nome | Chave | Obrigatório | Tipo | Description |
|---|---|---|---|---|
|
Tipo de conteúdo
|
Content-Type | True | string |
Tipo de conteúdo de texto. |
|
Conteúdo de Texto
|
Text Content | True | binary |
Conteúdo de Texto. |
Retornos
| Nome | Caminho | Tipo | Description |
|---|---|---|---|
|
Idioma Detectado
|
DetectedLanguage | string |
Idioma detectado do texto. |
Detectar palavrões e correspondências com listas de blocos personalizadas e compartilhadas
Detecta palavrões em mais de 100 idiomas e corresponde a listas de blocos personalizadas e compartilhadas.
Parâmetros
| Nome | Chave | Obrigatório | Tipo | Description |
|---|---|---|---|---|
|
Linguagem
|
language | string |
Idioma do texto (por exemplo, eng para inglês). |
|
|
Autocorreção
|
autocorrect | boolean |
Autocorreção de texto. |
|
|
Informações de identificação pessoal
|
PII | boolean |
Informações de identificação pessoal no texto. |
|
|
ID da lista
|
listId | string |
IDs de lista separadas por vírgulas. |
|
|
Classificar entrada
|
classify | boolean |
Classificar entrada. |
|
|
Tipo de conteúdo
|
Content-Type | True | string |
Tipo de conteúdo do texto de entrada. |
|
Conteúdo de Texto
|
Text Content | True | binary |
Seu conteúdo de texto. |
Retornos
| Nome | Caminho | Tipo | Description |
|---|---|---|---|
|
Texto Original
|
OriginalText | string |
O texto original. |
|
Texto normalizado
|
NormalizedText | string |
O texto normalizado. |
|
Texto AutoCorredo
|
AutoCorrectedText | string |
O texto autocorredo |
|
Deturpação
|
Misrepresentation | array of string |
Os detalhes do texto de falsificação. |
|
Email detectado
|
PII.Email | array of object |
Detalhes de email detectados. |
|
Email detectado
|
PII.Email.Detected | string |
Endereço de Email detectado do conteúdo de texto de entrada. |
|
Subtipo de email
|
PII.Email.SubType | string |
Subtipo do endereço de email detectado. |
|
Endereço eletrônico
|
PII.Email.Text | string |
Endereço de email no conteúdo de texto de entrada. |
|
Email - Índice
|
PII.Email.Index | integer |
Index(Location) do endereço de email no conteúdo de texto de entrada. |
|
SSN detectado
|
PII.SSN | array of object |
Detalhes do SSN detectados. |
|
CPF
|
PII.SSN.Text | string |
SSN detectado. |
|
Índice SSN
|
PII.SSN.Index | integer |
Index(Location) do SSN no conteúdo de texto de entrada. |
|
Endereço IP detectado
|
PII.IPA | array of object |
Detalhes do endereço IP detectado. |
|
Subtipo de endereço IP
|
PII.IPA.SubType | string |
Subtipo do endereço IP detectado. |
|
Endereço IP
|
PII.IPA.Text | string |
Endereço IP detectado. |
|
Índice de endereço IP
|
PII.IPA.Index | integer |
Index(Location) do Endereço IP no conteúdo de texto de entrada. |
|
Número de telefone detectado
|
PII.Phone | array of object |
Detalhes do número de telefone detectado. |
|
Telefone CountryCode
|
PII.Phone.CountryCode | string |
Código do país do número de telefone detectado. |
|
Número de Telefone
|
PII.Phone.Text | string |
Número de telefone detectado. |
|
Índice de Telefone
|
PII.Phone.Index | integer |
Índice(Localização) do número de telefone no conteúdo do texto de entrada. |
|
Endereço detectado
|
PII.Address | array of object |
Detalhes do endereço detectado. |
|
Endereço
|
PII.Address.Text | string |
Endereço detectado do conteúdo de texto de entrada. |
|
Endereço – Índice
|
PII.Address.Index | integer |
Index(Location) do Endereço no conteúdo de texto de entrada. |
|
Pontuação de Categoria1
|
Classification.Category1.score | double |
Os detalhes da pontuação de categoria1 do texto. Clique aqui para obter mais detalhes sobre a classificação de categoria. |
|
Pontuação de Categoria2
|
Classification.Category2.score | double |
Os detalhes da pontuação de categoria2 do texto. Clique aqui para obter mais detalhes sobre a classificação de categoria. |
|
Pontuação de Categoria3
|
Classification.Category3.score | double |
Os detalhes da pontuação de categoria3 do texto. Clique aqui para obter mais detalhes sobre a classificação de categoria. |
|
Revisão recomendada
|
Classification.ReviewRecommended | boolean |
O status do sinalizador recomendado de revisão. |
|
Linguagem de texto
|
Language | string |
Idioma do conteúdo de texto de entrada. |
|
Termos de palavrões detectados
|
Terms | array of object |
Detalhes de termos de palavrões detectados. |
|
Índice de termos
|
Terms.Index | integer |
Index(Location) do termo de palavrões detectado no conteúdo de texto de entrada. |
|
Índice Original do Termo
|
Terms.OriginalIndex | integer |
Índice original(Local) do termo de palavrões detectado no conteúdo do texto de entrada. |
|
ID da Lista de Termos
|
Terms.ListId | integer |
ID da lista de termos correspondentes. |
|
Termo detectado
|
Terms.Term | string |
Termo de palavrões detectado. |
|
ID de acompanhamento
|
TrackingId | string |
ID de transação exclusiva do Content Moderator. |
Executar o fluxo de trabalho desejado em sua equipe para avaliar o conteúdo de imagem ou texto
Uma ID de trabalho será retornada para o conteúdo de Imagem ou Texto postado neste ponto de extremidade. Depois que o conteúdo for avaliado em relação ao fluxo de trabalho fornecido, uma revisão será criada ou ignorada com base na expressão de fluxo de trabalho.
Parâmetros
| Nome | Chave | Obrigatório | Tipo | Description |
|---|---|---|---|---|
|
Nome da Equipe
|
teamName | True | string |
Nome da sua equipe. |
|
Tipo de conteúdo
|
ContentType | True | string |
Tipo do conteúdo. |
|
ID de conteúdo
|
ContentId | True | string |
Identificador de conteúdo. |
|
Selecionar Fluxo de Trabalho
|
WorkflowName | True | string |
Selecione o fluxo de trabalho que você deseja invocar. |
|
Ponto de extremidade de retorno de chamada
|
CallBackEndpoint | string |
Ponto de extremidade de retorno de chamada. |
|
|
Valor do conteúdo
|
ContentValue | True | string |
Conteúdo a ser avaliado para um trabalho. |
Retornos
| Nome | Caminho | Tipo | Description |
|---|---|---|---|
|
ID do trabalho
|
JobId | string |
ID do trabalho para o conteúdo postado. |
Localizar rostos em um conteúdo de imagem
Localizar faces em um conteúdo de imagem.
Parâmetros
| Nome | Chave | Obrigatório | Tipo | Description |
|---|---|---|---|---|
|
Origem da imagem
|
format | True | string |
Origem da imagem – incluída ou por URL de referência. |
|
Imagem
|
Image | True | dynamic |
Seu conteúdo de imagem. |
Retornos
| Nome | Caminho | Tipo | Description |
|---|---|---|---|
|
ID de acompanhamento
|
TrackingId | string |
ID de transação exclusiva do Content Moderator. |
|
Cache Id
|
CacheId | string |
ID do cache. |
|
Contagem de Rostos
|
Count | number |
Número de rostos detectados em uma imagem. |
|
Posição facial detectada
|
Faces | array of object |
Posição do rosto detectada. |
|
Localização inferior
|
Faces.Bottom | number |
Local inferior do rosto detectado. |
|
Local à esquerda
|
Faces.Left | number |
Local esquerdo do rosto detectado. |
|
Local certo
|
Faces.Right | number |
Local correto do rosto detectado. |
|
Localização Superior
|
Faces.Top | number |
Localização superior do rosto detectado. |
Retornar qualquer texto encontrado em uma imagem para o idioma especificado
Retorna qualquer texto encontrado na imagem para o idioma especificado. Se nenhum idioma for especificado na entrada, a detecção será padrão para inglês.
Parâmetros
| Nome | Chave | Obrigatório | Tipo | Description |
|---|---|---|---|---|
|
Linguagem
|
language | True | string |
Idioma do texto (por exemplo, eng para inglês). |
|
Origem da imagem
|
format | True | string |
Origem da imagem – incluída ou por URL de referência. |
|
Imagem
|
Image | True | dynamic |
Seu conteúdo de imagem. |
Retornos
| Nome | Caminho | Tipo | Description |
|---|---|---|---|
|
ID de acompanhamento
|
TrackingId | string |
ID de transação exclusiva do Content Moderator. |
|
Cache Id
|
CacheId | string |
ID do cache. |
|
Linguagem de texto
|
Language | string |
Idioma do texto encontrado na imagem. |
|
Texto detectado
|
Text | string |
Texto encontrado na imagem. |
|
Candidatos Detectados
|
Candidates | array of object |
Candidatos de texto detectados encontrados na imagem. |
|
Candidatos de conteúdo de texto detectado
|
Candidates.Text | string |
Candidatos de conteúdo de texto detectados da imagem. |
|
Pontuação de confiança
|
Candidates.Confidence | number |
Pontuação de confiança do candidato de conteúdo de texto detectado. |
Verificar se uma imagem contém conteúdo picante ou adulto
Retorna probabilidades de uma imagem que contém conteúdo adulto ou picante.
Parâmetros
| Nome | Chave | Obrigatório | Tipo | Description |
|---|---|---|---|---|
|
Origem da imagem
|
format | True | string |
Origem da imagem – incluída ou por URL de referência. |
|
Imagem
|
Image | True | dynamic |
O conteúdo da imagem. |
Retornos
| Nome | Caminho | Tipo | Description |
|---|---|---|---|
|
Pontuação de classificação para adultos
|
AdultClassificationScore | number |
Pontuação de confiança da classificação adulta. |
|
É Classificado para Adultos de Imagem
|
IsImageAdultClassified | boolean |
É a imagem classificada como um conteúdo adulto. |
|
Pontuação de classificação picante
|
RacyClassificationScore | number |
Pontuação de confiança da classificação picante. |
|
É Classificado por Racy de Imagem
|
IsImageRacyClassified | boolean |
É a imagem classificada como um conteúdo picante. |
|
ID de acompanhamento
|
TrackingId | string |
ID de transação exclusiva do Content Moderator. |