Content Moderator
O Content Moderator é um produto dos Serviços Cognitivos da Microsoft que fornece moderação assistida por máquina de texto e imagens para conteúdo potencialmente ofensivo ou indesejado, aumentada com ferramentas de revisão humana incorporadas
Este conector está disponível nos seguintes produtos e regiões:
| Serviço | Class | Regiões |
|---|---|---|
| Estúdio Copiloto | Standard | Todas as regiões do Power Automatic , exceto as seguintes: - China Cloud operado pela 21Vianet |
| Aplicações Lógicas | Standard | Todas as regiões do Logic Apps , exceto as seguintes: - Regiões do Azure China |
| Aplicações Power | Standard | Todas as regiões do Power Apps , exceto as seguintes: - China Cloud operado pela 21Vianet |
| Automatize o poder | Standard | Todas as regiões do Power Automatic , exceto as seguintes: - China Cloud operado pela 21Vianet |
| Contato | |
|---|---|
| Nome | Microsoft |
| URL |
Suporte do Microsoft LogicApps Suporte do Microsoft Power Automate Suporte do Microsoft Power Apps |
| Metadados do conector | |
|---|---|
| Editora | Microsoft |
| Sítio Web | https://azure.microsoft.com/services/cognitive-services/content-moderator/ |
Use a API para verificar seu conteúdo e usar os insights resultantes para agir ou disponibilizá-lo na ferramenta de revisão para moderadores humanos tomarem decisões finais.
Ao usar a API, as imagens precisam ter um mínimo de 128 pixels e um tamanho máximo de arquivo de 4MB. O texto pode ter, no máximo, 1024 caracteres. Esta API está atualmente disponível no Oeste dos EUA, Leste dos EUA 2, Centro-Oeste dos EUA, Europa Ocidental e Sudeste Asiático.
A criar uma ligação
O conector suporta os seguintes tipos de autenticação:
| Predefinição | Parâmetros para criar conexão. | Todas as regiões | Compartilhável |
Padrão
Aplicável: Todas as regiões
Parâmetros para criar conexão.
Esta é uma conexão compartilhável. Se o aplicativo de energia for compartilhado com outro usuário, a conexão também será compartilhada. Para obter mais informações, consulte a Visão geral de conectores para aplicativos de tela - Power Apps | Documentos Microsoft
| Nome | Tipo | Description | Obrigatório |
|---|---|---|---|
| Chave de API | securestring | A chave de API para esta api | Verdade |
| Site URL | cadeia (de caracteres) | URL do site raiz (Exemplo: https://westus.api.cognitive.microsoft.com ). Se não for especificado, o URL do site será padronizado para 'https://westus.api.cognitive.microsoft.com'. |
Limites de Limitação
| Name | Chamadas | Período de Renovação |
|---|---|---|
| Chamadas de API por conexão | 1200 | 60 segundos |
Ações
| Crie avaliações para revisores na sua equipe de moderação |
As avaliações criadas apareceriam para os revisores da sua equipe. À medida que os revisores concluem a revisão, os resultados da revisão serão POSTADOS (ou seja, HTTP POST) no CallBackEndpoint especificado. |
| Detetar o idioma de um determinado conteúdo de entrada de texto |
Esta operação detetará o idioma de determinado conteúdo de entrada. Devolve o código ISO 639-3 para a língua predominante que compreende o texto enviado. Mais de 110 idiomas suportados. |
| Detete palavrões e combine com listas de bloqueio personalizadas e compartilhadas |
Deteta palavrões em mais de 100 idiomas e faz a correspondência com listas de bloqueio personalizadas e compartilhadas. |
| Encontrar rostos em um conteúdo de imagem |
Encontre rostos um conteúdo de imagem. |
| Execute o fluxo de trabalho desejado em sua equipe para avaliar o conteúdo de imagem ou texto |
Um ID de trabalho será retornado para o conteúdo de Imagem ou Texto publicado neste ponto de extremidade. Depois que o conteúdo for avaliado em relação ao Fluxo de trabalho fornecido, uma revisão será criada ou ignorada com base na expressão do fluxo de trabalho. |
| Fazer corresponder uma imagem a uma das suas listas de imagens personalizadas |
Combine de forma difusa uma imagem com uma das suas Listas de Imagens personalizadas. Você pode criar e gerenciar suas listas de imagens personalizadas usando essa API. Retorna ID e tags da imagem correspondente. |
| Retornar qualquer texto encontrado em uma imagem para o idioma especificado |
Retorna qualquer texto encontrado na imagem para o idioma especificado. Se nenhum idioma for especificado na entrada, o padrão de deteção será o inglês. |
| Verificar se uma imagem contém conteúdo racista ou adulto |
Devolve probabilidades de uma imagem que contenha conteúdo racista ou adulto. |
Crie avaliações para revisores na sua equipe de moderação
As avaliações criadas apareceriam para os revisores da sua equipe. À medida que os revisores concluem a revisão, os resultados da revisão serão POSTADOS (ou seja, HTTP POST) no CallBackEndpoint especificado.
Parâmetros
| Name | Chave | Necessário | Tipo | Description |
|---|---|---|---|---|
|
Nome da Equipa
|
teamName | True | string |
O nome da sua equipa. |
|
Subequipa
|
subTeam | string |
Subequipe da sua equipe, à qual você deseja atribuir a avaliação. |
|
|
Tipo de conteúdo
|
Type | True | string |
Tipo de conteúdo. |
|
Rever conteúdo
|
Content | True | string |
URL da imagem (para o tipo de imagem)/texto (para o tipo de texto) conteúdo a ser revisado. |
|
ID do conteúdo
|
ContentId | True | string |
Identificador de conteúdo. |
|
Ponto de extremidade de retorno de chamada
|
CallbackEndpoint | string |
Ponto de extremidade de retorno de chamada opcional. |
|
|
Parâmetro-chave
|
Key | True | string |
O parâmetro da sua chave. |
|
Parâmetro de valor
|
Value | True | string |
Seu parâmetro value. |
Devoluções
| Name | Caminho | Tipo | Description |
|---|---|---|---|
|
|
array of string |
Detetar o idioma de um determinado conteúdo de entrada de texto
Esta operação detetará o idioma de determinado conteúdo de entrada. Devolve o código ISO 639-3 para a língua predominante que compreende o texto enviado. Mais de 110 idiomas suportados.
Parâmetros
| Name | Chave | Necessário | Tipo | Description |
|---|---|---|---|---|
|
Tipo de conteúdo
|
Content-Type | True | string |
Tipo do conteúdo do texto. |
|
Conteúdo do texto
|
Text Content | True | binary |
Conteúdo do texto. |
Devoluções
| Name | Caminho | Tipo | Description |
|---|---|---|---|
|
Idioma detetado
|
DetectedLanguage | string |
Idioma detetado do texto. |
Detete palavrões e combine com listas de bloqueio personalizadas e compartilhadas
Deteta palavrões em mais de 100 idiomas e faz a correspondência com listas de bloqueio personalizadas e compartilhadas.
Parâmetros
| Name | Chave | Necessário | Tipo | Description |
|---|---|---|---|---|
|
Linguagem
|
language | string |
Língua do texto (por exemplo, eng para inglês). |
|
|
Correção automática
|
autocorrect | boolean |
Autocorreção de texto. |
|
|
Informações Pessoais Identificáveis
|
PII | boolean |
Informações Pessoais Identificáveis no texto. |
|
|
ID da lista
|
listId | string |
Ids da lista separada por vírgula. |
|
|
Classificar entrada
|
classify | boolean |
Classifique a entrada. |
|
|
Tipo de conteúdo
|
Content-Type | True | string |
Tipo de conteúdo do texto de entrada. |
|
Conteúdo do texto
|
Text Content | True | binary |
O seu conteúdo de texto. |
Devoluções
| Name | Caminho | Tipo | Description |
|---|---|---|---|
|
Texto Original
|
OriginalText | string |
O texto original. |
|
Texto normalizado
|
NormalizedText | string |
O texto normalizado. |
|
Texto corrigido automaticamente
|
AutoCorrectedText | string |
O texto corrigido automaticamente |
|
Deturpação
|
Misrepresentation | array of string |
Os detalhes do texto de deturpação. |
|
E-mail detetado
|
PII.Email | array of object |
Detalhes de e-mail detetados. |
|
E-mail detetado
|
PII.Email.Detected | string |
Endereço de e-mail detetado do conteúdo do texto de entrada. |
|
Subtipo de e-mail
|
PII.Email.SubType | string |
Subtipo do endereço de e-mail detetado. |
|
Endereço de E-mail
|
PII.Email.Text | string |
Endereço de e-mail no conteúdo do texto de entrada. |
|
Email- Índice
|
PII.Email.Index | integer |
Index(Location) do endereço de e-mail no conteúdo do texto de entrada. |
|
SSN detetado
|
PII.SSN | array of object |
Detalhes do SSN detetados. |
|
NSS
|
PII.SSN.Text | string |
SSN detetado. |
|
Índice SSN
|
PII.SSN.Index | integer |
Index(Location) do SSN no conteúdo do texto de entrada. |
|
Endereço IP detetado
|
PII.IPA | array of object |
Detalhes do endereço IP detetado. |
|
Subtipo de endereço IP
|
PII.IPA.SubType | string |
Subtipo do endereço IP detetado. |
|
Endereço IP
|
PII.IPA.Text | string |
Endereço IP detetado. |
|
Índice de endereços IP
|
PII.IPA.Index | integer |
Index(Location) do endereço IP no conteúdo do texto de entrada. |
|
Número de telefone detetado
|
PII.Phone | array of object |
Detalhes do número de telefone detetados. |
|
Telefone CountryCode
|
PII.Phone.CountryCode | string |
Código do país do número de telefone detetado. |
|
Número de Telefone
|
PII.Phone.Text | string |
Número de telefone detetado. |
|
Índice de Telefone
|
PII.Phone.Index | integer |
Index(Location) do número de telefone no conteúdo do texto de entrada. |
|
Endereço detetado
|
PII.Address | array of object |
Detalhes do endereço detetado. |
|
Address
|
PII.Address.Text | string |
Endereço detetado do conteúdo do texto de entrada. |
|
Endereço - Índice
|
PII.Address.Index | integer |
Index(Location) do endereço no conteúdo do texto de entrada. |
|
Categoria1 Pontuação
|
Classification.Category1.score | double |
Os detalhes da pontuação da categoria1 do texto. Clique aqui para mais detalhes sobre a classificação por categoria. |
|
Categoria2 Pontuação
|
Classification.Category2.score | double |
A pontuação da categoria2 detalha o texto. Clique aqui para mais detalhes sobre a classificação por categoria. |
|
Categoria3 Pontuação
|
Classification.Category3.score | double |
Os detalhes da pontuação da categoria3 do texto. Clique aqui para mais detalhes sobre a classificação por categoria. |
|
Avaliação recomendada
|
Classification.ReviewRecommended | boolean |
A revisão recomendou o status do sinalizador. |
|
Linguagem de texto
|
Language | string |
Idioma do conteúdo do texto de entrada. |
|
Termos de palavrões detetados
|
Terms | array of object |
Detetados detalhes do termo de palavrões. |
|
Índice de Prazos
|
Terms.Index | integer |
Index(Location) do termo de palavrões detetado no conteúdo do texto de entrada. |
|
Índice Original do Termo
|
Terms.OriginalIndex | integer |
Índice original (localização) do termo de palavrões detetado no conteúdo do texto de entrada. |
|
Id da lista de termos
|
Terms.ListId | integer |
Id da lista de Termos correspondentes. |
|
Termo detetado
|
Terms.Term | string |
Termo de palavrões detetado. |
|
ID de rastreamento
|
TrackingId | string |
ID de transação exclusivo do Content Moderator. |
Encontrar rostos em um conteúdo de imagem
Encontre rostos um conteúdo de imagem.
Parâmetros
| Name | Chave | Necessário | Tipo | Description |
|---|---|---|---|---|
|
Fonte da imagem
|
format | True | string |
Fonte da imagem - incluída ou por url de referência. |
|
Imagem
|
Image | True | dynamic |
O seu Conteúdo de Imagem. |
Devoluções
| Name | Caminho | Tipo | Description |
|---|---|---|---|
|
ID de rastreamento
|
TrackingId | string |
ID de transação exclusivo do Content Moderator. |
|
Cache Id
|
CacheId | string |
ID do cache. |
|
Contagem de rostos
|
Count | number |
Número de faces detetadas numa imagem. |
|
Posição do rosto detetada
|
Faces | array of object |
Posição do rosto detetada. |
|
Localização inferior
|
Faces.Bottom | number |
Localização inferior do rosto detetado. |
|
Localização à esquerda
|
Faces.Left | number |
Localização esquerda do rosto detetado. |
|
Localização Certa
|
Faces.Right | number |
Localização correta do rosto detetado. |
|
Localização superior
|
Faces.Top | number |
Localização superior do rosto detetado. |
Execute o fluxo de trabalho desejado em sua equipe para avaliar o conteúdo de imagem ou texto
Um ID de trabalho será retornado para o conteúdo de Imagem ou Texto publicado neste ponto de extremidade. Depois que o conteúdo for avaliado em relação ao Fluxo de trabalho fornecido, uma revisão será criada ou ignorada com base na expressão do fluxo de trabalho.
Parâmetros
| Name | Chave | Necessário | Tipo | Description |
|---|---|---|---|---|
|
Nome da Equipa
|
teamName | True | string |
O nome da sua equipa. |
|
Tipo de conteúdo
|
ContentType | True | string |
Tipo de conteúdo. |
|
ID do conteúdo
|
ContentId | True | string |
Identificador de conteúdo. |
|
Selecionar fluxo de trabalho
|
WorkflowName | True | string |
Selecione o fluxo de trabalho que você deseja invocar. |
|
Ponto de extremidade de retorno de chamada
|
CallBackEndpoint | string |
Ponto de extremidade CallBack. |
|
|
Valor do conteúdo
|
ContentValue | True | string |
Conteúdo a avaliar para um trabalho. |
Devoluções
| Name | Caminho | Tipo | Description |
|---|---|---|---|
|
ID do trabalho
|
JobId | string |
ID do trabalho para o conteúdo publicado. |
Fazer corresponder uma imagem a uma das suas listas de imagens personalizadas
Combine de forma difusa uma imagem com uma das suas Listas de Imagens personalizadas. Você pode criar e gerenciar suas listas de imagens personalizadas usando essa API.
Retorna ID e tags da imagem correspondente.
Nota: O Índice de Atualização deve ser executado na Lista de Imagens correspondente antes que as adições e remoções sejam refletidas na resposta.
Parâmetros
| Name | Chave | Necessário | Tipo | Description |
|---|---|---|---|---|
|
ID da lista
|
listId | string |
Opcionalmente, especifique um listId para corresponder. Se não for especificado, a imagem corresponderá a todas as suas Listas de Imagens. |
|
|
Fonte da imagem
|
format | True | string |
Fonte da imagem - incluída ou por url de referência. |
|
Imagem
|
Image | True | dynamic |
O seu Conteúdo de Imagem. |
Devoluções
| Name | Caminho | Tipo | Description |
|---|---|---|---|
|
ID de rastreamento
|
TrackingId | string |
ID de transação exclusivo do Content Moderator. |
|
Cache Id
|
CacheId | string |
ID do cache. |
|
É Match
|
IsMatch | boolean |
Tem a imagem correspondente ao ID da lista de imagens de entrada ou aos Ids da sua lista de imagens personalizadas. |
|
Detalhes da partida - Pontuação
|
MatchDetails.Score | number |
Pontuação de confiança da correspondência de imagem. |
|
Detalhes da partida - ID da correspondência
|
MatchDetails.MatchId | number |
Id da lista de imagens personalizadas correspondentes. |
|
Detalhes da partida - Fonte
|
MatchDetails.Source | string |
Origem da imagem correspondente. |
|
Detalhes da partida - Tags
|
MatchDetails.Tags | array of number |
Tags associadas à imagem correspondente. |
|
Detalhes da partida - Rótulo
|
MatchDetails.Label | string |
Rótulo de imagem correspondente. |
Retornar qualquer texto encontrado em uma imagem para o idioma especificado
Retorna qualquer texto encontrado na imagem para o idioma especificado. Se nenhum idioma for especificado na entrada, o padrão de deteção será o inglês.
Parâmetros
| Name | Chave | Necessário | Tipo | Description |
|---|---|---|---|---|
|
Linguagem
|
language | True | string |
Língua do texto (por exemplo, eng para inglês). |
|
Fonte da imagem
|
format | True | string |
Fonte da imagem - incluída ou por url de referência. |
|
Imagem
|
Image | True | dynamic |
O seu Conteúdo de Imagem. |
Devoluções
| Name | Caminho | Tipo | Description |
|---|---|---|---|
|
ID de rastreamento
|
TrackingId | string |
ID de transação exclusivo do Content Moderator. |
|
Cache Id
|
CacheId | string |
ID do cache. |
|
Linguagem de texto
|
Language | string |
Idioma do texto encontrado na imagem. |
|
Texto detetado
|
Text | string |
Texto encontrado na imagem. |
|
Candidatos detetados
|
Candidates | array of object |
Candidatos de texto detetados encontrados na imagem. |
|
Candidatos a conteúdo de texto detetados
|
Candidates.Text | string |
Detetados candidatos a conteúdo de texto da imagem. |
|
Pontuação de Confiança
|
Candidates.Confidence | number |
Índice de confiança do candidato ao conteúdo de texto detetado. |
Verificar se uma imagem contém conteúdo racista ou adulto
Devolve probabilidades de uma imagem que contenha conteúdo racista ou adulto.
Parâmetros
| Name | Chave | Necessário | Tipo | Description |
|---|---|---|---|---|
|
Fonte da imagem
|
format | True | string |
Fonte da imagem - incluída ou por url de referência. |
|
Imagem
|
Image | True | dynamic |
O conteúdo da sua imagem. |
Devoluções
| Name | Caminho | Tipo | Description |
|---|---|---|---|
|
Pontuação da Classificação de Adultos
|
AdultClassificationScore | number |
Escore de confiança da classificação de adultos. |
|
A imagem é classificada como adulto
|
IsImageAdultClassified | boolean |
A imagem é classificada como um conteúdo adulto. |
|
Pontuação da classificação de Racy
|
RacyClassificationScore | number |
Escore de confiança da classificação racy. |
|
A imagem é Racy classificada
|
IsImageRacyClassified | boolean |
A imagem é classificada como um conteúdo picante. |
|
ID de rastreamento
|
TrackingId | string |
ID de transação exclusivo do Content Moderator. |