Content Moderator
Content Moderator est un produit Microsoft Cognitive Services qui fournit une modération assistée par ordinateur de texte et d’images pour du contenu potentiellement offensant ou indésirable, augmenté avec des outils de révision humaine intégrés
Ce connecteur est disponible dans les produits et régions suivants :
| Service | classe | Régions |
|---|---|---|
| Copilot Studio | Norme | Toutes les régions Power Automate , à l’exception des éléments suivants : - China Cloud géré par 21Vianet |
| Applications logiques | Norme | Toutes les régions Logic Apps , à l’exception des suivantes : - Régions Azure Chine |
| Power Apps | Norme | Toutes les régions Power Apps , à l’exception des suivantes : - China Cloud géré par 21Vianet |
| Power Automate | Norme | Toutes les régions Power Automate , à l’exception des éléments suivants : - China Cloud géré par 21Vianet |
| Contact | |
|---|---|
| Nom | Microsoft |
| URL |
Microsoft LogicApps Support Prise en charge de Microsoft Power Automate Prise en charge de Microsoft Power Apps |
| Métadonnées du connecteur | |
|---|---|
| Éditeur | Microsoft |
| Site internet | https://azure.microsoft.com/services/cognitive-services/content-moderator/ |
Utilisez l’API pour analyser votre contenu et utiliser les insights résultants pour agir ou le rendre disponible dans l’outil de révision pour que les modérateurs humains prennent des décisions finales.
Lorsque vous utilisez l’API, les images doivent avoir au minimum 128 pixels et une taille de fichier maximale de 4 Mo. Le texte peut comporter au maximum 1024 caractères. Cette API est actuellement disponible dans usa Ouest, USA Est 2, USA Centre Ouest, Europe Ouest et Asie Sud-Est.
Création d’une connexion
Le connecteur prend en charge les types d’authentification suivants :
| Par défaut | Paramètres de création de connexion. | Toutes les régions | Partageable |
Faire défaut
Applicable : Toutes les régions
Paramètres de création de connexion.
Il s’agit d’une connexion partageable. Si l’application d’alimentation est partagée avec un autre utilisateur, la connexion est également partagée. Pour plus d’informations, consultez la vue d’ensemble des connecteurs pour les applications de canevas - Power Apps | Microsoft Docs
| Nom | Type | Descriptif | Obligatoire |
|---|---|---|---|
| Clé d’API | securestring | Clé API pour cette API | Vrai |
| URL du site | ficelle | URL du site racine (exemple : https://westus.api.cognitive.microsoft.com ). Si l’URL du site n’est pas spécifiée, la valeur «https://westus.api.cognitive.microsoft.com » est définie par défaut. |
Limitations
| Nom | Appels | Période de renouvellement |
|---|---|---|
| Appels d’API par connexion | 1200 | 60 secondes |
Actions
| Créer des révisions pour les réviseurs dans votre équipe de modération |
Les révisions créées s’affichent pour les réviseurs de votre équipe. À mesure que les réviseurs terminent l’examen, les résultats de la révision sont PUBLIÉS (c’est-à-dire HTTP POST) sur le CallBackEndpoint spécifié. |
| Détecter la langue d’un contenu d’entrée de texte donné |
Cette opération détecte la langue du contenu d’entrée donné. Retourne le code ISO 639-3 pour la langue prédominante comprenant le texte envoyé. Plus de 110 langues sont prises en charge. |
| Détecter la profanité et la correspondance par rapport aux listes de blocs personnalisées et partagées |
Détecte la profanité dans plus de 100 langues et correspond à des listes de blocs personnalisées et partagées. |
| Exécuter le flux de travail souhaité dans votre équipe pour évaluer le contenu d’image ou de texte |
Un ID de travail est retourné pour le contenu image ou texte publié sur ce point de terminaison. Une fois le contenu évalué par rapport au flux de travail fourni, une révision est créée ou ignorée en fonction de l’expression de flux de travail. |
| Faire correspondre une image à l’une de vos listes d’images personnalisées |
Faire correspondre une image à l’une de vos listes d’images personnalisées. Vous pouvez créer et gérer vos listes d’images personnalisées à l’aide de cette API. Retourne l’ID et les balises de l’image correspondante. |
| Rechercher des visages dans un contenu d’image |
Recherchez des visages dans un contenu d’image. |
| Renvoyer tout texte trouvé dans une image pour la langue spécifiée |
Retourne tout texte trouvé dans l’image pour la langue spécifiée. Si aucune langue n’est spécifiée dans l’entrée, la détection est par défaut en anglais. |
| Vérifier si une image contient du contenu racé ou adulte |
Retourne les probabilités d’une image contenant du contenu racé ou adulte. |
Créer des révisions pour les réviseurs dans votre équipe de modération
Les révisions créées s’affichent pour les réviseurs de votre équipe. À mesure que les réviseurs terminent l’examen, les résultats de la révision sont PUBLIÉS (c’est-à-dire HTTP POST) sur le CallBackEndpoint spécifié.
Paramètres
| Nom | Clé | Obligatoire | Type | Description |
|---|---|---|---|---|
|
Nom de l’équipe
|
teamName | True | string |
Nom de votre équipe. |
|
SubTeam
|
subTeam | string |
Sous-équipe de votre équipe, vous souhaitez affecter la révision. |
|
|
Type de contenu
|
Type | True | string |
Type du contenu. |
|
Vérifier le contenu
|
Content | True | string |
URL de l’image(pour le type d’image)/text(pour le type de texte) contenu à examiner. |
|
ID de contenu
|
ContentId | True | string |
Identificateur de contenu. |
|
Point de terminaison de rappel
|
CallbackEndpoint | string |
Point de terminaison de rappel facultatif. |
|
|
Paramètre de clé
|
Key | True | string |
Paramètre de clé. |
|
Paramètre valeur
|
Value | True | string |
Paramètre de valeur. |
Retours
| Nom | Chemin d’accès | Type | Description |
|---|---|---|---|
|
|
array of string |
Détecter la langue d’un contenu d’entrée de texte donné
Cette opération détecte la langue du contenu d’entrée donné. Retourne le code ISO 639-3 pour la langue prédominante comprenant le texte envoyé. Plus de 110 langues sont prises en charge.
Paramètres
| Nom | Clé | Obligatoire | Type | Description |
|---|---|---|---|---|
|
Type de contenu
|
Content-Type | True | string |
Type du contenu du texte. |
|
Contenu texte
|
Text Content | True | binary |
Contenu texte. |
Retours
| Nom | Chemin d’accès | Type | Description |
|---|---|---|---|
|
Langue détectée
|
DetectedLanguage | string |
Détection de la langue du texte. |
Détecter la profanité et la correspondance par rapport aux listes de blocs personnalisées et partagées
Détecte la profanité dans plus de 100 langues et correspond à des listes de blocs personnalisées et partagées.
Paramètres
| Nom | Clé | Obligatoire | Type | Description |
|---|---|---|---|---|
|
Language
|
language | string |
Langue du texte (par exemple, eng pour l’anglais). |
|
|
Correction automatique
|
autocorrect | boolean |
Correction automatique du texte. |
|
|
Informations d’identification personnelles
|
PII | boolean |
Informations d’identification personnelles dans le texte. |
|
|
ID de liste
|
listId | string |
ID de liste séparés par des virgules. |
|
|
Classifier l’entrée
|
classify | boolean |
Classifiez l’entrée. |
|
|
Type de contenu
|
Content-Type | True | string |
Type de contenu du texte d’entrée. |
|
Contenu texte
|
Text Content | True | binary |
Votre contenu texte. |
Retours
| Nom | Chemin d’accès | Type | Description |
|---|---|---|---|
|
Texte d’origine
|
OriginalText | string |
Texte d’origine. |
|
Texte normalisé
|
NormalizedText | string |
Texte normalisé. |
|
Correction automatique du texte
|
AutoCorrectedText | string |
Texte automatiquement correct |
|
Déformation
|
Misrepresentation | array of string |
Détails du texte de fausse déclaration. |
|
E-mail détecté
|
PII.Email | array of object |
Détails de l’e-mail détecté. |
|
E-mail détecté
|
PII.Email.Detected | string |
Adresse e-mail détectée à partir du contenu texte d’entrée. |
|
Sous-type d’e-mail
|
PII.Email.SubType | string |
Sous-type de l’adresse e-mail détectée. |
|
Adresse électronique
|
PII.Email.Text | string |
Adresse e-mail dans le contenu texte d’entrée. |
|
Email- Index
|
PII.Email.Index | integer |
Index(Emplacement) de l’adresse e-mail dans le contenu texte d’entrée. |
|
SSN détecté
|
PII.SSN | array of object |
Détails SSN détectés. |
|
Numéro de sécurité sociale
|
PII.SSN.Text | string |
Détection de SSN. |
|
SSN Index
|
PII.SSN.Index | integer |
Index(Emplacement) du SSN dans le contenu du texte d’entrée. |
|
Adresse IP détectée
|
PII.IPA | array of object |
Détails de l’adresse IP détectée. |
|
Sous-type d’adresse IP
|
PII.IPA.SubType | string |
Sous-type de l’adresse IP détectée. |
|
Adresse IP
|
PII.IPA.Text | string |
Adresse IP détectée. |
|
Index d’adresse IP
|
PII.IPA.Index | integer |
Index(Emplacement) de l’adresse IP dans le contenu du texte d’entrée. |
|
Numéro de téléphone détecté
|
PII.Phone | array of object |
Détails du numéro de téléphone détectés. |
|
Phone CountryCode
|
PII.Phone.CountryCode | string |
Code du pays du numéro de téléphone détecté. |
|
Numéro de téléphone
|
PII.Phone.Text | string |
Numéro de téléphone détecté. |
|
Index téléphonique
|
PII.Phone.Index | integer |
Index(Emplacement) du numéro de téléphone dans le contenu texte d’entrée. |
|
Adresse détectée
|
PII.Address | array of object |
Détails de l’adresse détectée. |
|
Adresse
|
PII.Address.Text | string |
Adresse détectée à partir du contenu du texte d’entrée. |
|
Adresse - Index
|
PII.Address.Index | integer |
Index(Emplacement) de l’adresse dans le contenu du texte d’entrée. |
|
Category1 Score
|
Classification.Category1.score | double |
Détails du score category1 du texte. Cliquez ici pour plus d’informations sur la classification des catégories. |
|
Category2 Score
|
Classification.Category2.score | double |
Détails du score category2 du texte. Cliquez ici pour plus d’informations sur la classification des catégories. |
|
Category3 Score
|
Classification.Category3.score | double |
Détails du score category3 du texte. Cliquez ici pour plus d’informations sur la classification des catégories. |
|
Passer en revue les recommandations
|
Classification.ReviewRecommended | boolean |
État de l’indicateur recommandé de révision. |
|
Langue du texte
|
Language | string |
Langue du contenu du texte d’entrée. |
|
Termes de profanité détectés
|
Terms | array of object |
Détails du terme de profanité détectés. |
|
Index de terme
|
Terms.Index | integer |
Index(Emplacement) du terme de profanité détecté dans le contenu du texte d’entrée. |
|
Index d’origine du terme
|
Terms.OriginalIndex | integer |
Index(Emplacement) d’origine du terme de profanité détecté dans le contenu du texte d’entrée. |
|
ID de liste des termes
|
Terms.ListId | integer |
ID de liste termes mis en correspondance. |
|
Terme détecté
|
Terms.Term | string |
Terme de profanité détecté. |
|
ID de suivi
|
TrackingId | string |
ID de transaction Content Moderator unique. |
Exécuter le flux de travail souhaité dans votre équipe pour évaluer le contenu d’image ou de texte
Un ID de travail est retourné pour le contenu image ou texte publié sur ce point de terminaison. Une fois le contenu évalué par rapport au flux de travail fourni, une révision est créée ou ignorée en fonction de l’expression de flux de travail.
Paramètres
| Nom | Clé | Obligatoire | Type | Description |
|---|---|---|---|---|
|
Nom de l’équipe
|
teamName | True | string |
Nom de votre équipe. |
|
Type de contenu
|
ContentType | True | string |
Type du contenu. |
|
ID de contenu
|
ContentId | True | string |
Identificateur de contenu. |
|
Sélectionner un flux de travail
|
WorkflowName | True | string |
Sélectionnez le flux de travail que vous souhaitez appeler. |
|
Point de terminaison de rappel
|
CallBackEndpoint | string |
Point de terminaison de rappel. |
|
|
Valeur de contenu
|
ContentValue | True | string |
Contenu à évaluer pour un travail. |
Retours
| Nom | Chemin d’accès | Type | Description |
|---|---|---|---|
|
ID du travail
|
JobId | string |
ID de travail pour le contenu publié. |
Faire correspondre une image à l’une de vos listes d’images personnalisées
Faire correspondre une image à l’une de vos listes d’images personnalisées. Vous pouvez créer et gérer vos listes d’images personnalisées à l’aide de cette API.
Retourne l’ID et les balises de l’image correspondante.
Remarque : l’index d’actualisation doit être exécuté sur la liste d’images correspondante avant que les ajouts et les suppressions soient reflétés dans la réponse.
Paramètres
| Nom | Clé | Obligatoire | Type | Description |
|---|---|---|---|---|
|
ID de liste
|
listId | string |
Spécifiez éventuellement un listId à mettre en correspondance. Si elle n’est pas spécifiée, l’image correspond à toutes vos listes d’images. |
|
|
Source de l’image
|
format | True | string |
Source de l’image : incluse ou par URL de référence. |
|
Image
|
Image | True | dynamic |
Contenu de votre image. |
Retours
| Nom | Chemin d’accès | Type | Description |
|---|---|---|---|
|
ID de suivi
|
TrackingId | string |
ID de transaction Content Moderator unique. |
|
Cache Id
|
CacheId | string |
ID de cache. |
|
Correspondance
|
IsMatch | boolean |
L’image est mise en correspondance avec l’ID de liste d’images d’entrée ou vos ID de liste d’images personnalisées. |
|
Détails de correspondance - Score
|
MatchDetails.Score | number |
Score de confiance de la correspondance de l’image. |
|
Détails de la correspondance - ID de correspondance
|
MatchDetails.MatchId | number |
ID de liste d’images personnalisée mis en correspondance. |
|
Détails de correspondance - Source
|
MatchDetails.Source | string |
Source de l’image mise en correspondance. |
|
Détails de correspondance - Balises
|
MatchDetails.Tags | array of number |
Balises associées à l’image correspondante. |
|
Détails de correspondance - Étiquette
|
MatchDetails.Label | string |
Étiquette d’image correspondante. |
Rechercher des visages dans un contenu d’image
Recherchez des visages dans un contenu d’image.
Paramètres
| Nom | Clé | Obligatoire | Type | Description |
|---|---|---|---|---|
|
Source de l’image
|
format | True | string |
Source de l’image : incluse ou par URL de référence. |
|
Image
|
Image | True | dynamic |
Contenu de votre image. |
Retours
| Nom | Chemin d’accès | Type | Description |
|---|---|---|---|
|
ID de suivi
|
TrackingId | string |
ID de transaction Content Moderator unique. |
|
Cache Id
|
CacheId | string |
ID de cache. |
|
Nombre de visages
|
Count | number |
Nombre de visages détectés dans une image. |
|
Position du visage détectée
|
Faces | array of object |
Position du visage détectée. |
|
Emplacement inférieur
|
Faces.Bottom | number |
Emplacement inférieur du visage détecté. |
|
Emplacement gauche
|
Faces.Left | number |
Emplacement gauche du visage détecté. |
|
Emplacement approprié
|
Faces.Right | number |
Emplacement droit du visage détecté. |
|
Emplacement supérieur
|
Faces.Top | number |
Emplacement supérieur du visage détecté. |
Renvoyer tout texte trouvé dans une image pour la langue spécifiée
Retourne tout texte trouvé dans l’image pour la langue spécifiée. Si aucune langue n’est spécifiée dans l’entrée, la détection est par défaut en anglais.
Paramètres
| Nom | Clé | Obligatoire | Type | Description |
|---|---|---|---|---|
|
Language
|
language | True | string |
Langue du texte (par exemple, eng pour l’anglais). |
|
Source de l’image
|
format | True | string |
Source de l’image : incluse ou par URL de référence. |
|
Image
|
Image | True | dynamic |
Contenu de votre image. |
Retours
| Nom | Chemin d’accès | Type | Description |
|---|---|---|---|
|
ID de suivi
|
TrackingId | string |
ID de transaction Content Moderator unique. |
|
Cache Id
|
CacheId | string |
ID de cache. |
|
Langue du texte
|
Language | string |
Langue du texte trouvé dans l’image. |
|
Texte détecté
|
Text | string |
Texte trouvé dans l’image. |
|
Candidats détectés
|
Candidates | array of object |
Candidats texte détectés trouvés dans l’image. |
|
Candidats au contenu texte détectés
|
Candidates.Text | string |
Candidats de contenu texte détectés à partir de l’image. |
|
Score de confiance
|
Candidates.Confidence | number |
Score de confiance du candidat de contenu texte détecté. |
Vérifier si une image contient du contenu racé ou adulte
Retourne les probabilités d’une image contenant du contenu racé ou adulte.
Paramètres
| Nom | Clé | Obligatoire | Type | Description |
|---|---|---|---|---|
|
Source de l’image
|
format | True | string |
Source de l’image : incluse ou par URL de référence. |
|
Image
|
Image | True | dynamic |
Contenu de votre image. |
Retours
| Nom | Chemin d’accès | Type | Description |
|---|---|---|---|
|
Score de classification des adultes
|
AdultClassificationScore | number |
Score de confiance de la classification adulte. |
|
Image adulte classifiée
|
IsImageAdultClassified | boolean |
Image classifiée en tant que contenu pour adultes. |
|
Score de classification racée
|
RacyClassificationScore | number |
Score de confiance de la classification racée. |
|
Image Racy classifiée
|
IsImageRacyClassified | boolean |
Image classifiée comme contenu racé. |
|
ID de suivi
|
TrackingId | string |
ID de transaction Content Moderator unique. |