Content Moderator
Content Moderator is een Microsoft Cognitive Services-product dat door machines ondersteunde controle van tekst en afbeeldingen biedt voor mogelijk aanstootgevende of ongewenste inhoud, uitgebreid met ingebouwde hulpmiddelen voor menselijke beoordeling
Deze connector is beschikbaar in de volgende producten en regio's:
| Dienst | Class | Regions |
|---|---|---|
| Copilot Studio | Standaard | Alle Power Automate-regio's , met uitzondering van het volgende: - China Cloud beheerd door 21Vianet |
| Logic-apps | Standaard | Alle Logic Apps-regio's , met uitzondering van het volgende: - Azure China-regio's |
| Power Apps | Standaard | Alle Power Apps-regio's , met uitzondering van het volgende: - China Cloud beheerd door 21Vianet |
| Power Automate | Standaard | Alle Power Automate-regio's , met uitzondering van het volgende: - China Cloud beheerd door 21Vianet |
| Contactpersoon | |
|---|---|
| Naam | Microsoft |
| URL |
Ondersteuning voor Microsoft LogicApps Ondersteuning voor Microsoft Power Automate Ondersteuning voor Microsoft Power Apps |
| Connectormetagegevens | |
|---|---|
| Uitgever | Microsoft |
| Webpagina | https://azure.microsoft.com/services/cognitive-services/content-moderator/ |
Gebruik de API om uw inhoud te scannen en de resulterende inzichten te gebruiken om te handelen of om deze beschikbaar te maken in het beoordelingsprogramma voor menselijke moderators om definitieve beslissingen te nemen.
Wanneer u de API gebruikt, moeten afbeeldingen minimaal 128 pixels en een maximale bestandsgrootte van 4 MB hebben. Tekst mag maximaal 1024 tekens lang zijn. Deze API is momenteel beschikbaar in VS - west, VS - oost 2, VS - west-centraal, Europa - west en Azië - zuidoost.
Een verbinding maken
De connector ondersteunt de volgende verificatietypen:
| standaard | Parameters voor het maken van verbinding. | Alle regio's | Deelbaar |
Verstek
Van toepassing: Alle regio's
Parameters voor het maken van verbinding.
Dit is deelbare verbinding. Als de power-app wordt gedeeld met een andere gebruiker, wordt de verbinding ook gedeeld. Zie het overzicht van connectors voor canvas-apps - Power Apps | Microsoft Docs
| Naam | Typologie | Description | Verplicht |
|---|---|---|---|
| API-sleutel | beveiligde string | De API-sleutel voor deze API | Klopt |
| Site-URL | touw | Url van hoofdsite (voorbeeld: https://westus.api.cognitive.microsoft.com ). Als de url van de site niet is opgegeven, wordt standaard ingesteld op 'https://westus.api.cognitive.microsoft.com'. |
Beperkingslimieten
| Name | Aanroepen | Verlengingsperiode |
|---|---|---|
| API-aanroepen per verbinding | 1200 | 60 seconden |
Acties
| Beoordelingen voor revisoren maken in uw beheerteam |
De beoordelingen die zijn gemaakt, worden weergegeven voor revisoren in uw team. Wanneer revisoren de beoordeling voltooien, worden de resultaten van de beoordeling GEPLAATST (http POST) op het opgegeven CallBackEndpoint. |
| Controleren of een afbeelding ongepaste of inhoud voor volwassenen bevat |
Retourneert waarschijnlijkheden van een afbeelding met ongepaste of erotische inhoud. |
| De gewenste werkstroom in uw team uitvoeren om afbeeldings- of tekstinhoud te evalueren |
Er wordt een taak-id geretourneerd voor de inhoud afbeelding of tekst die op dit eindpunt is geplaatst. Zodra de inhoud is geëvalueerd op basis van de opgegeven werkstroom, wordt er een beoordeling gemaakt of genegeerd op basis van de werkstroomexpressie. |
| Een afbeelding vergelijken met een van uw aangepaste afbeeldingslijsten |
U kunt een afbeelding aanpassen aan een van uw aangepaste afbeeldingslijsten. U kunt uw aangepaste installatiekopieënlijsten maken en beheren met behulp van deze API. Retourneert id en tags van overeenkomende afbeelding. |
| Gezichten zoeken in een afbeeldingsinhoud |
Gezichten zoeken naar een afbeeldingsinhoud. |
| Grof taalgebruik detecteren en overeenkomen met aangepaste en gedeelde bloklijsten |
Detecteert grof taalgebruik in meer dan 100 talen en komt overeen met aangepaste en gedeelde bloklijsten. |
| Retourneer tekst die in een afbeelding voor de opgegeven taal is gevonden |
Retourneert tekst die in de afbeelding voor de opgegeven taal is gevonden. Als er geen taal is opgegeven in invoer, wordt de detectie standaard ingesteld op Engels. |
| Taal detecteren van een bepaalde tekstinvoerinhoud |
Met deze bewerking wordt de taal van de opgegeven invoerinhoud gedetecteerd. Retourneert de ISO 639-3-code voor de overheersende taal die bestaat uit de ingediende tekst. Er worden meer dan 110 talen ondersteund. |
Beoordelingen voor revisoren maken in uw beheerteam
De beoordelingen die zijn gemaakt, worden weergegeven voor revisoren in uw team. Wanneer revisoren de beoordeling voltooien, worden de resultaten van de beoordeling GEPLAATST (http POST) op het opgegeven CallBackEndpoint.
Parameters
| Name | Sleutel | Vereist | Type | Description |
|---|---|---|---|---|
|
Teamnaam
|
teamName | True | string |
Uw teamnaam. |
|
SubTeam
|
subTeam | string |
SubTeam van uw team waaraan u de beoordeling wilt toewijzen. |
|
|
Inhoudstype
|
Type | True | string |
Het type inhoud. |
|
Inhoud controleren
|
Content | True | string |
Afbeeldings-URL(voor afbeeldingstype)/text(voor teksttype) inhoud die moet worden gecontroleerd. |
|
Inhouds-id
|
ContentId | True | string |
Inhouds-id. |
|
Callback-eindpunt
|
CallbackEndpoint | string |
Optioneel callback-eindpunt. |
|
|
Sleutelparameter
|
Key | True | string |
Uw sleutelparameter. |
|
Waardeparameter
|
Value | True | string |
De waardeparameter. |
Retouren
| Name | Pad | Type | Description |
|---|---|---|---|
|
|
array of string |
Controleren of een afbeelding ongepaste of inhoud voor volwassenen bevat
Retourneert waarschijnlijkheden van een afbeelding met ongepaste of erotische inhoud.
Parameters
| Name | Sleutel | Vereist | Type | Description |
|---|---|---|---|---|
|
Afbeeldingsbron
|
format | True | string |
Bron van de afbeelding: opgenomen of door referentie-URL. |
|
Afbeelding
|
Image | True | dynamic |
Uw afbeeldingsinhoud. |
Retouren
| Name | Pad | Type | Description |
|---|---|---|---|
|
Classificatiescore voor volwassenen
|
AdultClassificationScore | number |
Betrouwbaarheidsscore van de classificatie voor volwassenen. |
|
Is afbeelding voor volwassenen geclassificeerd
|
IsImageAdultClassified | boolean |
Is de afbeelding geclassificeerd als inhoud voor volwassenen. |
|
Classificatiescore racy
|
RacyClassificationScore | number |
Betrouwbaarheidsscore van de ongepaste classificatie. |
|
Is Afbeelding racy geclassificeerd
|
IsImageRacyClassified | boolean |
Is de afbeelding geclassificeerd als een ongepaste inhoud. |
|
Tracerings-id
|
TrackingId | string |
Unieke Content Moderator-transactie-id. |
De gewenste werkstroom in uw team uitvoeren om afbeeldings- of tekstinhoud te evalueren
Er wordt een taak-id geretourneerd voor de inhoud afbeelding of tekst die op dit eindpunt is geplaatst. Zodra de inhoud is geëvalueerd op basis van de opgegeven werkstroom, wordt er een beoordeling gemaakt of genegeerd op basis van de werkstroomexpressie.
Parameters
| Name | Sleutel | Vereist | Type | Description |
|---|---|---|---|---|
|
Teamnaam
|
teamName | True | string |
Uw teamnaam. |
|
Inhoudstype
|
ContentType | True | string |
Het type inhoud. |
|
Inhouds-id
|
ContentId | True | string |
Inhouds-id. |
|
Werkstroom selecteren
|
WorkflowName | True | string |
Selecteer de werkstroom die u wilt aanroepen. |
|
CallBack-eindpunt
|
CallBackEndpoint | string |
CallBack-eindpunt. |
|
|
Inhoudswaarde
|
ContentValue | True | string |
Inhoud die moet worden geëvalueerd voor een taak. |
Retouren
| Name | Pad | Type | Description |
|---|---|---|---|
|
Taak-id
|
JobId | string |
Taak-id voor de geplaatste inhoud. |
Een afbeelding vergelijken met een van uw aangepaste afbeeldingslijsten
U kunt een afbeelding aanpassen aan een van uw aangepaste afbeeldingslijsten. U kunt uw aangepaste installatiekopieënlijsten maken en beheren met behulp van deze API.
Retourneert id en tags van overeenkomende afbeelding.
Opmerking: Vernieuwingsindex moet worden uitgevoerd op de bijbehorende lijst met installatiekopieën voordat toevoegingen en verwijderingen worden doorgevoerd in het antwoord.
Parameters
| Name | Sleutel | Vereist | Type | Description |
|---|---|---|---|---|
|
Lijst-id
|
listId | string |
Geef desgewenst een listId op waarmee moet worden vergeleken. Als deze niet is opgegeven, wordt de afbeelding vergeleken met al uw afbeeldingslijsten. |
|
|
Afbeeldingsbron
|
format | True | string |
Bron van de afbeelding: opgenomen of door referentie-URL. |
|
Afbeelding
|
Image | True | dynamic |
Uw afbeeldingsinhoud. |
Retouren
| Name | Pad | Type | Description |
|---|---|---|---|
|
Tracerings-id
|
TrackingId | string |
Unieke Content Moderator-transactie-id. |
|
Cache-id
|
CacheId | string |
Cache-id. |
|
Komt overeen
|
IsMatch | boolean |
Bevat een afbeelding die overeenkomt met de id van de invoerafbeeldingslijst of uw aangepaste lijst-id's voor afbeeldingen. |
|
Overeenkomstdetails - Score
|
MatchDetails.Score | number |
Betrouwbaarheidsscore van de afbeeldingsmatch. |
|
Overeenkomstdetails - Overeenkomst-id
|
MatchDetails.MatchId | number |
Overeenkomende aangepaste lijst-id voor afbeeldingen. |
|
Overeenkomstdetails - bron
|
MatchDetails.Source | string |
Bron van de overeenkomende afbeelding. |
|
Details vergelijken - tags
|
MatchDetails.Tags | array of number |
Tags die zijn gekoppeld aan de overeenkomende afbeelding. |
|
Details vergelijken - Label
|
MatchDetails.Label | string |
Overeenkomend afbeeldingslabel. |
Gezichten zoeken in een afbeeldingsinhoud
Gezichten zoeken naar een afbeeldingsinhoud.
Parameters
| Name | Sleutel | Vereist | Type | Description |
|---|---|---|---|---|
|
Afbeeldingsbron
|
format | True | string |
Bron van de afbeelding: opgenomen of door referentie-URL. |
|
Afbeelding
|
Image | True | dynamic |
Uw afbeeldingsinhoud. |
Retouren
| Name | Pad | Type | Description |
|---|---|---|---|
|
Tracerings-id
|
TrackingId | string |
Unieke Content Moderator-transactie-id. |
|
Cache-id
|
CacheId | string |
Cache-id. |
|
Aantal gezichten
|
Count | number |
Het aantal gezichten dat in een afbeelding is gedetecteerd. |
|
Gedetecteerde gezichtspositie
|
Faces | array of object |
Gedetecteerde gezichtspositie. |
|
Onderste locatie
|
Faces.Bottom | number |
Onderste locatie van het gedetecteerde gezicht. |
|
Locatie links
|
Faces.Left | number |
Linkerlocatie van het gedetecteerde gezicht. |
|
Juiste locatie
|
Faces.Right | number |
Juiste locatie van het gedetecteerde gezicht. |
|
Bovenste locatie
|
Faces.Top | number |
Bovenste locatie van het gedetecteerde gezicht. |
Grof taalgebruik detecteren en overeenkomen met aangepaste en gedeelde bloklijsten
Detecteert grof taalgebruik in meer dan 100 talen en komt overeen met aangepaste en gedeelde bloklijsten.
Parameters
| Name | Sleutel | Vereist | Type | Description |
|---|---|---|---|---|
|
Language
|
language | string |
Taal van de tekst (bijvoorbeeld eng voor Engels). |
|
|
AutoCorrectie
|
autocorrect | boolean |
AutoCorrectie-tekst. |
|
|
Persoonlijke gegevens
|
PII | boolean |
Persoonsgegevens in de tekst. |
|
|
Lijst-id
|
listId | string |
Door komma's gescheiden lijst-id's. |
|
|
Invoer classificeren
|
classify | boolean |
Invoer classificeren. |
|
|
Inhoudstype
|
Content-Type | True | string |
Inhoudstype van de invoertekst. |
|
Tekstinhoud
|
Text Content | True | binary |
Uw tekstinhoud. |
Retouren
| Name | Pad | Type | Description |
|---|---|---|---|
|
Oorspronkelijke tekst
|
OriginalText | string |
De oorspronkelijke tekst. |
|
Genormaliseerde tekst
|
NormalizedText | string |
De genormaliseerde tekst. |
|
AutoCorrectie-tekst
|
AutoCorrectedText | string |
De automatisch gecorrigeerde tekst |
|
Onjuiste representatie
|
Misrepresentation | array of string |
De details van de verkeerd weergegeven tekst. |
|
Gedetecteerde e-mail
|
PII.Email | array of object |
E-maildetails gedetecteerd. |
|
Gedetecteerde e-mail
|
PII.Email.Detected | string |
Er is een e-mailadres gedetecteerd van de inhoud van de invoertekst. |
|
E-mailsubtype
|
PII.Email.SubType | string |
Subtype van het gedetecteerde e-mailadres. |
|
E-mailadres
|
PII.Email.Text | string |
E-mailadres in de inhoud van de invoertekst. |
|
E-mail- Index
|
PII.Email.Index | integer |
Index(locatie) van het e-mailadres in de inhoud van de invoertekst. |
|
Gedetecteerde SSN
|
PII.SSN | array of object |
SSN-details gedetecteerd. |
|
SSN
|
PII.SSN.Text | string |
Gedetecteerde SSN. |
|
SSN-index
|
PII.SSN.Index | integer |
Index(Locatie) van de SSN in de inhoud van de invoertekst. |
|
Ip-adres gedetecteerd
|
PII.IPA | array of object |
Ip-adresgegevens gedetecteerd. |
|
Subtype IP-adres
|
PII.IPA.SubType | string |
Subtype van het gedetecteerde IP-adres. |
|
IP-adres
|
PII.IPA.Text | string |
Ip-adres gedetecteerd. |
|
IP-adresindex
|
PII.IPA.Index | integer |
Index(locatie) van het IP-adres in de inhoud van de invoertekst. |
|
Gedetecteerd telefoonnummer
|
PII.Phone | array of object |
Details van telefoonnummer gedetecteerd. |
|
Telefoonlandcode
|
PII.Phone.CountryCode | string |
Landcode van het gedetecteerde telefoonnummer. |
|
Telefoonnummer
|
PII.Phone.Text | string |
Telefoonnummer gedetecteerd. |
|
Telefoonindex
|
PII.Phone.Index | integer |
Index(Locatie) van het telefoonnummer in de inhoud van de invoertekst. |
|
Gedetecteerd adres
|
PII.Address | array of object |
Adresgegevens gedetecteerd. |
|
Adres
|
PII.Address.Text | string |
Adres gedetecteerd uit de inhoud van de invoertekst. |
|
Adres - Index
|
PII.Address.Index | integer |
Index(Locatie) van het adres in de inhoud van de invoertekst. |
|
Score categorie1
|
Classification.Category1.score | double |
De details van de score categorie1 van de tekst. Klik hier voor meer informatie over categorieclassificatie. |
|
Categorie2-score
|
Classification.Category2.score | double |
De details van de categorie2-score van de tekst. Klik hier voor meer informatie over categorieclassificatie. |
|
Categorie3-score
|
Classification.Category3.score | double |
De details van de categorie3-score van de tekst. Klik hier voor meer informatie over categorieclassificatie. |
|
Aanbevolen beoordeling
|
Classification.ReviewRecommended | boolean |
De aanbevolen vlagstatus van de beoordeling. |
|
Teksttaal
|
Language | string |
Taal van de inhoud van de invoertekst. |
|
Detected profanity terms (Grof taal
|
Terms | array of object |
Details van grof taalgebruik gedetecteerd. |
|
Termenindex
|
Terms.Index | integer |
Index(Locatie) van de gedetecteerde term voor grof taalgebruik in de inhoud van de invoertekst. |
|
Oorspronkelijke termindex
|
Terms.OriginalIndex | integer |
Oorspronkelijke index (locatie) van de gedetecteerde grof taalterm in de inhoud van de invoertekst. |
|
Lijst-id van termen
|
Terms.ListId | integer |
Overeenkomende lijst-id voor termen. |
|
Gedetecteerde term
|
Terms.Term | string |
Er is een term voor grof taalgebruik gedetecteerd. |
|
Tracerings-id
|
TrackingId | string |
Unieke Content Moderator-transactie-id. |
Retourneer tekst die in een afbeelding voor de opgegeven taal is gevonden
Retourneert tekst die in de afbeelding voor de opgegeven taal is gevonden. Als er geen taal is opgegeven in invoer, wordt de detectie standaard ingesteld op Engels.
Parameters
| Name | Sleutel | Vereist | Type | Description |
|---|---|---|---|---|
|
Language
|
language | True | string |
Taal van de tekst (bijvoorbeeld eng voor Engels). |
|
Afbeeldingsbron
|
format | True | string |
Bron van de afbeelding: opgenomen of door referentie-URL. |
|
Afbeelding
|
Image | True | dynamic |
Uw afbeeldingsinhoud. |
Retouren
| Name | Pad | Type | Description |
|---|---|---|---|
|
Tracerings-id
|
TrackingId | string |
Unieke Content Moderator-transactie-id. |
|
Cache-id
|
CacheId | string |
Cache-id. |
|
Teksttaal
|
Language | string |
Taal van de tekst in de afbeelding. |
|
Gedetecteerde tekst
|
Text | string |
Tekst gevonden in de afbeelding. |
|
Gedetecteerde kandidaten
|
Candidates | array of object |
Gedetecteerde tekstkandidaten gevonden in de afbeelding. |
|
Kandidaten voor tekstinhoud gedetecteerd
|
Candidates.Text | string |
Er zijn kandidaten voor tekstinhoud gedetecteerd uit de afbeelding. |
|
Confidence Score (Betrouwbaarheidsscore)
|
Candidates.Confidence | number |
Betrouwbaarheidsscore van de gedetecteerde kandidaat voor tekstinhoud. |
Taal detecteren van een bepaalde tekstinvoerinhoud
Met deze bewerking wordt de taal van de opgegeven invoerinhoud gedetecteerd. Retourneert de ISO 639-3-code voor de overheersende taal die bestaat uit de ingediende tekst. Er worden meer dan 110 talen ondersteund.
Parameters
| Name | Sleutel | Vereist | Type | Description |
|---|---|---|---|---|
|
Inhoudstype
|
Content-Type | True | string |
Type tekstinhoud. |
|
Tekstinhoud
|
Text Content | True | binary |
Tekstinhoud. |
Retouren
| Name | Pad | Type | Description |
|---|---|---|---|
|
Gedetecteerde taal
|
DetectedLanguage | string |
Gedetecteerde taal van de tekst. |