Inhaltsmoderator
Inhaltsmoderator ist ein Microsoft Cognitive Services-Produkt, das die maschinelle Moderation von Text und Bildern für potenziell anstößige oder unerwünschte Inhalte bietet, ergänzt mit integrierten Tools für die menschliche Überprüfung
Dieser Connector ist in den folgenden Produkten und Regionen verfügbar:
| Dienstleistung | Class | Regions |
|---|---|---|
| Copilot Studio | Norm | Alle Power Automate-Regionen mit Ausnahme der folgenden Bereiche: - China Cloud betrieben von 21Vianet |
| Logik-Apps | Norm | Alle Logik-Apps-Regionen mit Ausnahme der folgenden Bereiche: - Azure China-Regionen |
| Power Apps | Norm | Alle Power Apps-Regionen mit Ausnahme der folgenden: - China Cloud betrieben von 21Vianet |
| Power Automate | Norm | Alle Power Automate-Regionen mit Ausnahme der folgenden Bereiche: - China Cloud betrieben von 21Vianet |
| Kontakt | |
|---|---|
| Name | Microsoft |
| URL |
Microsoft LogicApps-Unterstützung Microsoft Power Automate-Support Microsoft Power Apps-Unterstützung |
| Connectormetadaten | |
|---|---|
| Herausgeber | Microsoft |
| Webseite | https://azure.microsoft.com/services/cognitive-services/content-moderator/ |
Verwenden Sie die API, um Ihre Inhalte zu scannen und die resultierenden Erkenntnisse zu verwenden, um entweder zu handeln oder im Überprüfungstool verfügbar zu machen, damit menschliche Moderatoren endgültige Entscheidungen treffen können.
Bei Verwendung der API müssen Bilder mindestens 128 Pixel und eine maximale Dateigröße von 4 MB aufweisen. Text kann höchstens 1024 Zeichen lang sein. Diese API ist derzeit in West-USA, Ost-USA 2, West-Zentral-USA, Westeuropa und Südostasien verfügbar.
Erstellen einer Verbindung
Der Connector unterstützt die folgenden Authentifizierungstypen:
| Vorgabe | Parameter zum Erstellen einer Verbindung. | Alle Regionen | Freigabefähig |
Vorgabe
Anwendbar: Alle Regionen
Parameter zum Erstellen einer Verbindung.
Dies ist eine freigabefähige Verbindung. Wenn die Power-App für einen anderen Benutzer freigegeben wird, wird auch die Verbindung freigegeben. Weitere Informationen finden Sie in der Übersicht über Connectors für Canvas-Apps – Power Apps | Microsoft-Dokumente
| Name | Typ | Description | Erforderlich |
|---|---|---|---|
| API-Schlüssel | securestring | Der API-Schlüssel für diese API | Richtig |
| Website-URL | Schnur | Stammwebsite-URL (Beispiel: https://westus.api.cognitive.microsoft.com ). Wenn nicht angegebene Website-URL standardmäßig auf 'https://westus.api.cognitive.microsoft.com' festgelegt ist. |
Drosselungsgrenzwerte
| Name | Aufrufe | Verlängerungszeitraum |
|---|---|---|
| API-Aufrufe pro Verbindung | 1200 | 60 Sekunden |
Aktionen
| Abgleichen eines Bilds mit einer Ihrer benutzerdefinierten Bildlisten |
Fuzzily match an image against one of your custom Image Lists. Sie können Ihre benutzerdefinierten Bildlisten mithilfe dieser API erstellen und verwalten. Gibt ID und Tags des übereinstimmenden Bilds zurück. |
| Ausführen des gewünschten Workflows in Ihrem Team zum Auswerten von Bild- oder Textinhalten |
Eine Auftrags-ID wird für den auf diesem Endpunkt veröffentlichten Bild- oder Textinhalt zurückgegeben. Nachdem der Inhalt anhand des bereitgestellten Workflows ausgewertet wurde, wird eine Überprüfung basierend auf dem Workflowausdruck erstellt oder ignoriert. |
| Erkennen der Sprache eines bestimmten Texteingabeinhalts |
Dieser Vorgang erkennt die Sprache des angegebenen Eingabeinhalts. Gibt den ISO 639-3-Code für die vorherrschende Sprache zurück, die den übermittelten Text umfasst. Es werden mehr als 110 Sprachen unterstützt. |
| Erkennen von Profanität und Übereinstimmung mit benutzerdefinierten und freigegebenen Blocklisten |
Erkennt Profanität in mehr als 100 Sprachen und Vergleich mit benutzerdefinierten und freigegebenen Blocklisten. |
| Erstellen von Rezensionen für Bearbeiter in Ihrem Moderationsteam |
Die erstellten Rezensionen würden für Prüfer in Ihrem Team angezeigt. Da Prüfer die Überprüfung abgeschlossen haben, würden die Ergebnisse der Überprüfung (d. h. HTTP POST) auf dem angegebenen CallBackEndpoint GEPOSTET werden. |
| Suchen von Gesichtern in einem Bildinhalt |
Suchen nach Gesichtern eines Bildinhalts. |
| Zurückgeben von Text in einem Bild für die angegebene Sprache |
Gibt einen beliebigen Text zurück, der in dem Bild für die angegebene Sprache gefunden wurde. Wenn keine Sprache in der Eingabe angegeben ist, wird die Erkennung standardmäßig auf Englisch festgelegt. |
| Überprüfen, ob ein Bild rassige oder erwachsene Inhalte enthält |
Gibt Wahrscheinlichkeiten eines Bilds zurück, das rassige oder erwachsene Inhalte enthält. |
Abgleichen eines Bilds mit einer Ihrer benutzerdefinierten Bildlisten
Fuzzily match an image against one of your custom Image Lists. Sie können Ihre benutzerdefinierten Bildlisten mithilfe dieser API erstellen und verwalten.
Gibt ID und Tags des übereinstimmenden Bilds zurück.
Hinweis: Der Aktualisierungsindex muss in der entsprechenden Bildliste ausgeführt werden, bevor Ergänzungen und Entfernungen in der Antwort wiedergegeben werden.
Parameter
| Name | Schlüssel | Erforderlich | Typ | Beschreibung |
|---|---|---|---|---|
|
Listen-ID
|
listId | string |
Geben Sie optional eine listId an, die abgeglichen werden soll. Wenn nicht angegeben, würde das Bild mit allen Bildlisten übereinstimmen. |
|
|
Bildquelle
|
format | True | string |
Quelle des Bilds – entweder enthalten oder durch Referenz-URL. |
|
Bild
|
Image | True | dynamic |
Ihr Bildinhalt. |
Gibt zurück
| Name | Pfad | Typ | Beschreibung |
|---|---|---|---|
|
Tracking-ID
|
TrackingId | string |
Eindeutige Transaktions-ID des Inhaltsmoderators. |
|
Cache-ID
|
CacheId | string |
Cache-ID. |
|
Ist übereinstimmung
|
IsMatch | boolean |
Hat ein Bild, das mit der Eingabebildlisten-ID oder ihren benutzerdefinierten Bildlisten-IDs übereinstimmt. |
|
Übereinstimmungsdetails – Bewertung
|
MatchDetails.Score | number |
Konfidenzbewertung der Bildabgleichung. |
|
Übereinstimmungsdetails – Match ID
|
MatchDetails.MatchId | number |
Benutzerdefinierte Bildlisten-ID abgeglichen. |
|
Übereinstimmungsdetails – Quelle
|
MatchDetails.Source | string |
Quelle des übereinstimmenen Bilds. |
|
Match Details - Tags
|
MatchDetails.Tags | array of number |
Tags, die dem übereinstimmend zugeordneten Bild zugeordnet sind. |
|
Übereinstimmungsdetails - Bezeichnung
|
MatchDetails.Label | string |
Übereinstimmene Bildbezeichnung. |
Ausführen des gewünschten Workflows in Ihrem Team zum Auswerten von Bild- oder Textinhalten
Eine Auftrags-ID wird für den auf diesem Endpunkt veröffentlichten Bild- oder Textinhalt zurückgegeben. Nachdem der Inhalt anhand des bereitgestellten Workflows ausgewertet wurde, wird eine Überprüfung basierend auf dem Workflowausdruck erstellt oder ignoriert.
Parameter
| Name | Schlüssel | Erforderlich | Typ | Beschreibung |
|---|---|---|---|---|
|
Teamname
|
teamName | True | string |
Ihr Teamname. |
|
Inhaltstyp
|
ContentType | True | string |
Typ des Inhalts. |
|
Inhalts-ID
|
ContentId | True | string |
Inhaltsbezeichner. |
|
Workflow auswählen
|
WorkflowName | True | string |
Wählen Sie den Workflow aus, den Sie aufrufen möchten. |
|
CallBack-Endpunkt
|
CallBackEndpoint | string |
CallBack-Endpunkt. |
|
|
Inhaltswert
|
ContentValue | True | string |
Inhalt, der für einen Auftrag ausgewertet werden soll. |
Gibt zurück
| Name | Pfad | Typ | Beschreibung |
|---|---|---|---|
|
Auftrags-ID
|
JobId | string |
Auftrags-ID für den veröffentlichten Inhalt. |
Erkennen der Sprache eines bestimmten Texteingabeinhalts
Dieser Vorgang erkennt die Sprache des angegebenen Eingabeinhalts. Gibt den ISO 639-3-Code für die vorherrschende Sprache zurück, die den übermittelten Text umfasst. Es werden mehr als 110 Sprachen unterstützt.
Parameter
| Name | Schlüssel | Erforderlich | Typ | Beschreibung |
|---|---|---|---|---|
|
Inhaltstyp
|
Content-Type | True | string |
Typ des Textinhalts. |
|
Textinhalt
|
Text Content | True | binary |
Textinhalt. |
Gibt zurück
| Name | Pfad | Typ | Beschreibung |
|---|---|---|---|
|
Erkannte Sprache
|
DetectedLanguage | string |
Erkannte Sprache des Texts. |
Erkennen von Profanität und Übereinstimmung mit benutzerdefinierten und freigegebenen Blocklisten
Erkennt Profanität in mehr als 100 Sprachen und Vergleich mit benutzerdefinierten und freigegebenen Blocklisten.
Parameter
| Name | Schlüssel | Erforderlich | Typ | Beschreibung |
|---|---|---|---|---|
|
Language
|
language | string |
Sprache des Texts (z.B. eng für Englisch). |
|
|
AutoKorrektur
|
autocorrect | boolean |
AutoKorrektur-Text. |
|
|
Personenbezogene Informationen
|
PII | boolean |
Personenbezogene Informationen im Text. |
|
|
Listen-ID
|
listId | string |
Durch Trennzeichen getrennte Listen-IDs. |
|
|
Klassifizieren von Eingaben
|
classify | boolean |
Klassifizieren von Eingaben. |
|
|
Inhaltstyp
|
Content-Type | True | string |
Inhaltstyp des Eingabetexts. |
|
Textinhalt
|
Text Content | True | binary |
Ihr Textinhalt. |
Gibt zurück
| Name | Pfad | Typ | Beschreibung |
|---|---|---|---|
|
Originaltext
|
OriginalText | string |
Der ursprüngliche Text. |
|
Normalisierter Text
|
NormalizedText | string |
Der normalisierte Text. |
|
AutoKorrekturer Text
|
AutoCorrectedText | string |
Der automatisch korrigierte Text |
|
Falschdarstellung
|
Misrepresentation | array of string |
Die falsch dargestellten Textdetails. |
|
E-Mail erkannt
|
PII.Email | array of object |
E-Mail-Details erkannt. |
|
E-Mail erkannt
|
PII.Email.Detected | string |
E-Mail-Adresse aus dem Eingabetextinhalt erkannt. |
|
E-Mail-Untertyp
|
PII.Email.SubType | string |
Untertyp der erkannten E-Mail-Adresse. |
|
E-Mail-Adresse
|
PII.Email.Text | string |
E-Mail-Adresse im Eingabetextinhalt. |
|
E-Mail-Index
|
PII.Email.Index | integer |
Index(Ort) der E-Mail-Adresse im Eingabetextinhalt. |
|
Erkannter SSN
|
PII.SSN | array of object |
SSN-Details erkannt. |
|
Sozialversicherungsnummer
|
PII.SSN.Text | string |
Es wurde SSN erkannt. |
|
SSN-Index
|
PII.SSN.Index | integer |
Index(Location) des SSN im Eingabetextinhalt. |
|
Erkannte IP-Adresse
|
PII.IPA | array of object |
Erkannte IP-Adressdetails. |
|
IP-Adressuntertyp
|
PII.IPA.SubType | string |
Untertyp der erkannten IP-Adresse. |
|
IP-Adresse
|
PII.IPA.Text | string |
Erkannte IP-Adresse. |
|
IP-Adressindex
|
PII.IPA.Index | integer |
Index(Ort) der IP-Adresse im Eingabetextinhalt. |
|
Erkannte Telefonnummer
|
PII.Phone | array of object |
Details zu erkannten Telefonnummern. |
|
Telefon CountryCode
|
PII.Phone.CountryCode | string |
Ländervorwahl der erkannten Telefonnummer. |
|
Telefonnummer
|
PII.Phone.Text | string |
Erkannte Telefonnummer. |
|
Telefonindex
|
PII.Phone.Index | integer |
Index(Ort) der Telefonnummer im Eingabetextinhalt. |
|
Erkannte Adresse
|
PII.Address | array of object |
Erkannte Adressdetails. |
|
Adresse
|
PII.Address.Text | string |
Erkannte Adresse aus dem Eingabetextinhalt. |
|
Adresse - Index
|
PII.Address.Index | integer |
Index(Ort) der Adresse im Eingabetextinhalt. |
|
Kategorie 1 Bewertung
|
Classification.Category1.score | double |
Die Kategorie1-Bewertungsdetails des Texts. Klicken Sie hier , um weitere Details zur Kategorieklassifizierung zu erhalten. |
|
Kategorie2-Bewertung
|
Classification.Category2.score | double |
Die Kategorie2-Bewertungsdetails des Texts. Klicken Sie hier , um weitere Details zur Kategorieklassifizierung zu erhalten. |
|
Kategorie3-Bewertung
|
Classification.Category3.score | double |
Die Kategorie3-Bewertungsdetails des Texts. Klicken Sie hier , um weitere Details zur Kategorieklassifizierung zu erhalten. |
|
Bewertung empfohlen
|
Classification.ReviewRecommended | boolean |
Der empfohlene Kennzeichnungsstatus der Überprüfung. |
|
Textsprache
|
Language | string |
Sprache des Eingabetextinhalts. |
|
Erkannte Profanitätsbegriffe
|
Terms | array of object |
Festgestellte Profanitätsausdrucksdetails. |
|
Ausdrucksindex
|
Terms.Index | integer |
Index(Location) des erkannten Profanitätsausdrucks im Eingabetextinhalt. |
|
Ausdrucks-Originalindex
|
Terms.OriginalIndex | integer |
Ursprünglicher Index(Speicherort) des erkannten Profanitätsausdrucks im Eingabetextinhalt. |
|
Begriffslisten-ID
|
Terms.ListId | integer |
Übereinstimmene Begriffslisten-ID. |
|
Erkannter Ausdruck
|
Terms.Term | string |
Erkannter Profanitätsausdruck. |
|
Tracking-ID
|
TrackingId | string |
Eindeutige Transaktions-ID des Inhaltsmoderators. |
Erstellen von Rezensionen für Bearbeiter in Ihrem Moderationsteam
Die erstellten Rezensionen würden für Prüfer in Ihrem Team angezeigt. Da Prüfer die Überprüfung abgeschlossen haben, würden die Ergebnisse der Überprüfung (d. h. HTTP POST) auf dem angegebenen CallBackEndpoint GEPOSTET werden.
Parameter
| Name | Schlüssel | Erforderlich | Typ | Beschreibung |
|---|---|---|---|---|
|
Teamname
|
teamName | True | string |
Ihr Teamname. |
|
SubTeam
|
subTeam | string |
Unterteam Ihres Teams möchten Sie die Rezension zuweisen. |
|
|
Inhaltstyp
|
Type | True | string |
Typ des Inhalts. |
|
Inhalt überprüfen
|
Content | True | string |
Bild-URL(für Bildtyp)/text(für Texttyp)-Inhalt, der überprüft werden soll. |
|
Inhalts-ID
|
ContentId | True | string |
Inhaltsbezeichner. |
|
Rückrufendpunkt
|
CallbackEndpoint | string |
Optionaler Rückrufendpunkt. |
|
|
Key-Parameter
|
Key | True | string |
Ihr Schlüsselparameter. |
|
Value-Parameter
|
Value | True | string |
Ihr Wertparameter. |
Gibt zurück
| Name | Pfad | Typ | Beschreibung |
|---|---|---|---|
|
|
array of string |
Suchen von Gesichtern in einem Bildinhalt
Suchen nach Gesichtern eines Bildinhalts.
Parameter
| Name | Schlüssel | Erforderlich | Typ | Beschreibung |
|---|---|---|---|---|
|
Bildquelle
|
format | True | string |
Quelle des Bilds – entweder enthalten oder durch Referenz-URL. |
|
Bild
|
Image | True | dynamic |
Ihr Bildinhalt. |
Gibt zurück
| Name | Pfad | Typ | Beschreibung |
|---|---|---|---|
|
Tracking-ID
|
TrackingId | string |
Eindeutige Transaktions-ID des Inhaltsmoderators. |
|
Cache-ID
|
CacheId | string |
Cache-ID. |
|
Gesichtsanzahl
|
Count | number |
Anzahl der in einem Bild erkannten Gesichter. |
|
Erkannte Gesichtsposition
|
Faces | array of object |
Erkannte Gesichtsposition. |
|
Untere Position
|
Faces.Bottom | number |
Untere Position des erkannten Gesichts. |
|
Linker Speicherort
|
Faces.Left | number |
Linker Ort des erkannten Gesichts. |
|
Richtige Position
|
Faces.Right | number |
Rechte Position des erkannten Gesichts. |
|
Top-Position
|
Faces.Top | number |
Oberste Position des erkannten Gesichts. |
Zurückgeben von Text in einem Bild für die angegebene Sprache
Gibt einen beliebigen Text zurück, der in dem Bild für die angegebene Sprache gefunden wurde. Wenn keine Sprache in der Eingabe angegeben ist, wird die Erkennung standardmäßig auf Englisch festgelegt.
Parameter
| Name | Schlüssel | Erforderlich | Typ | Beschreibung |
|---|---|---|---|---|
|
Language
|
language | True | string |
Sprache des Texts (z.B. eng für Englisch). |
|
Bildquelle
|
format | True | string |
Quelle des Bilds – entweder enthalten oder durch Referenz-URL. |
|
Bild
|
Image | True | dynamic |
Ihr Bildinhalt. |
Gibt zurück
| Name | Pfad | Typ | Beschreibung |
|---|---|---|---|
|
Tracking-ID
|
TrackingId | string |
Eindeutige Transaktions-ID des Inhaltsmoderators. |
|
Cache-ID
|
CacheId | string |
Cache-ID. |
|
Textsprache
|
Language | string |
Sprache des Texts, der im Bild gefunden wurde. |
|
Erkannter Text
|
Text | string |
Text, der im Bild gefunden wurde. |
|
Erkannte Kandidaten
|
Candidates | array of object |
Im Bild gefundene Textkandidaten. |
|
Erkannte Textinhaltskandidaten
|
Candidates.Text | string |
Es wurden Textinhaltskandidaten aus dem Bild erkannt. |
|
Zuverlässigkeitsbewertung
|
Candidates.Confidence | number |
Konfidenzbewertung des erkannten Textinhaltskandidaten. |
Überprüfen, ob ein Bild rassige oder erwachsene Inhalte enthält
Gibt Wahrscheinlichkeiten eines Bilds zurück, das rassige oder erwachsene Inhalte enthält.
Parameter
| Name | Schlüssel | Erforderlich | Typ | Beschreibung |
|---|---|---|---|---|
|
Bildquelle
|
format | True | string |
Quelle des Bilds – entweder enthalten oder durch Referenz-URL. |
|
Bild
|
Image | True | dynamic |
Ihr Bildinhalt. |
Gibt zurück
| Name | Pfad | Typ | Beschreibung |
|---|---|---|---|
|
Bewertung der Erwachsenenklassifizierung
|
AdultClassificationScore | number |
Konfidenzbewertung der Erwachsenenklassifizierung. |
|
Ist "Erwachsener" klassifiziert
|
IsImageAdultClassified | boolean |
Ist das Bild als erwachsener Inhalt klassifiziert. |
|
Racy Classification Score
|
RacyClassificationScore | number |
Konfidenzbewertung der Schnupperklassifizierung. |
|
Ist Bild racy klassifiziert
|
IsImageRacyClassified | boolean |
Ist das Bild als rassiger Inhalt klassifiziert. |
|
Tracking-ID
|
TrackingId | string |
Eindeutige Transaktions-ID des Inhaltsmoderators. |