Content Moderator
Content Moderator to produkt usług Microsoft Cognitive Services, który zapewnia wspomagane maszynowo moderowanie tekstu i obrazów pod kątem potencjalnie obraźliwej lub niechcianej zawartości rozszerzonej o wbudowane narzędzia do przeglądu przez człowieka
Ten łącznik jest dostępny w następujących produktach i regionach:
| Usługa | Class | Regions |
|---|---|---|
| Copilot Studio | Standard | Wszystkie regiony usługi Power Automate z wyjątkiem następujących: - China Cloud obsługiwane przez firmę 21Vianet |
| Logic Apps | Standard | Wszystkie regiony usługi Logic Apps z wyjątkiem następujących: — Regiony platformy Azure (Chiny) |
| Power Apps | Standard | Wszystkie regiony usługi Power Apps z wyjątkiem następujących: - China Cloud obsługiwane przez firmę 21Vianet |
| Power Automate | Standard | Wszystkie regiony usługi Power Automate z wyjątkiem następujących: - China Cloud obsługiwane przez firmę 21Vianet |
| Kontakt | |
|---|---|
| Name | Microsoft |
| adres URL |
Obsługa usługi Microsoft LogicApps Pomoc techniczna usługi Microsoft Power Automate Obsługa usługi Microsoft Power Apps |
| Metadane łącznika | |
|---|---|
| Publisher | Microsoft |
| Witryna internetowa | https://azure.microsoft.com/services/cognitive-services/content-moderator/ |
Użyj interfejsu API, aby zeskanować zawartość i użyć wynikowych szczegółowych informacji w celu działania lub udostępnienia go w narzędziu do przeglądu dla moderatorów ludzkich w celu podjęcia ostatecznych decyzji.
W przypadku korzystania z interfejsu API obrazy muszą mieć co najmniej 128 pikseli i maksymalny rozmiar pliku wynoszący 4 MB. Tekst może mieć długość co najwyżej 1024 znaków. Ten interfejs API jest obecnie dostępny w regionach Zachodnie stany USA, Wschodnie stany USA 2, Zachodnio-środkowe stany USA, Europa Zachodnia i Azja Południowo-Wschodnia.
Tworzenie połączenia
Łącznik obsługuje następujące typy uwierzytelniania:
| Wartość domyślna | Parametry tworzenia połączenia. | Wszystkie regiony | Udostępnialne |
Domyślny
Dotyczy: wszystkie regiony
Parametry tworzenia połączenia.
Jest to możliwe do udostępnienia połączenie. Jeśli aplikacja power jest udostępniana innemu użytkownikowi, połączenie jest również udostępniane. Aby uzyskać więcej informacji, zobacz Omówienie łączników dla aplikacji kanwy — Power Apps | Microsoft Docs
| Name | Typ | Description | Wymagane |
|---|---|---|---|
| Klucz interfejsu API | securestring | Klucz interfejsu API dla tego interfejsu API | Prawda |
| Adres URL witryny | ciąg | Adres URL witryny głównej (przykład: https://westus.api.cognitive.microsoft.com ). Jeśli nie określono adresu URL witryny, zostanie domyślnie ustawiona wartość "https://westus.api.cognitive.microsoft.com". |
Limity ograniczania
| Nazwa | Wywołania | Okres odnowienia |
|---|---|---|
| Wywołania interfejsu API na połączenie | 1200 | 60 sekund |
Akcje
| Dopasowywanie obrazu do jednej z niestandardowych list obrazów |
Rozmyte dopasowanie obrazu do jednej z niestandardowych list obrazów. Przy użyciu tego interfejsu API możesz tworzyć niestandardowe listy obrazów i zarządzać nimi. Zwraca identyfikator i tagi pasującego obrazu. |
| Sprawdzanie, czy obraz zawiera rasową lub dorosłą zawartość |
Zwraca prawdopodobieństwo obrazu zawierającego rasę lub zawartość dla dorosłych. |
| Tworzenie przeglądów dla recenzentów w zespole moderowania |
Utworzone recenzje będą wyświetlane dla recenzentów w zespole. Po zakończeniu przeglądania przez recenzentów wyniki przeglądu będą PUBLIKOWANE (tj. HTTP POST) w określonym punkcie CallBackEndpoint. |
| Wykonaj żądany przepływ pracy w zespole, aby ocenić zawartość obrazu lub tekstu |
Identyfikator zadania zostanie zwrócony dla zawartości Obraz lub Tekst opublikowany w tym punkcie końcowym. Po ocenie zawartości względem podanego przepływu pracy zostanie utworzona lub zignorowana na podstawie wyrażenia przepływu pracy. |
| Wykrywanie języka danej zawartości wejściowej tekstu |
Ta operacja wykryje język danej zawartości wejściowej. Zwraca kod ISO 639-3 dla przeważającego języka składającego się z przesłanego tekstu. Obsługiwane są ponad 110 języków. |
| Wykrywanie wulgaryzmów i dopasowywanie do niestandardowych i udostępnionych list blokowych |
Wykrywa wulgaryzmy w ponad 100 językach i jest zgodny z niestandardowymi i udostępnionymi listami bloków. |
| Znajdowanie twarzy w zawartości obrazu |
Znajdowanie twarzy zawartości obrazu. |
| Zwracanie dowolnego tekstu znalezionego na obrazie dla określonego języka |
Zwraca dowolny tekst znaleziony na obrazie dla określonego języka. Jeśli w danych wejściowych nie określono żadnego języka, wykrywanie jest domyślnie ustawione na angielski. |
Dopasowywanie obrazu do jednej z niestandardowych list obrazów
Rozmyte dopasowanie obrazu do jednej z niestandardowych list obrazów. Przy użyciu tego interfejsu API możesz tworzyć niestandardowe listy obrazów i zarządzać nimi.
Zwraca identyfikator i tagi pasującego obrazu.
Uwaga: Indeks odświeżania musi być uruchamiany na odpowiedniej liście obrazów, zanim w odpowiedzi zostaną odzwierciedlone dodatki i usunięcia.
Parametry
| Nazwa | Klucz | Wymagane | Typ | Opis |
|---|---|---|---|---|
|
Identyfikator listy
|
listId | string |
Opcjonalnie określ identyfikator listId, który ma być zgodny z. Jeśli nie zostanie określony, obraz będzie zgodny ze wszystkimi listami obrazów. |
|
|
Źródło obrazu
|
format | True | string |
Źródło obrazu — dołączone lub według adresu URL odwołania. |
|
obraz
|
Image | True | dynamic |
Zawartość obrazu. |
Zwraca
| Nazwa | Ścieżka | Typ | Opis |
|---|---|---|---|
|
Identyfikator śledzenia
|
TrackingId | string |
Unikatowy identyfikator transakcji usługi Content Moderator. |
|
Identyfikator pamięci podręcznej
|
CacheId | string |
Identyfikator pamięci podręcznej. |
|
Jest zgodne
|
IsMatch | boolean |
Ma obraz dopasowany do identyfikatora listy obrazów wejściowych lub niestandardowych identyfikatorów listy obrazów. |
|
Szczegóły dopasowania — wynik
|
MatchDetails.Score | number |
Współczynnik ufności dopasowania obrazu. |
|
Szczegóły dopasowania — identyfikator dopasowania
|
MatchDetails.MatchId | number |
Dopasowany identyfikator listy obrazów niestandardowych. |
|
Szczegóły dopasowania — źródło
|
MatchDetails.Source | string |
Źródło dopasowanego obrazu. |
|
Szczegóły dopasowania — tagi
|
MatchDetails.Tags | array of number |
Tagi skojarzone z dopasowanym obrazem. |
|
Szczegóły dopasowania — etykieta
|
MatchDetails.Label | string |
Dopasowana etykieta obrazu. |
Sprawdzanie, czy obraz zawiera rasową lub dorosłą zawartość
Zwraca prawdopodobieństwo obrazu zawierającego rasę lub zawartość dla dorosłych.
Parametry
| Nazwa | Klucz | Wymagane | Typ | Opis |
|---|---|---|---|---|
|
Źródło obrazu
|
format | True | string |
Źródło obrazu — dołączone lub według adresu URL odwołania. |
|
obraz
|
Image | True | dynamic |
Zawartość obrazu. |
Zwraca
| Nazwa | Ścieżka | Typ | Opis |
|---|---|---|---|
|
Wynik klasyfikacji dla dorosłych
|
AdultClassificationScore | number |
Wskaźnik ufności klasyfikacji dla dorosłych. |
|
Czy obraz jest sklasyfikowany jako dorosły
|
IsImageAdultClassified | boolean |
Czy obraz jest klasyfikowany jako zawartość dla dorosłych. |
|
Wynik klasyfikacji racy
|
RacyClassificationScore | number |
Współczynnik ufności klasyfikacji rasowej. |
|
Czy klasyfikowane są rasistowskie obrazy
|
IsImageRacyClassified | boolean |
Czy obraz jest klasyfikowany jako zawartość rasowa. |
|
Identyfikator śledzenia
|
TrackingId | string |
Unikatowy identyfikator transakcji usługi Content Moderator. |
Tworzenie przeglądów dla recenzentów w zespole moderowania
Utworzone recenzje będą wyświetlane dla recenzentów w zespole. Po zakończeniu przeglądania przez recenzentów wyniki przeglądu będą PUBLIKOWANE (tj. HTTP POST) w określonym punkcie CallBackEndpoint.
Parametry
| Nazwa | Klucz | Wymagane | Typ | Opis |
|---|---|---|---|---|
|
Nazwa zespołu
|
teamName | True | string |
Nazwa twojego zespołu. |
|
SubTeam
|
subTeam | string |
SubTeam twojego zespołu, chcesz przypisać recenzję do. |
|
|
Typ zawartości
|
Type | True | string |
Typ zawartości. |
|
Przeglądanie zawartości
|
Content | True | string |
Adres URL obrazu (dla typu obrazu)/tekst (dla typu tekstu) do przejrzenia. |
|
Identyfikator zawartości
|
ContentId | True | string |
Identyfikator zawartości. |
|
Punkt końcowy wywołania zwrotnego
|
CallbackEndpoint | string |
Opcjonalny punkt końcowy wywołania zwrotnego. |
|
|
Parametr klucza
|
Key | True | string |
Parametr klucza. |
|
Parametr wartości
|
Value | True | string |
Parametr wartości. |
Zwraca
| Nazwa | Ścieżka | Typ | Opis |
|---|---|---|---|
|
|
array of string |
Wykonaj żądany przepływ pracy w zespole, aby ocenić zawartość obrazu lub tekstu
Identyfikator zadania zostanie zwrócony dla zawartości Obraz lub Tekst opublikowany w tym punkcie końcowym. Po ocenie zawartości względem podanego przepływu pracy zostanie utworzona lub zignorowana na podstawie wyrażenia przepływu pracy.
Parametry
| Nazwa | Klucz | Wymagane | Typ | Opis |
|---|---|---|---|---|
|
Nazwa zespołu
|
teamName | True | string |
Nazwa zespołu. |
|
Typ zawartości
|
ContentType | True | string |
Typ zawartości. |
|
Identyfikator zawartości
|
ContentId | True | string |
Identyfikator zawartości. |
|
Wybieranie przepływu pracy
|
WorkflowName | True | string |
Wybierz przepływ pracy, który chcesz wywołać. |
|
Punkt końcowy wywołania zwrotnego
|
CallBackEndpoint | string |
Punkt końcowy wywołania zwrotnego. |
|
|
Wartość zawartości
|
ContentValue | True | string |
Zawartość do oceny zadania. |
Zwraca
| Nazwa | Ścieżka | Typ | Opis |
|---|---|---|---|
|
Identyfikator zadania
|
JobId | string |
Identyfikator zadania dla opublikowanej zawartości. |
Wykrywanie języka danej zawartości wejściowej tekstu
Ta operacja wykryje język danej zawartości wejściowej. Zwraca kod ISO 639-3 dla przeważającego języka składającego się z przesłanego tekstu. Obsługiwane są ponad 110 języków.
Parametry
| Nazwa | Klucz | Wymagane | Typ | Opis |
|---|---|---|---|---|
|
Typ zawartości
|
Content-Type | True | string |
Typ zawartości tekstowej. |
|
Zawartość tekstowa
|
Text Content | True | binary |
Zawartość tekstowa. |
Zwraca
| Nazwa | Ścieżka | Typ | Opis |
|---|---|---|---|
|
Wykryty język
|
DetectedLanguage | string |
Wykryto język tekstu. |
Wykrywanie wulgaryzmów i dopasowywanie do niestandardowych i udostępnionych list blokowych
Wykrywa wulgaryzmy w ponad 100 językach i jest zgodny z niestandardowymi i udostępnionymi listami bloków.
Parametry
| Nazwa | Klucz | Wymagane | Typ | Opis |
|---|---|---|---|---|
|
Język
|
language | string |
Język tekstu (np. eng dla języka angielskiego). |
|
|
Autokorekta
|
autocorrect | boolean |
Tekst autokorekty. |
|
|
Dane osobowe
|
PII | boolean |
Dane osobowe w tekście. |
|
|
Identyfikator listy
|
listId | string |
Identyfikatory listy rozdzielone przecinkami. |
|
|
Klasyfikowanie danych wejściowych
|
classify | boolean |
Klasyfikowanie danych wejściowych. |
|
|
Typ zawartości
|
Content-Type | True | string |
Typ zawartości tekstu wejściowego. |
|
Zawartość tekstowa
|
Text Content | True | binary |
Zawartość tekstowa. |
Zwraca
| Nazwa | Ścieżka | Typ | Opis |
|---|---|---|---|
|
Oryginalny tekst
|
OriginalText | string |
Oryginalny tekst. |
|
Znormalizowany tekst
|
NormalizedText | string |
Znormalizowany tekst. |
|
Autokorektowany tekst
|
AutoCorrectedText | string |
Autokorektowany tekst |
|
Wprowadzenie
|
Misrepresentation | array of string |
Szczegóły tekstu wprowadzenia w błąd. |
|
Wykryta wiadomość e-mail
|
PII.Email | array of object |
Wykryto szczegóły wiadomości e-mail. |
|
Wykryta wiadomość e-mail
|
PII.Email.Detected | string |
Wykryto adres e-mail z zawartości tekstu wejściowego. |
|
Podtyp wiadomości e-mail
|
PII.Email.SubType | string |
Podtyp wykrytego adresu e-mail. |
|
Adres e-mail
|
PII.Email.Text | string |
Adres e-mail w wejściowej zawartości tekstowej. |
|
Wiadomość e-mail — indeks
|
PII.Email.Index | integer |
Index(Location) adresu e-mail w wejściowej zawartości tekstowej. |
|
Wykryto nazwę SSN
|
PII.SSN | array of object |
Wykryto szczegóły sieci SSN. |
|
numer ubezpieczenia społecznego (SSN)
|
PII.SSN.Text | string |
Wykryto nazwę SSN. |
|
Indeks SSN
|
PII.SSN.Index | integer |
Index(Location) nazwy SSN w zawartości tekstu wejściowego. |
|
Wykryty adres IP
|
PII.IPA | array of object |
Wykryto szczegóły adresu IP. |
|
Podtyp adresu IP
|
PII.IPA.SubType | string |
Podtyp wykrytego adresu IP. |
|
Adres IP
|
PII.IPA.Text | string |
Wykryty adres IP. |
|
Indeks adresów IP
|
PII.IPA.Index | integer |
Index(Location) adresu IP w zawartości tekstowej wejściowej. |
|
Wykryty numer telefonu
|
PII.Phone | array of object |
Wykryto szczegóły numeru telefonu. |
|
Kod kraju telefonu
|
PII.Phone.CountryCode | string |
Kod kraju wykrytego numeru telefonu. |
|
Numer telefonu
|
PII.Phone.Text | string |
Wykryty numer telefonu. |
|
Indeks telefonu
|
PII.Phone.Index | integer |
Index(Location) numeru telefonu w wejściowej zawartości tekstowej. |
|
Wykryty adres
|
PII.Address | array of object |
Wykryte szczegóły adresu. |
|
Address
|
PII.Address.Text | string |
Wykryto adres z zawartości tekstu wejściowego. |
|
Adres — indeks
|
PII.Address.Index | integer |
Index(Location) adresu w zawartości tekstu wejściowego. |
|
Wynik kategorii1
|
Classification.Category1.score | double |
Szczegóły wyniku kategorii1 tekstu. Kliknij tutaj , aby uzyskać więcej informacji na temat klasyfikacji kategorii. |
|
Wynik kategorii2
|
Classification.Category2.score | double |
Szczegóły wyniku kategorii2 tekstu. Kliknij tutaj , aby uzyskać więcej informacji na temat klasyfikacji kategorii. |
|
Wynik kategorii3
|
Classification.Category3.score | double |
Szczegóły wyniku kategorii3 tekstu. Kliknij tutaj , aby uzyskać więcej informacji na temat klasyfikacji kategorii. |
|
Zapoznaj się z zalecanymi
|
Classification.ReviewRecommended | boolean |
Stan flagi zalecanej przeglądu. |
|
Język tekstu
|
Language | string |
Język zawartości tekstu wejściowego. |
|
Wykryte terminy wulgaryzmów
|
Terms | array of object |
Wykryto szczegóły terminu wulgaryzmów. |
|
Indeks terminów
|
Terms.Index | integer |
Index(Location) wykrytego terminu wulgaryzmów w zawartości tekstu wejściowego. |
|
Oryginalny indeks terminów
|
Terms.OriginalIndex | integer |
Oryginalny indeks (lokalizacja) wykrytego terminu wulgaryzmów w zawartości tekstu wejściowego. |
|
Identyfikator listy terminów
|
Terms.ListId | integer |
Dopasowany identyfikator listy terminów. |
|
Wykryty termin
|
Terms.Term | string |
Wykryto termin wulgaryzmów. |
|
Identyfikator śledzenia
|
TrackingId | string |
Unikatowy identyfikator transakcji usługi Content Moderator. |
Znajdowanie twarzy w zawartości obrazu
Znajdowanie twarzy zawartości obrazu.
Parametry
| Nazwa | Klucz | Wymagane | Typ | Opis |
|---|---|---|---|---|
|
Źródło obrazu
|
format | True | string |
Źródło obrazu — dołączone lub według adresu URL odwołania. |
|
obraz
|
Image | True | dynamic |
Zawartość obrazu. |
Zwraca
| Nazwa | Ścieżka | Typ | Opis |
|---|---|---|---|
|
Identyfikator śledzenia
|
TrackingId | string |
Unikatowy identyfikator transakcji usługi Content Moderator. |
|
Identyfikator pamięci podręcznej
|
CacheId | string |
Identyfikator pamięci podręcznej. |
|
Liczba twarzy
|
Count | number |
Liczba twarzy wykrytych na obrazie. |
|
Wykryto położenie twarzy
|
Faces | array of object |
Wykryto położenie twarzy. |
|
Dolna lokalizacja
|
Faces.Bottom | number |
Dolna lokalizacja wykrytej twarzy. |
|
Lokalizacja po lewej stronie
|
Faces.Left | number |
Lewa lokalizacja wykrytej twarzy. |
|
Właściwa lokalizacja
|
Faces.Right | number |
Właściwa lokalizacja wykrytej twarzy. |
|
Lokalizacja górna
|
Faces.Top | number |
Górna lokalizacja wykrytej twarzy. |
Zwracanie dowolnego tekstu znalezionego na obrazie dla określonego języka
Zwraca dowolny tekst znaleziony na obrazie dla określonego języka. Jeśli w danych wejściowych nie określono żadnego języka, wykrywanie jest domyślnie ustawione na angielski.
Parametry
| Nazwa | Klucz | Wymagane | Typ | Opis |
|---|---|---|---|---|
|
Język
|
language | True | string |
Język tekstu (np. eng dla języka angielskiego). |
|
Źródło obrazu
|
format | True | string |
Źródło obrazu — dołączone lub według adresu URL odwołania. |
|
obraz
|
Image | True | dynamic |
Zawartość obrazu. |
Zwraca
| Nazwa | Ścieżka | Typ | Opis |
|---|---|---|---|
|
Identyfikator śledzenia
|
TrackingId | string |
Unikatowy identyfikator transakcji usługi Content Moderator. |
|
Identyfikator pamięci podręcznej
|
CacheId | string |
Identyfikator pamięci podręcznej. |
|
Język tekstu
|
Language | string |
Język tekstu znalezionego na obrazie. |
|
Wykryty tekst
|
Text | string |
Tekst znaleziony na obrazie. |
|
Wykryto kandydatów
|
Candidates | array of object |
Wykryto kandydatów do tekstu znalezionych na obrazie. |
|
Wykryto kandydatów do zawartości tekstowej
|
Candidates.Text | string |
Wykryto kandydatów do zawartości tekstowej na obrazie. |
|
Współczynnik ufności
|
Candidates.Confidence | number |
Wskaźnik ufności wykrytego kandydata do zawartości tekstowej. |