Udostępnij przez

Omówienie pojęć dotyczących moderowania obrazów

Moderowanie obrazów wspomagane maszynowo przez usługę Content Moderator umożliwia moderowanie obrazów dla dorosłych i treści erotycznych. Skanuj obrazy pod kątem zawartości tekstowej i wyodrębniaj ten tekst oraz wykrywaj twarze. Obrazy można dopasować do list niestandardowych i podjąć dalsze działania.

Ocenianie zawartości dla dorosłych i rasistowskich

Operacja Evaluate zwraca współczynnik ufności z zakresu od 0 do 1. Zwraca również dane logiczne równe true lub false. Te wartości przewidują, czy obraz zawiera potencjalną zawartość dla dorosłych, czy rasistowskią. Po wywołaniu interfejsu API za pomocą obrazu (pliku lub adresu URL) zwrócona odpowiedź zawiera następujące informacje:

"ImageModeration": {
    .............
    "adultClassificationScore": 0.019196987152099609,
    "isImageAdultClassified": false,
    "racyClassificationScore": 0.032390203326940536,
    "isImageRacyClassified": false,
    ............
    ],

Uwaga

  • Obiekt isImageAdultClassified reprezentuje potencjalną obecność obrazów, które mogą być uznane za seksualne lub zawierające treści dla dorosłych w niektórych sytuacjach.
  • Obiekt isImageRacyClassified reprezentuje potencjalną obecność obrazów, które mogą być uznane za potencjalnie seksualne lub zawierające treści dla dorosłych w niektórych sytuacjach.
  • Wyniki mieszczą się w przedziale od 0 do 1. Im wyższy wynik, tym wyższy model przewiduje, że kategoria może mieć zastosowanie. Ta wersja zapoznawcza opiera się na modelu statystycznym, a nie na ręcznie zakodowanych wynikach. Zalecamy testowanie z własną zawartością, aby określić, jak każda kategoria jest zgodna z wymaganiami.
  • Wartości boolowskie są prawdziwe lub fałszywe w zależności od wewnętrznych progów oceny. Klienci powinni ocenić, czy używać tej wartości, czy zdecydować o progach niestandardowych na podstawie ich zasad zawartości.

Wykrywanie tekstu za pomocą optycznego rozpoznawania znaków (OCR)

Operacja optycznego rozpoznawania znaków (OCR) przewiduje obecność zawartości tekstowej na obrazie i wyodrębnia ją do moderowania tekstu, między innymi. Możesz określić język. Jeśli nie określisz języka, wykrywanie jest domyślnie ustawione na angielski.

Odpowiedź zawiera następujące informacje:

  • Oryginalny tekst.
  • Wykryte elementy tekstowe z ich współczynnikami ufności.

Przykładowy fragment:

"TextDetection": {
    "status": {
        "code": 3000.0,
        "description": "OK",
        "exception": null
    },
    .........
    "language": "eng",
    "text": "IF WE DID \r\nALL \r\nTHE THINGS \r\nWE ARE \r\nCAPABLE \r\nOF DOING, \r\nWE WOULD \r\nLITERALLY \r\nASTOUND \r\nOURSELVE \r\n",
    "candidates": []
},

Wykrywanie twarzy

Wykrywanie twarzy pomaga wykrywać dane osobowe, takie jak twarze na obrazach. Wykrywasz potencjalne twarze i liczbę potencjalnych twarzy na każdym obrazie.

Odpowiedź zawiera następujące informacje:

  • Liczba twarzy
  • Lista lokalizacji wykrytych twarzy

Przykładowy fragment:

"FaceDetection": {
    ......
    "result": true,
    "count": 2,
    "advancedInfo": [
        .....
    ],
    "faces": [
        {
            "bottom": 598,
            "left": 44,
            "right": 268,
            "top": 374
        },
        {
            "bottom": 620,
            "left": 308,
            "right": 532,
            "top": 396
        }
    ]
}

Tworzenie list niestandardowych i zarządzanie nimi

W wielu społecznościach online po przekazaniu przez użytkowników obrazów lub innego typu zawartości obraźliwe elementy mogą być udostępniane wiele razy w ciągu następnych dni, tygodni i miesięcy. Koszty wielokrotnego skanowania i filtrowania tego samego obrazu, a nawet nieco zmodyfikowane wersje obrazu z wielu miejsc mogą być kosztowne i podatne na błędy.

Zamiast moderować ten sam obraz wielokrotnie, można dodać obraźliwe obrazy do niestandardowej listy zablokowanej zawartości. Dzięki temu Twój system moderacji treści porównuje przychodzące obrazy z niestandardowymi listami i zatrzymuje dalsze przetwarzanie.

Uwaga

Istnieje maksymalny limit wynoszący 5 list obrazów, a poszczególne listy nie mogą przekraczać 10 000 obrazów.

Pakiet Content Moderator udostępnia kompletny interfejs API zarządzania listami obrazów z operacjami do zarządzania listami obrazów niestandardowych. Zapoznaj się z .NET Szybki start - lista obrazów, jeśli jesteś zaznajomiony z programami Visual Studio i C#.

Dopasowywanie do list niestandardowych

Operacja Dopasowywania umożliwia rozmyte dopasowywanie przychodzących obrazów do dowolnej z twoich niestandardowych list, które można tworzyć i zarządzać za pomocą operacji na listach.

W przypadku znalezienia dopasowania operacja zwraca identyfikator i tagi moderowania dopasowanego obrazu. Odpowiedź zawiera następujące informacje:

  • Wynik dopasowania (od 0 do 1)
  • Dopasowany obraz
  • Tagi obrazów (przypisane podczas poprzedniego moderowania)
  • Etykiety obrazów

Przykładowy fragment:

{
    ..............,
    "IsMatch": true,
    "Matches": [
        {
            "Score": 1.0,
            "MatchId": 169490,
            "Source": "169642",
            "Tags": [],
            "Label": "Sports"
        }
    ],
    ....
}

Następne kroki

Przetestuj Quickstart i użyj przykładów kodu REST API.

  • Last updated on