Omówienie sieci WebNN

Internetowy interfejs API sieci neuronowej (WebNN) to nowy standard sieci Web, który umożliwia aplikacjom internetowym i strukturom przyspieszenie głębokich sieci neuronowych za pomocą procesorów GPU, procesorów CPU lub specjalnie utworzonych akceleratorów sztucznej inteligencji, takich jak jednostki NPU. Interfejs API sieci WebNN korzysta z interfejsu API DirectML w systemie Windows, aby uzyskać dostęp do natywnych możliwości sprzętowych i zoptymalizować wykonywanie modeli sieci neuronowych.

Ponieważ korzystanie ze sztucznej inteligencji/uczenia maszynowego w aplikacjach staje się bardziej popularne, interfejs API sieci WebNN zapewnia następujące korzyści:

• Optymalizacje wydajności — dzięki wykorzystaniu języka DirectML sieć WebNN pomaga umożliwić aplikacjom internetowym i strukturom korzystanie z najlepszych dostępnych optymalizacji sprzętu i oprogramowania dla każdej platformy i urządzenia bez konieczności używania złożonego i specyficznego dla platformy kodu.
• małe opóźnienia — wnioskowanie w przeglądarce pomaga włączyć nowe przypadki użycia z lokalnymi źródłami multimediów, takimi jak analiza wideo w czasie rzeczywistym, wykrywanie twarzy i rozpoznawanie mowy, bez konieczności wysyłania danych do serwerów zdalnych i oczekiwania na odpowiedzi.
• Zachowanie prywatności — dane użytkownika pozostają na urządzeniu i zachowują prywatność użytkowników, ponieważ aplikacje internetowe i struktury nie muszą przekazywać poufnych ani osobistych informacji do usług w chmurze do przetwarzania.
• Wysoka dostępność — brak polegania na sieci po początkowym zapisaniu zasobów w przypadku offline, ponieważ aplikacje internetowe i frameworky mogą uruchamiać modele sieci neuronowej lokalnie nawet wtedy, gdy połączenie internetowe jest niedostępne lub zawodne.
• niski koszt serwera — przetwarzanie na urządzeniach klienckich nie oznacza braku potrzebnych serwerów, co pomaga aplikacjom internetowym zmniejszyć koszty operacyjne i konserwacyjne uruchamiania usług sztucznej inteligencji/uczenia maszynowego w chmurze.

Scenariusze sztucznej inteligencji/uczenia maszynowego obsługiwane przez sieć WebNN obejmują generowanie sztucznej inteligencji, wykrywanie osób, wykrywanie twarzy, segmentację semantyczną, wykrywanie szkieletu, transfer stylów, super rozdzielczość, podpisy obrazów, tłumaczenie maszynowe i pomijanie szumu.

Obsługa struktury

Sieć WebNN jest zaprojektowana jako interfejs API zaplecza dla struktur internetowych. W przypadku systemu Windows zalecamy używanie ONNX Runtime Web. Zapewnia to znajome doświadczenie w używaniu języka DirectML i środowiska uruchomieniowego ONNX natywnie, dzięki czemu możesz mieć spójne środowisko wdrażania sztucznej inteligencji w formacie ONNX w aplikacjach internetowych i natywnych.

Wymagania dotyczące sieci WebNN

Aby sprawdzić informacje o przeglądarce, przejdź do about://version na pasku adresu przeglądarki chromium.

Obsługa modelu

Procesor GPU (wersja zapoznawcza):

W przypadku uruchamiania na procesorach GPU sieć WebNN obsługuje obecnie następujące modele:

• Stabilna turbosprężarka dyfuzyjna
• Stabilna dyfuzja 1.5
• Szeptana podstawa
• Sieć MobileNetv2
• Segmentowanie czegokolwiek
• ResNet
• Sieć EfficientNet
• Sieć SqueezeNet

Sieć WebNN współpracuje również z modelami niestandardowymi, o ile obsługa operatora jest wystarczająca. Tutaj sprawdź stan operatorów .

NPU (wersja próbna):

Na procesorach Intel® Core™ Ultra z NPU Intel® AI Boost WebNN obsługuje:

• Szeptana podstawa
• MobileNetV2
• ResNet
• Sieć EfficientNet

Często zadawane pytania

Jak mogę zgłosić problem z siecią WebNN?

W przypadku ogólnych problemów z siecią WebNN zgłoś problem w witrynie GitHub dla deweloperów sieci WebNN w wersji zapoznawczej

W przypadku problemów z siecią Web środowiska uruchomieniowego ONNX lub dostawcą wykonywania webNN przejdź do witryny Github ONNXRuntime.

Jak debugować problemy z siecią WebNN?

Specyfikacja sieci WebNN W3C zawiera informacje na temat propagacji błędów, zazwyczaj za pośrednictwem wyjątków DOM. Dziennik na końcu about://gpu może również zawierać przydatne informacje. W przypadku dalszych problemów zgłoś problem zgodnie z powyższym łączem.

Czy sieć WebNN obsługuje inne systemy operacyjne?

Obecnie sieć WebNN najlepiej obsługuje system operacyjny Windows. Wersje innych systemów operacyjnych są w toku.

Jakie zaplecza sprzętowe są obecnie dostępne? Czy niektóre modele są obsługiwane tylko w przypadku określonych zapleczy sprzętu?

Informacje o obsłudze operatora w sieci WebNN można znaleźć na stronie Stan implementacji operacji Sieci WebNN | Web Machine Learning.

Jakie kroki należy wykonać, aby zaktualizować sterownik intela na potrzeby obsługi jednostek NPU (wersja zapoznawcza)?

1. Znajdź zaktualizowany sterownik ze strony internetowej sterownika firmy Intel.
2. Usuń kompresję pliku ZIP.
3. Naciśnij Win+R, aby otworzyć okno dialogowe Uruchamianie.
4. Wpisz devmgmt.msc w polu tekstowym.
5. Naciśnij Enter lub kliknij przycisk OK.
6. W Menedżerze urządzeń otwórz węzeł "Procesory neuronowe"
7. Kliknij prawym przyciskiem myszy NPU, którego sterownik chcesz zaktualizować.
8. Wybierz pozycję "Aktualizuj sterownik" z menu kontekstowego
9. Wybierz pozycję "Przeglądaj mój komputer w poszukiwaniu sterowników"
10. Wybierz pozycję "Pozwól mi wybrać z listy dostępnych sterowników na moim komputerze"
11. Naciśnij przycisk "Mieć dysk"
12. Naciśnij przycisk "Przeglądaj"
13. Przejdź do lokalizacji, w której rozpakowałeś wspomniany plik zip.
14. Naciśnij przycisk OK.