Wprowadzenie do usługi Windows Machine Learning

Gdy aplikacja działa z wbudowanym rozwiązaniem, środowisko uruchomieniowe uczenia maszynowego systemu Windows (zawierające aparat wnioskowania modelu ONNX) ocenia wytrenowany model na urządzeniu z systemem Windows 10 (lub Windows Server 2019, jeśli jest przeznaczone dla wdrożenia serwera). Windows ML obsługuje abstrakcję sprzętu, umożliwiając twórcom ukierunkowanie szerokiego zakresu krzemu — w tym procesorów CPU, procesorów GPU i, w przyszłości, akceleratorów sztucznej inteligencji. Przyspieszanie sprzętowe systemu Windows ML jest oparte na języku DirectML, interfejsie API o wysokiej wydajności i niskim poziomie na potrzeby uruchamiania wnioskowań uczenia maszynowego, które są częścią rodziny DirectX.

W przypadku pakietu NuGet te warstwy są wyświetlane jako pliki binarne przedstawione na poniższym diagramie. Usługa Windows ML jest wbudowana w Microsoft.ai.machinelearning.dll. Nie zawiera osadzonego środowiska uruchomieniowego ONNX, zamiast tego środowisko uruchomieniowe ONNX jest wbudowane w plik: onnxruntime.dll. Wersja zawarta w pakietach NuGet systemu WindowsAI zawiera osadzony w nim moduł DirectML EP. Końcowy plik binarny, DirectML.dll, jest faktycznym kodem platformy DirectML i jest zbudowany na sterownikach Direct 3D i obliczeniowych, które są wbudowane w system Windows. Wszystkie trzy z tych plików binarnych są zawarte w wersjach NuGet, co pozwala na ich dystrybucję wraz z Twoimi aplikacjami.

Bezpośredni dostęp do onnxruntime.dll umożliwia również realizowanie scenariuszy międzyplatformowych, przy jednoczesnym uzyskaniu tego samego niezależnego od sprzętu przyspieszenia, które skalowane jest na wszystkich urządzeniach z systemem Windows.