Modellen zoeken of trainen voor Windows ML

Windows ML werkt met ONNX-indelingsmodellen, omdat Windows ML gewoon een distributiemechanisme is dat de ONNX Runtime en hardwarespecifieke uitvoeringsproviders biedt. Dit betekent dat u miljoenen bestaande vooraf getrainde modellen uit verschillende bronnen kunt gebruiken of uw eigen modellen kunt trainen. In deze handleiding wordt beschreven waar u ONNX-modellen kunt zoeken, converteren of trainen.

U kunt ook kiezen uit tientallen kant-en-klare AI-modellen en API's in Microsoft Foundry in Windows, die worden uitgevoerd via Windows ML. Zie Lokale AI gebruiken met Microsoft Foundry in Windows voor meer informatie.

Optie 1: Modellen gebruiken vanuit AI Toolkit

Met het hulpprogramma Conversie van AI Toolkit zijn er tientallen LLM's en andere typen modellen die gereed zijn om te optimaliseren voor gebruik met Windows ML. Door een model te verkrijgen via AI Toolkit krijgt u een geconverteerd ONNX-model dat is geoptimaliseerd voor de verschillende hardware waarop Windows ML wordt uitgevoerd.

Als u door de beschikbare modellen wilt bladeren, raadpleegt u de modellijst van AI Toolkit.

Optie 2: Andere bestaande ONNX-modellen gebruiken

Hugging Face herbergt duizenden ONNX-modellen die u kunt gebruiken met Windows ML. U kunt ONNX-modellen vinden op:

1. Bladeren door de hub voor het knuffelen van gezichtsmodellen
2. Filteren op ONNX in het bibliotheekfilter

U moet een model vinden dat compatibel is met de ONNX Runtime-versie die is opgenomen in de versie van Windows ML die u gebruikt. Zie ONNX Runtime-versies die zijn verzonden in Windows ML om erachter te komen welke versie van ONNX Runtime u gebruikt met Windows ML.

Optie 3: Bestaande modellen converteren naar ONNX-indeling

Modellen van PyTorch, TensorFlow of andere frameworks kunnen worden geconverteerd naar de ONNX-indeling en worden gebruikt met Windows ML.

Hugging Face host miljoenen modellen die u kunt converteren en gebruiken met Windows ML.

U moet het model converteren om uit te voeren met de ONNX Runtime-versie die is opgenomen in de versie van Windows ML die u gebruikt. Zie ONNX Runtime-versies die zijn verzonden in Windows ML om erachter te komen welke versie van ONNX Runtime u gebruikt met Windows ML.

Als u een model wilt converteren naar een ONNX-indeling, raadpleegt u de frameworkspecifieke documentatie, bijvoorbeeld:

• Handleiding voor het converteren van PyTorch-modellen
• Handleiding Converteren van TensorFlow-modellen

Optie 4: Bestaande modellen verfijnen

Veel modellen op Hugging Face of andere bronnen kunnen worden afgestemd (volg de instructies op de modelkaarten op Hugging Face). Vervolgens kunt u het nauwkeurig afgestemde model converteren naar ONNX volgens de instructies in optie 3 hierboven.

Een populaire manier om modellen af te stemmen is het gebruik van de olive finetune-opdracht. Zie de Olive-documentatie voor meer informatie over het gebruik van Olive.

Optie 5: Modellen trainen

Als u een model voor een specifieke taak nodig hebt en een bestaand model niet kunt vinden, kunt u uw eigen model trainen in PyTorch, TensorFlow of andere frameworks.

Nadat u uw model hebt getraind, volgt u de instructies in optie 3 hierboven om uw model te converteren naar de ONNX-indeling.

Volgende stappen

Zodra u een ONNX-model hebt, kunt u het uitvoeren met Windows ML op uw doelapparaten.

• Uitvoeringsproviders initialiseren - Uitvoeringsproviders downloaden en registreren in Windows ML
• ONNX-modellen uitvoeren - Meer informatie over het uitvoeren van deductie met Windows ML

Andere oplossingen

Als onderdeel van Microsoft Foundry in Windows kunt u ook kiezen uit tientallen kant-en-klare AI-modellen en API's, die worden uitgevoerd via Windows ML. Zie Lokale AI gebruiken met Microsoft Foundry in Windows voor meer informatie.