Notitie
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen u aan te melden of de directory te wijzigen.
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen de mappen te wijzigen.
Microsoft Foundry in Windows biedt meerdere kant-en-klare lokale LLM's (Large Language Models) die u in uw Windows-toepassingen kunt integreren.
Kant-en-klare LLM's
Uw app kan moeiteloos de volgende lokale LLM's in minder dan een uur gebruiken. De distributie van de LLM wordt verwerkt door Microsoft en de modellen worden gedeeld tussen apps. Voor het gebruik van deze LLM's zijn slechts enkele regels code nodig. Er is geen ML-expertise nodig.
| Wat is het | Ondersteunde apparaten | Docs | |
|---|---|---|---|
| PhiSilium | Dezelfde LLM op het apparaat die Windows-ervaringen gebruiken | Copilot+ PC's (NPU) | Meer informatie |
| Meer dan 20 open-source-LLM's | Kies uit meer dan 20+ beschikbare OSS LLM-modellen | Windows 10+ (Prestaties variëren, niet alle modellen die beschikbaar zijn op alle apparaten) |
Meer informatie |
Lokale LLM's verfijnen
Als de bovenstaande kant-en-klare LLM's niet werken voor uw scenario, kunt u LLM's voor uw scenario verfijnen. Voor deze optie is enige werk vereist om een nauwkeurige trainingsgegevensset te maken, maar is minder werk dan het trainen van uw eigen model.
- PhiSilium: Zie LoRA Fine-Tuning voor Phi Silicium om aan de slag te gaan.
LLM's van Hugging Face of andere bronnen gebruiken
U kunt een groot aantal LLM's van Hugging Face of andere bronnen gebruiken en deze lokaal uitvoeren op Windows 10+-pc's met behulp van Windows ML(modelcompatibiliteit en prestaties variëren op basis van apparaathardware). Deze optie kan complexer zijn en kan meer tijd in beslag nemen in vergelijking met de kant-en-klare lokale LLM's.
Voor meer informatie, zie modellen zoeken of trainen voor Windows ML.