Bien démarrer avec Foundry Local

Foundry Local est une version locale de Microsoft Foundry qui permet l’exécution locale de modèles de langage volumineux (LLMs) directement sur votre appareil Windows. Il s’agit d’une bonne alternative si vous souhaitez approfondir et implémenter un scénario IA qui n’est pas disponible avec les API Windows AI.

Cette solution d’inférence ia sur appareil offre des avantages en matière de confidentialité, de personnalisation et de coût par rapport aux alternatives basées sur le cloud. Mieux encore, il s’intègre à vos flux de travail et applications existants avec une interface CLI et une API REST faciles à utiliser. Pour plus d’informations sur Foundry Local, consultez la documentation Foundry Local.