Partager via

Bien démarrer avec Foundry Local

Important

  • Foundry Local est disponible en préversion. Les versions en préversion publique fournissent un accès anticipé aux fonctionnalités qui sont en déploiement actif.
  • Les fonctionnalités, approches et processus peuvent changer ou avoir des capacités limitées avant la disponibilité générale (GA).

Ce guide vous montre comment configurer Foundry Local pour exécuter des modèles IA sur votre appareil.

Prerequisites

Votre système doit répondre aux exigences suivantes pour exécuter Foundry Local :

  • Système d’exploitation : Windows 10 (x64), Windows 11 (x64/ARM), Windows Server 2025, macOS.
  • Matériel : 8 Go de RAM minimum et 3 Go d’espace disque libre. Mémoire RAM recommandée de 16 Go et d’espace disque libre de 15 Go.
  • Réseau : connexion Internet pour télécharger des modèles et des fournisseurs d’exécution. Après avoir téléchargé un modèle, vous pouvez exécuter des modèles mis en cache hors connexion.
  • Accélération (facultatif) : GPU NVIDIA (série 2000 ou plus récente), GPU AMD (série 6000 ou ultérieure), NPU AMD, Intel iGPU, Intel NPU (32 Go ou plus de mémoire), Qualcomm Snapdragon X Elite (8 Go ou plus de mémoire), NPU Qualcomm ou Apple Silicon.

Pour installer Foundry Local à l’aide des commandes de ce guide de démarrage rapide :

  • Assurez-vous que winget est disponible sous Windows.
  • Sur macOS, installez Homebrew si vous utilisez l’option brew .

Note

Les nouvelles NPUs ne sont prises en charge que sur les systèmes exécutant Windows 24H2 ou une version ultérieure. Si vous utilisez une NPU Intel sur Windows, installez le pilote Intel NPU pour activer l’accélération de la NPU dans Foundry Local.

Assurez-vous que vous disposez des droits d’administrateur pour installer des logiciels.

Tip

Si vous voyez une erreur de connexion de service après l’installation (par exemple, « Échec de la demande au service local »), exécutez foundry service restart.

Quickstart

Bien démarrer rapidement avec Foundry Local :

Option 1 : Configuration de l’interface CLI rapide

  1. Installez Foundry Local.

    • Windows : Ouvrez un terminal et exécutez la commande suivante. 
      winget install Microsoft.FoundryLocal
    • macOS : Ouvrez un terminal et exécutez la commande suivante. 
      brew tap microsoft/foundrylocal
brew install foundrylocal
      Vous pouvez également télécharger le programme d’installation à partir du dépôt local GitHub de Foundry.

    Référence : Documentation locale de Foundry

  2. Vérifiez l’installation. Run:

    foundry --version

    Le numéro de version installé doit s’afficher.

    Référence : Référence CLI Locale de Foundry

  3. Exécutez votre premier modèle. Ouvrez un terminal et exécutez cette commande :

    foundry model run qwen2.5-0.5b

    Foundry Local télécharge le modèle, qui peut prendre quelques minutes en fonction de votre vitesse Internet, puis l’exécute. Une fois le modèle démarré, interagissez avec lui à l’aide de l’interface de ligne de commande (CLI). Par exemple, vous pouvez demander :

    Why is the sky blue?

    Vous voyez une réponse du modèle dans le terminal : capture d’écran de la sortie de la commande Foundry Local Run.

Référence : Référence CLI Locale de Foundry

Option 2 : Télécharger les projets de démarrage

Pour un apprentissage pratique, téléchargez l’un des projets de démarrage qui illustrent des scénarios réels :

Chaque projet comprend les éléments suivants :

  • Instructions de configuration pas-à-pas
  • Code source complet
  • Exemples de configuration
  • Meilleures pratiques

Tip

Ces projets de démarrage s’alignent sur les scénarios des guides pratiques et fournissent une valeur pratique immédiate.

Tip

Remplacez qwen2.5-0.5b par n’importe quel nom de modèle du catalogue (exécutez foundry model list pour afficher les modèles disponibles). Foundry Local télécharge la variante qui correspond le mieux à la configuration matérielle et logicielle de votre système. Par exemple, si vous disposez d’un GPU NVIDIA, Foundry Local télécharge la version CUDA. Si vous disposez d'un NPU Qualcomm, Foundry Local télécharge la variante NPU. Si vous n’avez pas de GPU ou de NPU, Foundry Local télécharge la version du processeur.

Lorsque vous exécutez foundry model list la première fois, vous voyez une barre de progression de téléchargement tandis que Foundry Local télécharge les fournisseurs d’exécution pour votre matériel.

Référence : Référence CLI Locale de Foundry

Explorer les commandes

L’interface CLI Foundry organise les commandes en catégories principales suivantes :

  • Modèle : commandes pour la gestion et l’exécution des modèles.
  • Service : commandes pour la gestion du service local Foundry.
  • Cache : commandes pour la gestion du cache de modèle local (modèles téléchargés sur le disque local).

Pour afficher toutes les commandes, utilisez :

foundry --help


```bash
foundry model --help

foundry --help

foundry service --help

Afficher les commandes de cache :

foundry cache --help

Référence : Référence CLI Locale de Foundry

Facultatif : Exécuter le dernier modèle GPT OSS 20B

Exécutez le gpt-oss-20b modèle :

foundry model run gpt-oss-20b

Important

Si le modèle n’est pas disponible pour votre appareil, exécutez un modèle plus petit (par exemple). qwen2.5-0.5b

Pour la variante CUDA, vous avez généralement besoin d’un GPU NVIDIA avec 16 Go de VRAM ou plus.

Foundry Local version 0.6.87 ou ultérieure ajoute la prise en charge de ce modèle. Vérifiez votre version avec :

foundry --version

Référence : Référence CLI Locale de Foundry

Tip

Pour plus d’informations sur toutes les commandes CLI, consultez la référence du CLI local de Foundry.

Mettre à niveau Foundry Local

Exécutez la commande de votre système d’exploitation pour mettre à niveau Foundry Local.

  • Windows : Dans un terminal, exécutez : 
    winget upgrade --id Microsoft.FoundryLocal
  • macOS : Dans un terminal, exécutez : 
    brew upgrade foundrylocal

Désinstaller Foundry Local

Pour désinstaller Foundry Local, exécutez la commande pour votre système d’exploitation :

  • Windows : Ouvrez un terminal et exécutez : 
    winget uninstall Microsoft.FoundryLocal
  • macOS : Ouvrez un terminal et exécutez : 
    brew rm foundrylocal
brew untap microsoft/foundrylocal
brew cleanup --scrub

Résolution des problèmes

Problèmes de connexion de service

Si vous voyez cette erreur lors de l’exécution foundry model list ou d’une commande similaire :

foundry model list

Exception: Request to local service failed.
Uri: http://127.0.0.1:0/foundry/list

The requested address is not valid in its context. (127.0.0.1:0)

Please check service status with 'foundry service status'.

Exécutez cette commande pour redémarrer le service :

foundry service restart

Cette commande résout les cas où le service s’exécute mais n’est pas accessible en raison d’un problème de liaison de port.

Référence : Meilleures pratiques et résolution des problèmes

Contenu connexe

  • Last updated on