Référence CLI locale de Foundry

Cet article fournit une référence complète pour l’interface de ligne de commande (CLI) Foundry Local. L’interface CLI organise les commandes en catégories logiques pour vous aider à gérer les modèles, contrôler le service et gérer votre cache local.

Prerequisites

• Installez Foundry Local. Pour connaître les étapes de configuration, consultez Prise en main de Foundry Local.
• Utilisez un terminal local où l’interface foundry CLI est disponible.
• Vérifiez que vous disposez d’un accès Internet pour les téléchargements de première fois (fournisseurs d’exécution et modèles).
• RBAC Azure : Non applicable (s’exécute localement).
• Si vous disposez d’un processeur réseau Intel sur Windows, installez le pilote Intel NPU pour une accélération NPU optimale.

Vérification rapide

Exécutez ces commandes pour confirmer que l’interface CLI est installée et que le service est accessible.

1. Afficher l’aide de l’interface CLI :

    foundry --help
   

   Cette commande imprime les informations d’utilisation et la liste des groupes de commandes disponibles.

   Référence : Vue d’ensemble

2. Vérifiez l’état du service :

    foundry service status
   

   Cette commande imprime si le service local Foundry est en cours d’exécution et inclut son point de terminaison local.

   Référence : Commandes de service

Aperçu

Utilisez l’aide intégrée pour explorer les commandes et les options.

L’interface CLI organise les commandes en trois catégories principales :

• Modèle : commandes pour la gestion et l’exécution de modèles IA
• Service : commandes pour contrôler le service local Foundry
• Cache : commandes pour la gestion de votre stockage de modèle local

Commandes de modèle

Le tableau suivant récapitule les commandes relatives à la gestion et à l’exécution des modèles :

Ordre des listes de modèles

Lorsque plusieurs variantes d’ID de modèle sont disponibles pour un alias, la liste des modèles affiche les modèles dans l’ordre de priorité. Le premier modèle de la liste est le modèle qui s’exécute lorsque vous spécifiez le modèle par alias.

Filtrage de liste de modèles

La foundry model list commande prend en charge le filtrage des modèles à l’aide de l’option --filter . Vous pouvez filtrer des modèles en fonction d’un attribut unique à l’aide de paires clé-valeur.

foundry model list --filter <key>=<value>

Cette commande imprime les modèles qui correspondent à la clé de filtre et à la valeur.

Référence : Filtrage de liste de modèles

Clés de filtre prises en charge :

appareil - Catégorie d'appareil matériel

Filtre les modèles par l’appareil matériel sur lequel ils s’exécutent.

Valeurs possibles :

• CPU - Modèles d’unité de traitement central
• GPU - Modèles d’unité de traitement graphique
• NPU - Modèles d’unité de traitement neuronal

fournisseur - Fournisseur d’exécution

Filtre les modèles par leur fournisseur d’exécution ou leur runtime.

Valeurs possibles :

• CPUExecutionProvider - Exécution basée sur le processeur
• CUDAExecutionProvider - Exécution du GPU NVIDIA CUDA
• WebGpuExecutionProvider - Exécution de WebGPU
• QNNExecutionProvider - Exécution du réseau neuronal Qualcomm (NPU)
• OpenVINOExecutionProvider - Exécution d’Intel OpenVINO
• NvTensorRTRTXExecutionProvider - Exécution de TensorRT NVIDIA
• VitisAIExecutionProvider - Exécution d’AMD Vitis AI

tâche - Type de tâche modèle

Filtre les modèles selon leur cas d’usage ou leur tâche prévue.

Valeurs courantes :

• chat-completion: Modèles IA conversationnels
• text-generation: Modèles de génération de texte

alias - Alias de modèle

Filtre les modèles par leur identificateur d’alias. Prend en charge la correspondance de caractères génériques avec le suffixe *.

Exemples de valeurs :

• phi4-cpu
• qwen2.5-coder-0.5b-instruct-generic-cpu
• deepseek-r1-distill-qwen-1.5b-generic-cpu
• phi-4-mini-instruct-generic-cpu

Fonctionnalités de filtre spéciales

Prise en charge de la négation : Préfixez n’importe quelle valeur avec ! pour exclure les modèles correspondants.

foundry model list --filter device=!GPU

Cette commande exclut les modèles GPU des résultats.

Référence : Fonctionnalités de filtre spéciales

Correspondance par caractère générique (alias uniquement) : Ajouter * pour faire correspondre les préfixes lors du filtrage par alias.

foundry model list --filter alias=qwen*

Cette commande retourne des modèles dont l’alias commence par qwen.

Référence : Fonctionnalités de filtre spéciales

Examples

foundry model list --filter device=GPU
foundry model list --filter task=chat-completion
foundry model list --filter provider=CUDAExecutionProvider

Ces exemples filtrent la liste des modèles par appareil, tâche et fournisseur d’exécution.

Référence : Filtrage de liste de modèles

Commandes de service

Le tableau suivant récapitule les commandes relatives à la gestion et à l’exécution du service Local Foundry :

Commandes de cache

Le tableau suivant récapitule les commandes permettant de gérer le cache local où les modèles sont stockés :

Fournisseurs d’exécution

Les fournisseurs d’exécution sont des bibliothèques d’accélération spécifiques au matériel qui exécutent des modèles aussi efficacement que possible sur votre appareil.

Fournisseurs d’exécution intégrés

Foundry Local inclut le fournisseur d’exécution du processeur, le fournisseur d’exécution webGPU et le fournisseur d’exécution CUDA.

Le fournisseur d’exécution CPU utilise les sous-routines MLAS (Microsoft Linear Algebra Subroutines) pour s’exécuter sur n’importe quel CPU et constitue la solution de repli pour Foundry Local.

Le fournisseur d’exécution WebGPU utilise Dawn, l’implémentation native de l’API Web, pour l’accélération sur n’importe quel GPU et sert de solution de repli pour le GPU de Foundry Local.

Le fournisseur d’exécution CUDA utilise NVIDIA CUDA pour l’accélération sur les GPU NVIDIA. Il nécessite une série NVIDIA GeForce RTX 30 et versions ultérieures avec une version minimale recommandée du pilote 32.0.15.5585 et CUDA version 12.5. Il est soumis aux termes du contrat de licence suivant : Contrat de licence pour les kits de développement logiciel NVIDIA — CLUF.

Fournisseurs d’exécution de plug-ins

Les fournisseurs d’exécution répertoriés dans le tableau suivant sont disponibles pour le téléchargement et l’inscription dynamiques sur Windows, en fonction de la compatibilité des périphériques et des pilotes. Ils sont soumis aux termes du contrat de licence spécifiés.

Foundry Local télécharge automatiquement ces fournisseurs d’exécution lors de la première exécution. Les fournisseurs d’exécution de plug-in sont automatiquement mis à jour lorsque de nouvelles versions sont disponibles.