Foundry ローカル「CLI」リファレンス

この記事では、Foundry Local コマンド ライン インターフェイス (CLI) の包括的なリファレンスを提供します。 CLI は、モデルの管理、サービスの制御、ローカル キャッシュの維持に役立つコマンドを論理カテゴリに編成します。

[前提条件]

• Foundry Local をインストールします。 セットアップ手順については、「 Foundry Local の概要」を参照してください。
• foundry CLI が使用可能なローカル ターミナルを使用します。
• インターネットに接続して、初回のダウンロード (実行プロバイダーとモデル) ができることを確認してください。
• Azure RBAC: 適用できません (ローカルで実行されます)。
• Windows 上に Intel NPU がある場合は、最適な NPU アクセラレーションのために Intel NPU ドライバー をインストールします。

クイック検証

これらのコマンドを実行して、CLI がインストールされ、サービスに到達可能であることを確認します。

1. CLI のヘルプを表示する:

    foundry --help
   

   このコマンドは、使用状況情報と使用可能なコマンド グループの一覧を出力します。

   リファレンス: 概要

2. サービスの状態を確認します。

    foundry service status
   

   このコマンドは、Foundry Local サービスが実行されていて、そのローカル エンドポイントが含まれているかどうかを出力します。

   リファレンス: サービス コマンド

概要

組み込みのヘルプを使用して、コマンドとオプションを調べる。

CLI は、次の 3 つの主要なカテゴリにコマンドを整理します。

• モデル: AI モデルを管理および実行するためのコマンド
• サービス: Foundry Local サービスを制御するためのコマンド
• キャッシュ: ローカル モデル ストレージを管理するためのコマンド

モデル コマンド

次の表は、モデルの管理と実行に関連するコマンドをまとめたものです。

モデル リストの順序付け

エイリアスに対して複数のモデル ID バリアントを使用できる場合、モデルの一覧にモデルが優先順位で表示されます。 一覧の最初のモデルは、 aliasでモデルを指定したときに実行されるモデルです。

モデルリストのフィルタリング

foundry model list コマンドでは、--filter オプションを使用したモデルのフィルター処理がサポートされています。 キーと値のペアを使用して、1 つの属性に基づいてモデルをフィルター処理できます。

foundry model list --filter <key>=<value>

このコマンドは、フィルター キーと値に一致するモデルを出力します。

リファレンス: モデル リストのフィルター処理

サポートされているフィルター キー:

デバイス - ハードウェア デバイスの種類

実行されているハードウェア デバイスによってモデルをフィルター処理します。

使用可能な値:

• CPU - 中央処理装置モデル
• GPU - グラフィックス処理装置モデル
• NPU - ニューラル処理ユニット モデル

プロバイダー - 実行プロバイダー

実行プロバイダーまたはランタイムによってモデルをフィルター処理します。

使用可能な値:

• CPUExecutionProvider - CPU ベースの実行
• CUDAExecutionProvider - NVIDIA CUDA GPU の実行
• WebGpuExecutionProvider - WebGPU の実行
• QNNExecutionProvider - Qualcomm ニューラルネットワーク処理 (NPU)
• OpenVINOExecutionProvider - Intel OpenVINO の実行
• NvTensorRTRTXExecutionProvider - NVIDIA TensorRT の実行
• VitisAIExecutionProvider - AMD Vitis AI の実行

task - モデル タスクの種類

モデルを目的のユース ケースまたはタスクでフィルター処理します。

一般的な値:

• chat-completion: 会話型 AI モデル
• text-generation: テキスト生成モデル

alias - モデルエイリアス

エイリアス識別子でモデルをフィルター処理します。 * サフィックスを使用したワイルドカード 照合をサポートします。

サンプル値:

• phi4-cpu
• qwen2.5-coder-0.5b-instruct-generic-cpu
• deepseek-r1-distill-qwen-1.5b-generic-cpu
• phi-4-mini-instruct-generic-cpu

特殊なフィルター機能

否定のサポート: 一致するモデルを除外するには、 ! を使用して値のプレフィックスを付けます。

foundry model list --filter device=!GPU

このコマンドは、結果から GPU モデルを除外します。

リファレンス: 特殊なフィルター機能

ワイルドカード一致 (エイリアスのみ): エイリアスでフィルター処理するときにプレフィックスに一致する * を追加します。

foundry model list --filter alias=qwen*

このコマンドは、エイリアスが qwen で始まるモデルを返します。

リファレンス: 特殊なフィルター機能

例示

foundry model list --filter device=GPU
foundry model list --filter task=chat-completion
foundry model list --filter provider=CUDAExecutionProvider

次の例では、デバイス、タスク、実行プロバイダーによってモデルの一覧をフィルター処理します。

リファレンス: モデル リストのフィルター処理

サービス命令

次の表は、Foundry Local サービスの管理と実行に関連するコマンドをまとめたものです。

キャッシュ コマンド

次の表は、モデルが格納されているローカル キャッシュを管理するためのコマンドをまとめたものです。

実行プロバイダー

実行プロバイダーは、デバイスで可能な限り効率的にモデルを実行するハードウェア固有のアクセラレーション ライブラリです。

組み込みの実行プロバイダー

Foundry Local には、CPU 実行プロバイダー、WebGPU 実行プロバイダー、および CUDA 実行プロバイダーが含まれます。

CPU 実行プロバイダーは 、Microsoft Linear Algebra サブルーチン (MLAS) を使用して任意の CPU で実行され、Foundry Local の CPU フォールバックです。

WebGPU 実行プロバイダーは、Web ベースの API のネイティブ実装である Dawn を任意の GPU 上の高速化に使用し、Foundry Local の GPU フォールバックです。

CUDA 実行プロバイダーは、NVIDIA GPU の高速化に NVIDIA CUDA を使用します。 最小推奨ドライバー バージョン 32.0.15.5585 および CUDA バージョン 12.5 を備えた NVIDIA GeForce RTX 30 シリーズ以降が必要です。 NVIDIA ソフトウェア開発キットの使用許諾契約書 (EULA) のライセンス条項が適用されます。

プラグイン実行プロバイダー

次の表に示す実行プロバイダーは、デバイスとドライバーの互換性に応じて、Windows での動的なダウンロードと登録に使用できます。 指定されたライセンス条項に従います。

Foundry Local では、最初の実行時にこれらの実行プロバイダーが自動的にダウンロードされます。 プラグイン実行プロバイダーは、新しいバージョンが利用可能になると自動的に更新されます。