Partager via

az ml online-endpoint

Note

Cette référence fait partie de l’extension ml pour Azure CLI (version 2.15.0 ou ultérieure). L’extension installe automatiquement la première fois que vous exécutez une az ml online-endpoint commande. Apprenez-en davantage sur les extensions.

Gérer les points de terminaison en ligne Azure ML.

Les points de terminaison Azure ML fournissent une interface simple pour créer et gérer des déploiements de modèles. Chaque point de terminaison peut avoir un ou plusieurs déploiements, ce qui permet au trafic d’un point de terminaison de scoring unique d’être servi à plusieurs déploiements si nécessaire. Cela est utile pour les scénarios tels que le déploiement contrôlé.

Azure ML prend en charge deux types de points de terminaison : en ligne et par lots. Les points de terminaison en ligne prennent en charge l’inférence en temps réel, tandis que les points de terminaison batch sont utilisés pour le scoring par lots hors connexion.

Commandes

Nom Description Type État
az ml online-endpoint create

Créez un point de terminaison.

 Extension GA
az ml online-endpoint delete

Supprimez un point de terminaison.

 Extension GA
az ml online-endpoint get-credentials

Répertoriez le jeton/les clés d’un point de terminaison en ligne.

 Extension GA
az ml online-endpoint invoke

Appelez un point de terminaison.

 Extension GA
az ml online-endpoint list

Répertorier les points de terminaison dans un espace de travail.

 Extension GA
az ml online-endpoint regenerate-keys

Régénérez les clés d’un point de terminaison en ligne.

 Extension GA
az ml online-endpoint show

Afficher les détails d’un point de terminaison.

 Extension GA
az ml online-endpoint update

Mettez à jour un point de terminaison.

 Extension GA

az ml online-endpoint create

Créez un point de terminaison.

Pour créer un point de terminaison, fournissez un fichier YAML avec une configuration de point de terminaison en ligne. Si le point de terminaison existe déjà, il échoue. Si vous souhaitez mettre à jour un point de terminaison existant, utilisez az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Exemples

Créer un point de terminaison à partir d’un fichier de spécification YAML

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut à l’aide de az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

Les paramètres suivants sont facultatifs, mais en fonction du contexte, un ou plusieurs peuvent être nécessaires pour que la commande s’exécute correctement.

--auth-mode

Méthode d’authentification pour le point de terminaison. Valeurs autorisées : clé, aml_token. Valeur par défaut : clé.

--file -f

Chemin local du fichier YAML contenant la spécification du point de terminaison en ligne Azure ML. Vous trouverez les documents de référence YAML pour le point de terminaison en ligne à l’adresse : https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Créez un point de terminaison localement. Remarque : le trafic et l’authentification ne sont pas pris en charge localement. Vous pouvez utiliser « az ml online-deployment create --local » directement. Il crée un point de terminaison s’il n’existe pas.

Propriété Valeur
Valeur par défaut: False
Valeurs acceptées: false, true
--name -n

Nom du point de terminaison en ligne.

--no-wait

N’attendez pas la fin de l’opération de longue durée. La valeur par défaut est False.

Propriété Valeur
Valeur par défaut: False
--set

Mettez à jour un objet en spécifiant un chemin d’accès et une valeur de propriété à définir. Exemple : --set property1.property2=value.

--web -e

Afficher les détails du point de terminaison dans Azure ML Studio dans un navigateur web.

Propriété Valeur
Valeur par défaut: False
Paramètres globaux
--debug

Augmentez la verbosité de la journalisation pour afficher tous les logs de débogage.

Propriété Valeur
Valeur par défaut: False
--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

Propriété Valeur
Valeur par défaut: False
--output -o

Format de sortie.

Propriété Valeur
Valeur par défaut: json
Valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
--query

Chaîne de requête JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut à l’aide de az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de verbosité de la journalisation. Utilisez --debug pour les journaux de débogage complets.

Propriété Valeur
Valeur par défaut: False

az ml online-endpoint delete

Supprimez un point de terminaison.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Exemples

Supprimer un point de terminaison en ligne, y compris tous ses déploiements

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut à l’aide de az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

Les paramètres suivants sont facultatifs, mais en fonction du contexte, un ou plusieurs peuvent être nécessaires pour que la commande s’exécute correctement.

--local

Supprimez le point de terminaison local.

Propriété Valeur
Valeur par défaut: False
Valeurs acceptées: false, true
--no-wait

N’attendez pas la fin de l’opération de longue durée. La valeur par défaut est False.

Propriété Valeur
Valeur par défaut: False
--yes -y

N’invitez pas à confirmer.

Propriété Valeur
Valeur par défaut: False
Paramètres globaux
--debug

Augmentez la verbosité de la journalisation pour afficher tous les logs de débogage.

Propriété Valeur
Valeur par défaut: False
--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

Propriété Valeur
Valeur par défaut: False
--output -o

Format de sortie.

Propriété Valeur
Valeur par défaut: json
Valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
--query

Chaîne de requête JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut à l’aide de az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de verbosité de la journalisation. Utilisez --debug pour les journaux de débogage complets.

Propriété Valeur
Valeur par défaut: False

az ml online-endpoint get-credentials

Répertoriez le jeton/les clés d’un point de terminaison en ligne.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Exemples

Répertorier les clés d’un point de terminaison en ligne

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut à l’aide de az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres globaux
--debug

Augmentez la verbosité de la journalisation pour afficher tous les logs de débogage.

Propriété Valeur
Valeur par défaut: False
--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

Propriété Valeur
Valeur par défaut: False
--output -o

Format de sortie.

Propriété Valeur
Valeur par défaut: json
Valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
--query

Chaîne de requête JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut à l’aide de az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de verbosité de la journalisation. Utilisez --debug pour les journaux de débogage complets.

Propriété Valeur
Valeur par défaut: False

az ml online-endpoint invoke

Appelez un point de terminaison.

Vous pouvez appeler un point de terminaison en ligne avec certaines données de requête. Il s’agit d’une inférence en temps réel, et les résultats de scoring sont retournés immédiatement.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Exemples

Appeler un point de terminaison en ligne avec certaines données de requête

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Appeler un point de terminaison en ligne, ciblant un déploiement spécifique

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut à l’aide de az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

Les paramètres suivants sont facultatifs, mais en fonction du contexte, un ou plusieurs peuvent être nécessaires pour que la commande s’exécute correctement.

--deployment-name -d

Nom du déploiement à cibler.

--local

Appelez le point de terminaison local. Cela fonctionne uniquement si un déploiement local a été créé pour ce point de terminaison.

Propriété Valeur
Valeur par défaut: False
Valeurs acceptées: false, true
--request-file -r

Chemin d’accès local au fichier JSON contenant les données de requête.

Paramètres globaux
--debug

Augmentez la verbosité de la journalisation pour afficher tous les logs de débogage.

Propriété Valeur
Valeur par défaut: False
--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

Propriété Valeur
Valeur par défaut: False
--output -o

Format de sortie.

Propriété Valeur
Valeur par défaut: json
Valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
--query

Chaîne de requête JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut à l’aide de az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de verbosité de la journalisation. Utilisez --debug pour les journaux de débogage complets.

Propriété Valeur
Valeur par défaut: False

az ml online-endpoint list

Répertorier les points de terminaison dans un espace de travail.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Exemples

Répertorier tous les points de terminaison en ligne dans un espace de travail

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Répertorier tous les points de terminaison de lot dans un espace de travail

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Répertoriez tous les points de terminaison en ligne d’un espace de travail à l’aide de l’argument --query pour exécuter une requête JMESPath sur les résultats des commandes.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut à l’aide de az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

Les paramètres suivants sont facultatifs, mais en fonction du contexte, un ou plusieurs peuvent être nécessaires pour que la commande s’exécute correctement.

--local

Répertorier tous les points de terminaison locaux.

Propriété Valeur
Valeur par défaut: False
Valeurs acceptées: false, true
Paramètres globaux
--debug

Augmentez la verbosité de la journalisation pour afficher tous les logs de débogage.

Propriété Valeur
Valeur par défaut: False
--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

Propriété Valeur
Valeur par défaut: False
--output -o

Format de sortie.

Propriété Valeur
Valeur par défaut: json
Valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
--query

Chaîne de requête JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut à l’aide de az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de verbosité de la journalisation. Utilisez --debug pour les journaux de débogage complets.

Propriété Valeur
Valeur par défaut: False

az ml online-endpoint regenerate-keys

Régénérez les clés d’un point de terminaison en ligne.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Exemples

Régénérer les clés d’un point de terminaison en ligne

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut à l’aide de az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

Les paramètres suivants sont facultatifs, mais en fonction du contexte, un ou plusieurs peuvent être nécessaires pour que la commande s’exécute correctement.

--key-type

Type de clé à régénérer. Valeurs autorisées : primaire, secondaire.

Propriété Valeur
Valeur par défaut: primary
--no-wait

N’attendez pas la fin de l’opération de longue durée. La valeur par défaut est False.

Propriété Valeur
Valeur par défaut: False
Paramètres globaux
--debug

Augmentez la verbosité de la journalisation pour afficher tous les logs de débogage.

Propriété Valeur
Valeur par défaut: False
--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

Propriété Valeur
Valeur par défaut: False
--output -o

Format de sortie.

Propriété Valeur
Valeur par défaut: json
Valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
--query

Chaîne de requête JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut à l’aide de az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de verbosité de la journalisation. Utilisez --debug pour les journaux de débogage complets.

Propriété Valeur
Valeur par défaut: False

az ml online-endpoint show

Afficher les détails d’un point de terminaison.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Exemples

Afficher les détails d’un point de terminaison batch

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Affichez l’état d’approvisionnement d’un point de terminaison à l’aide de l’argument --query pour exécuter une requête JMESPath sur les résultats des commandes.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--name -n

Nom du point de terminaison en ligne.

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut à l’aide de az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

Les paramètres suivants sont facultatifs, mais en fonction du contexte, un ou plusieurs peuvent être nécessaires pour que la commande s’exécute correctement.

--local

Afficher le point de terminaison local.

Propriété Valeur
Valeur par défaut: False
Valeurs acceptées: false, true
--web -e

Afficher les détails du point de terminaison dans Azure ML Studio dans un navigateur web.

Propriété Valeur
Valeur par défaut: False
Paramètres globaux
--debug

Augmentez la verbosité de la journalisation pour afficher tous les logs de débogage.

Propriété Valeur
Valeur par défaut: False
--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

Propriété Valeur
Valeur par défaut: False
--output -o

Format de sortie.

Propriété Valeur
Valeur par défaut: json
Valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
--query

Chaîne de requête JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut à l’aide de az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de verbosité de la journalisation. Utilisez --debug pour les journaux de débogage complets.

Propriété Valeur
Valeur par défaut: False

az ml online-endpoint update

Mettez à jour un point de terminaison.

Les propriétés « description », « tags » et « traffic » d’un point de terminaison peuvent être mises à jour. De plus, de nouveaux déploiements peuvent être ajoutés à un point de terminaison, et les déploiements existants peuvent être mis à jour.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Exemples

Mettre à jour un point de terminaison à partir d’un fichier de spécification YAML

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Mettre à jour les paramètres de trafic d’un point de terminaison

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Paramètres obligatoires

--resource-group -g

Nom du groupe de ressources. Vous pouvez configurer le groupe par défaut à l’aide de az configure --defaults group=<name>.

--workspace-name -w

Nom de l’espace de travail Azure ML. Vous pouvez configurer l’espace de travail par défaut à l’aide az configure --defaults workspace=<name>de .

Paramètres facultatifs

Les paramètres suivants sont facultatifs, mais en fonction du contexte, un ou plusieurs peuvent être nécessaires pour que la commande s’exécute correctement.

--add

Ajoutez un objet à une liste d’objets en spécifiant un chemin d’accès et des paires clé-valeur. Exemple : --add property.listProperty <key=value, string or JSON string>.

Propriété Valeur
Groupe de paramètres: Generic Update Arguments
Valeur par défaut: []
--file -f

Chemin local du fichier YAML contenant la spécification du point de terminaison en ligne Azure ML. Vous trouverez les documents de référence YAML pour le point de terminaison en ligne à l’adresse : https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--force-string

Lorsque vous utilisez « set » ou « add », conservez les littéraux de chaîne au lieu de tenter de convertir en JSON.

Propriété Valeur
Groupe de paramètres: Generic Update Arguments
Valeur par défaut: False
--local

Mettez à jour le point de terminaison local.

Propriété Valeur
Valeur par défaut: False
Valeurs acceptées: false, true
--mirror-traffic

Dirige un pourcentage en double du trafic en direct vers un déploiement d’apprentissage.

--name -n

Nom du point de terminaison en ligne.

--no-wait

N’attendez pas la fin de l’opération de longue durée. La valeur par défaut est False.

Propriété Valeur
Valeur par défaut: False
--remove

Supprimez une propriété ou un élément d’une liste. Exemple : --remove property.list <indexToRemove> OR --remove propertyToRemove.

Propriété Valeur
Groupe de paramètres: Generic Update Arguments
Valeur par défaut: []
--set

Mettez à jour un objet en spécifiant un chemin d’accès et une valeur de propriété à définir. Exemple : --set property1.property2=<value>.

Propriété Valeur
Groupe de paramètres: Generic Update Arguments
Valeur par défaut: []
--traffic -r

Paires clé-valeur séparées par l’espace, entre guillemets, pour les paramètres de trafic du point de terminaison.

--web -e

Afficher les détails du point de terminaison dans Azure ML Studio dans un navigateur web.

Propriété Valeur
Valeur par défaut: False
Paramètres globaux
--debug

Augmentez la verbosité de la journalisation pour afficher tous les logs de débogage.

Propriété Valeur
Valeur par défaut: False
--help -h

Affichez ce message d’aide et quittez.

--only-show-errors

Afficher uniquement les erreurs, en supprimant les avertissements.

Propriété Valeur
Valeur par défaut: False
--output -o

Format de sortie.

Propriété Valeur
Valeur par défaut: json
Valeurs acceptées: json, jsonc, none, table, tsv, yaml, yamlc
--query

Chaîne de requête JMESPath. Pour plus d’informations et d’exemples, consultez http://jmespath.org/.

--subscription

Nom ou ID de l’abonnement. Vous pouvez configurer l’abonnement par défaut à l’aide de az account set -s NAME_OR_ID.

--verbose

Augmentez le niveau de verbosité de la journalisation. Utilisez --debug pour les journaux de débogage complets.

Propriété Valeur
Valeur par défaut: False