az ml online-endpoint
Note
Ta dokumentacja jest częścią rozszerzenia ml dla interfejsu wiersza polecenia platformy Azure (wersja 2.15.0 lub nowsza). Rozszerzenie automatycznie zainstaluje polecenie az ml online-endpoint. Dowiedz się więcej o rozszerzeniach.
Zarządzanie punktami końcowymi online usługi Azure ML.
Punkty końcowe usługi Azure ML zapewniają prosty interfejs do tworzenia wdrożeń modelu i zarządzania nimi. Każdy punkt końcowy może mieć co najmniej jedno wdrożenie, umożliwiając obsługę ruchu z jednego punktu końcowego oceniania do wielu wdrożeń w razie potrzeby. Jest to przydatne w scenariuszach, takich jak kontrolowane wdrażanie.
Usługa Azure ML obsługuje dwa typy punktów końcowych: online i batch. Punkty końcowe online obsługują wnioskowanie w czasie rzeczywistym, podczas gdy punkty końcowe wsadowe są używane do oceniania wsadowego w trybie offline.
Polecenia
| Nazwa | Opis | Typ | Stan |
|---|---|---|---|
| az ml online-endpoint create |
Utwórz punkt końcowy. |
Extension | ogólna dostępność |
| az ml online-endpoint delete |
Usuwanie punktu końcowego. |
Extension | ogólna dostępność |
| az ml online-endpoint get-credentials |
Wyświetl listę tokenów/kluczy dla punktu końcowego online. |
Extension | ogólna dostępność |
| az ml online-endpoint invoke |
Wywoływanie punktu końcowego. |
Extension | ogólna dostępność |
| az ml online-endpoint list |
Wyświetlanie listy punktów końcowych w obszarze roboczym. |
Extension | ogólna dostępność |
| az ml online-endpoint regenerate-keys |
Wygeneruj ponownie klucze dla punktu końcowego online. |
Extension | ogólna dostępność |
| az ml online-endpoint show |
Pokaż szczegóły punktu końcowego. |
Extension | ogólna dostępność |
| az ml online-endpoint update |
Aktualizowanie punktu końcowego. |
Extension | ogólna dostępność |
az ml online-endpoint create
Utwórz punkt końcowy.
Aby utworzyć punkt końcowy, podaj plik YAML z konfiguracją punktu końcowego online. Jeśli punkt końcowy już istnieje, zakończy się niepowodzeniem. Jeśli chcesz zaktualizować istniejący punkt końcowy, użyj polecenia az ml online-endpoint update.
az ml online-endpoint create --resource-group
--workspace-name
[--auth-mode]
[--file]
[--local {false, true}]
[--name]
[--no-wait]
[--set]
[--web]
Przykłady
Tworzenie punktu końcowego na podstawie pliku specyfikacji YAML
az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace
Parametry wymagane
Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu az configure --defaults group=<name>.
Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.
Parametry opcjonalne
Poniższe parametry są opcjonalne, ale w zależności od kontekstu co najmniej jeden może być wymagany do pomyślnego wykonania polecenia.
Metoda uwierzytelniania dla punktu końcowego. Dozwolone wartości: klucz, aml_token. Wartość domyślna: klucz.
Ścieżka lokalna do pliku YAML zawierającego specyfikację punktu końcowego online usługi Azure ML. Dokumentację referencyjną YAML dotyczącą punktu końcowego online można znaleźć na stronie: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.
Utwórz punkt końcowy lokalnie. Uwaga: ruch i uwierzytelnianie nie są obsługiwane lokalnie. Możesz bezpośrednio użyć polecenia "az ml online-deployment create --local". Jeśli taki punkt końcowy nie istnieje, zostanie utworzony punkt końcowy.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
| Dopuszczalne wartości: | false, true |
Nazwa punktu końcowego online.
Nie czekaj na zakończenie długotrwałej operacji. Wartość domyślna to False.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Zaktualizuj obiekt, określając ścieżkę właściwości i wartość do ustawienia. Przykład: --set property1.property2=value.
Pokaż szczegóły punktu końcowego w programie Azure ML Studio w przeglądarce internetowej.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Parametry globalne
Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Pokaż ten komunikat pomocy i zakończ pracę.
Pokaż tylko błędy, pomijając ostrzeżenia.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Format danych wyjściowych.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | json |
| Dopuszczalne wartości: | json, jsonc, none, table, tsv, yaml, yamlc |
Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.
Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu az account set -s NAME_OR_ID.
Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
az ml online-endpoint delete
Usuwanie punktu końcowego.
az ml online-endpoint delete --name
--resource-group
--workspace-name
[--local {false, true}]
[--no-wait]
[--yes]
Przykłady
Usuwanie punktu końcowego online, w tym wszystkich wdrożeń
az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Parametry wymagane
Nazwa punktu końcowego online.
Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu az configure --defaults group=<name>.
Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.
Parametry opcjonalne
Poniższe parametry są opcjonalne, ale w zależności od kontekstu co najmniej jeden może być wymagany do pomyślnego wykonania polecenia.
Usuń lokalny punkt końcowy.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
| Dopuszczalne wartości: | false, true |
Nie czekaj na zakończenie długotrwałej operacji. Wartość domyślna to False.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Nie monituj o potwierdzenie.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Parametry globalne
Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Pokaż ten komunikat pomocy i zakończ pracę.
Pokaż tylko błędy, pomijając ostrzeżenia.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Format danych wyjściowych.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | json |
| Dopuszczalne wartości: | json, jsonc, none, table, tsv, yaml, yamlc |
Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.
Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu az account set -s NAME_OR_ID.
Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
az ml online-endpoint get-credentials
Wyświetl listę tokenów/kluczy dla punktu końcowego online.
az ml online-endpoint get-credentials --name
--resource-group
--workspace-name
Przykłady
Wyświetlanie listy kluczy dla punktu końcowego online
az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Parametry wymagane
Nazwa punktu końcowego online.
Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu az configure --defaults group=<name>.
Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.
Parametry globalne
Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Pokaż ten komunikat pomocy i zakończ pracę.
Pokaż tylko błędy, pomijając ostrzeżenia.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Format danych wyjściowych.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | json |
| Dopuszczalne wartości: | json, jsonc, none, table, tsv, yaml, yamlc |
Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.
Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu az account set -s NAME_OR_ID.
Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
az ml online-endpoint invoke
Wywoływanie punktu końcowego.
Możesz wywołać punkt końcowy online z niektórymi danymi żądania. Będzie to wnioskowanie w czasie rzeczywistym, a wyniki oceniania zostaną zwrócone natychmiast.
az ml online-endpoint invoke --name
--resource-group
--workspace-name
[--deployment-name]
[--local {false, true}]
[--request-file]
Przykłady
Wywoływanie punktu końcowego online z danymi żądania
az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace
Wywoływanie punktu końcowego online przeznaczonego dla określonego wdrożenia
az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace
Parametry wymagane
Nazwa punktu końcowego online.
Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu az configure --defaults group=<name>.
Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.
Parametry opcjonalne
Poniższe parametry są opcjonalne, ale w zależności od kontekstu co najmniej jeden może być wymagany do pomyślnego wykonania polecenia.
Nazwa wdrożenia docelowego.
Wywoływanie lokalnego punktu końcowego. Będzie to działać tylko w przypadku utworzenia lokalnego wdrożenia dla tego punktu końcowego.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
| Dopuszczalne wartości: | false, true |
Ścieżka lokalna do pliku JSON zawierającego dane żądania.
Parametry globalne
Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Pokaż ten komunikat pomocy i zakończ pracę.
Pokaż tylko błędy, pomijając ostrzeżenia.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Format danych wyjściowych.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | json |
| Dopuszczalne wartości: | json, jsonc, none, table, tsv, yaml, yamlc |
Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.
Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu az account set -s NAME_OR_ID.
Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
az ml online-endpoint list
Wyświetlanie listy punktów końcowych w obszarze roboczym.
az ml online-endpoint list --resource-group
--workspace-name
[--local {false, true}]
Przykłady
Wyświetlanie listy wszystkich punktów końcowych online w obszarze roboczym
az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace
Wyświetlanie listy wszystkich punktów końcowych wsadowych w obszarze roboczym
az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace
Wyświetl listę wszystkich punktów końcowych online w obszarze roboczym przy użyciu argumentu --query w celu wykonania zapytania JMESPath na wynikach poleceń.
az ml online-endpoint list --query "[].{Name:name}" --output table --resource-group my-resource-group --workspace-name my-workspace
Parametry wymagane
Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu az configure --defaults group=<name>.
Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.
Parametry opcjonalne
Poniższe parametry są opcjonalne, ale w zależności od kontekstu co najmniej jeden może być wymagany do pomyślnego wykonania polecenia.
Wyświetl listę wszystkich lokalnych punktów końcowych.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
| Dopuszczalne wartości: | false, true |
Parametry globalne
Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Pokaż ten komunikat pomocy i zakończ pracę.
Pokaż tylko błędy, pomijając ostrzeżenia.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Format danych wyjściowych.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | json |
| Dopuszczalne wartości: | json, jsonc, none, table, tsv, yaml, yamlc |
Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.
Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu az account set -s NAME_OR_ID.
Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
az ml online-endpoint regenerate-keys
Wygeneruj ponownie klucze dla punktu końcowego online.
az ml online-endpoint regenerate-keys --name
--resource-group
--workspace-name
[--key-type]
[--no-wait]
Przykłady
Ponowne generowanie kluczy dla punktu końcowego online
az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Parametry wymagane
Nazwa punktu końcowego online.
Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu az configure --defaults group=<name>.
Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.
Parametry opcjonalne
Poniższe parametry są opcjonalne, ale w zależności od kontekstu co najmniej jeden może być wymagany do pomyślnego wykonania polecenia.
Typ klucza do ponownego wygenerowania. Dozwolone wartości: podstawowy, pomocniczy.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | primary |
Nie czekaj na zakończenie długotrwałej operacji. Wartość domyślna to False.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Parametry globalne
Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Pokaż ten komunikat pomocy i zakończ pracę.
Pokaż tylko błędy, pomijając ostrzeżenia.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Format danych wyjściowych.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | json |
| Dopuszczalne wartości: | json, jsonc, none, table, tsv, yaml, yamlc |
Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.
Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu az account set -s NAME_OR_ID.
Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
az ml online-endpoint show
Pokaż szczegóły punktu końcowego.
az ml online-endpoint show --name
--resource-group
--workspace-name
[--local {false, true}]
[--web]
Przykłady
Pokaż szczegóły punktu końcowego wsadowego
az ml online-endpoint show --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace
Pokaż stan aprowizacji punktu końcowego przy użyciu argumentu --query w celu wykonania zapytania JMESPath na wynikach poleceń.
az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}" --output table --resource-group my-resource-group --workspace-name my-workspace
Parametry wymagane
Nazwa punktu końcowego online.
Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu az configure --defaults group=<name>.
Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.
Parametry opcjonalne
Poniższe parametry są opcjonalne, ale w zależności od kontekstu co najmniej jeden może być wymagany do pomyślnego wykonania polecenia.
Pokaż lokalny punkt końcowy.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
| Dopuszczalne wartości: | false, true |
Pokaż szczegóły punktu końcowego w programie Azure ML Studio w przeglądarce internetowej.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Parametry globalne
Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Pokaż ten komunikat pomocy i zakończ pracę.
Pokaż tylko błędy, pomijając ostrzeżenia.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Format danych wyjściowych.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | json |
| Dopuszczalne wartości: | json, jsonc, none, table, tsv, yaml, yamlc |
Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.
Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu az account set -s NAME_OR_ID.
Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
az ml online-endpoint update
Aktualizowanie punktu końcowego.
Właściwości "description", "tags" i "traffic" punktu końcowego można zaktualizować. Ponadto nowe wdrożenia można dodać do punktu końcowego, a istniejące wdrożenia można zaktualizować.
az ml online-endpoint update --resource-group
--workspace-name
[--add]
[--file]
[--force-string]
[--local {false, true}]
[--mirror-traffic]
[--name]
[--no-wait]
[--remove]
[--set]
[--traffic]
[--web]
Przykłady
Aktualizowanie punktu końcowego z pliku specyfikacji YAML
az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace
Aktualizowanie ustawień ruchu dla punktu końcowego
az ml online-endpoint update --name my-online-endpoint --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace
Parametry wymagane
Nazwa grupy zasobów. Grupę domyślną można skonfigurować przy użyciu az configure --defaults group=<name>.
Nazwa obszaru roboczego usługi Azure ML. Domyślny obszar roboczy można skonfigurować przy użyciu polecenia az configure --defaults workspace=<name>.
Parametry opcjonalne
Poniższe parametry są opcjonalne, ale w zależności od kontekstu co najmniej jeden może być wymagany do pomyślnego wykonania polecenia.
Dodaj obiekt do listy obiektów, określając pary ścieżki i wartości klucza. Przykład: --add property.listProperty <key=value, string or JSON string>.
| Właściwość | Wartość |
|---|---|
| Grupa parametrów: | Generic Update Arguments |
| Domyślna wartość: | [] |
Ścieżka lokalna do pliku YAML zawierającego specyfikację punktu końcowego online usługi Azure ML. Dokumentację referencyjną YAML dotyczącą punktu końcowego online można znaleźć na stronie: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.
W przypadku używania polecenia "set" lub "add" zachowaj literały ciągu zamiast próbować konwertować na format JSON.
| Właściwość | Wartość |
|---|---|
| Grupa parametrów: | Generic Update Arguments |
| Domyślna wartość: | False |
Zaktualizuj lokalny punkt końcowy.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
| Dopuszczalne wartości: | false, true |
Kieruje zduplikowany procent ruchu na żywo do trenowania wdrożenia.
Nazwa punktu końcowego online.
Nie czekaj na zakończenie długotrwałej operacji. Wartość domyślna to False.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Usuń właściwość lub element z listy. Przykład: --remove property.list <indexToRemove> OR --remove propertyToRemove.
| Właściwość | Wartość |
|---|---|
| Grupa parametrów: | Generic Update Arguments |
| Domyślna wartość: | [] |
Zaktualizuj obiekt, określając ścieżkę właściwości i wartość do ustawienia. Przykład: --set property1.property2=<value>.
| Właściwość | Wartość |
|---|---|
| Grupa parametrów: | Generic Update Arguments |
| Domyślna wartość: | [] |
Pary klucz-wartość rozdzielone spacjami w cudzysłowie dla ustawień ruchu dla punktu końcowego.
Pokaż szczegóły punktu końcowego w programie Azure ML Studio w przeglądarce internetowej.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Parametry globalne
Zwiększ szczegółowość rejestrowania, aby wyświetlić wszystkie dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Pokaż ten komunikat pomocy i zakończ pracę.
Pokaż tylko błędy, pomijając ostrzeżenia.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |
Format danych wyjściowych.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | json |
| Dopuszczalne wartości: | json, jsonc, none, table, tsv, yaml, yamlc |
Ciąg zapytania JMESPath. Zobacz http://jmespath.org/ , aby uzyskać więcej informacji i przykładów.
Nazwa lub identyfikator subskrypcji. Subskrypcję domyślną można skonfigurować przy użyciu az account set -s NAME_OR_ID.
Zwiększ szczegółowość rejestrowania. Użyj --debuguj, aby uzyskać pełne dzienniki debugowania.
| Właściwość | Wartość |
|---|---|
| Domyślna wartość: | False |