通过 CLI (v1) 将模型部署到 Azure 容器实例

了解如何使用 Azure 机器学习将模型部署为 Azure 容器实例 (ACI) 中的 Web 服务。 如果你符合以下情况，可使用 Azure 容器实例：

• 不愿意管理自己的 Kubernetes 群集
• 可以接受只拥有服务的单个副本，这可能会影响运行时间

有关 ACI 的配额和区域可用性的信息，请参阅 Azure 容器实例的配额和区域可用性文章。

Prerequisites

• Azure 机器学习工作区。 有关详细信息，请参阅创建 Azure 机器学习工作区。

• 工作区中注册的机器学习模型。 如果尚未注册模型，请参阅部署模型的方式和位置。

• 机器学习服务的 Azure CLI 扩展 (v1)、Azure 机器学习 Python SDK 或 Azure 机器学习 Visual Studio Code 扩展。

• 本文中的 Python 代码片段假设已设置以下变量：

  • ws - 设置为工作区。
  • model - 设置为已注册模型。
  • inference_config - 设置为模型的推理配置。

  有关如何设置这些变量的详细信息，请参阅部署模型的方式和位置。

• 本文中的 CLI 片段假设已创建 文档。inferenceconfig.json 有关如何创建此文档的详细信息，请参阅部署模型的方式和位置。

限制

部署到 ACI

若要将模型部署到 Azure 容器实例，请创建一个描述所需计算资源的部署配置。 例如，核心数和内存。 此外，还需要推理配置，以描述托管模型和 Web 服务所需的环境。 有关如何创建推理配置的详细信息，请参阅部署模型的方式和位置。

使用 SDK

适用于：适用于 Python 的 Azure 机器学习 SDK v1

from azureml.core.webservice import AciWebservice, Webservice
from azureml.core.model import Model

deployment_config = AciWebservice.deploy_configuration(cpu_cores = 1, memory_gb = 1)
service = Model.deploy(ws, "aciservice", [model], inference_config, deployment_config)
service.wait_for_deployment(show_output = True)
print(service.state)

有关此示例中使用的类、方法和参数的详细信息，请参阅以下参考文档：

• AciWebservice.deploy_configuration
• Model.deploy
• Webservice.等待部署

使用 Azure CLI

适用于：Azure CLI ml 扩展 v1

要使用 CLI 进行部署，请使用以下命令。 将 mymodel:1 替换为注册的模型的名称和版本。 将 myservice 替换为要赋予此服务的名称：

az ml model deploy -n myservice -m mymodel:1 --ic inferenceconfig.json --dc deploymentconfig.json

deploymentconfig.json 文档中的条目映射到 AciWebservice.deploy_configuration 的参数。 下表描述了 JSON 文档中的实体与方法参数之间的映射：

以下 JSON 是用于 CLI 的部署配置示例：

{
    "computeType": "aci",
    "containerResourceRequirements":
    {
        "cpu": 0.5,
        "memoryInGB": 1.0
    },
    "authEnabled": true,
    "sslEnabled": false,
    "appInsightsEnabled": false
}

有关详细信息，请参阅 az ml model deploy 参考文档。

使用 VS Code

请参阅如何在 VS Code 中管理资源。

后续步骤

• 如何使用自定义 Docker 映像部署模型
• 部署故障排除
• 更新 Web 服务
• 使用 TLS 通过 Azure 机器学习保护 Web 服务
• 使用部署为 Web 服务的机器学习模型
• 使用 Application Insights 监视 Azure 机器学习模型
• 为生产环境中的模型收集数据