你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn

用于推理的 Docker 映像

Azure 机器学习为推理(评分)提供预生成的 Docker 映像。 这些映像包括常用的机器学习框架和常用的 Python 包。 根据需要扩展映像以添加更多包。

为何使用预生成映像

使用预生成的映像可通过多种方式提供帮助:

  • 降低模型部署延迟
  • 提高部署成功率
  • 避免在部署期间生成容器映像
  • 仅包含所需的依赖项和最低访问权限,以保持镜像较小

用于推理的预生成 Docker 映像列表

重要说明

下表中的列表仅包含 Azure 机器学习 当前支持的推理 Docker 映像。

  • 所有映像均以非根用户身份运行。
  • 使用 latest 标记。 预生成的映像发布到Microsoft容器注册表(MCR)。 若要查看可用的标记,请转到 MCR GitHub 存储库
  • 如果需要特定标记,Azure 机器学习支持比 latest 早最多六个月的标签。

推理最小基映像

框架版本 CPU/GPU 预安装的包 MCR 路径
NA CPU NA mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest
NA GPU NA mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest
NA CPU NA mcr.microsoft.com/azureml/minimal-py312-inference:latest

注意

Azure 机器学习支持 特选环境。 若要在 Studio 中浏览特选环境,请转到 “管理工作室中的环境 ”并应用筛选器 Tags: Inferencing