你当前正在访问 Microsoft Azure Global Edition 技术文档网站。 如果需要访问由世纪互联运营的 Microsoft Azure 中国技术文档网站,请访问 https://docs.azure.cn。
Azure 机器学习为推理(评分)提供预生成的 Docker 映像。 这些映像包括常用的机器学习框架和常用的 Python 包。 根据需要扩展映像以添加更多包。
为何使用预生成映像
使用预生成的映像可通过多种方式提供帮助:
- 降低模型部署延迟
- 提高部署成功率
- 避免在部署期间生成容器映像
- 仅包含所需的依赖项和最低访问权限,以保持镜像较小
用于推理的预生成 Docker 映像列表
重要说明
下表中的列表仅包含 Azure 机器学习 当前支持的推理 Docker 映像。
- 所有映像均以非根用户身份运行。
- 使用
latest标记。 预生成的映像发布到Microsoft容器注册表(MCR)。 若要查看可用的标记,请转到 MCR GitHub 存储库。 - 如果需要特定标记,Azure 机器学习支持比
latest早最多六个月的标签。
推理最小基映像
| 框架版本 | CPU/GPU | 预安装的包 | MCR 路径 |
|---|---|---|---|
| NA | CPU | NA | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest |
| NA | GPU | NA | mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest |
| NA | CPU | NA | mcr.microsoft.com/azureml/minimal-py312-inference:latest |
注意
Azure 机器学习支持 特选环境。 若要在 Studio 中浏览特选环境,请转到 “管理工作室中的环境 ”并应用筛选器 Tags: Inferencing。