Usar GPUs do Windows para cargas de trabalho de computação intensiva no Serviço Kubernetes do Azure (AKS) (visualização)

As unidades de processamento gráfico (GPUs) são frequentemente usadas para cargas de trabalho de computação intensiva, como cargas de trabalho gráficas e de visualização. O AKS suporta pools de nós Windows e Linux habilitados para GPU para executar cargas de trabalho Kubernetes com uso intensivo de computação.

Este artigo ajuda você a provisionar nós do Windows com GPUs escalonáveis em clusters AKS novos e existentes (visualização).

Máquinas virtuais (VMs) habilitadas para GPU suportadas

Para exibir VMs habilitadas para GPU com suporte, consulte Tamanhos de VM otimizados para GPU no Azure. Para pools de nós AKS, recomendamos um tamanho mínimo de Standard_NC6s_v3. A série NVv4 (baseada em GPUs AMD) não é suportada no AKS.

Nota

As VMs habilitadas para GPU contêm hardware especializado sujeito a preços mais altos e disponibilidade de região. Para obter mais informações, consulte a ferramenta de preços e a disponibilidade da região.

Limitações

Não há suporte para a atualização de um pool de nós do Windows existente para adicionar GPU.
Não suportado no Kubernetes versão 1.28 e inferior.

Antes de começar

Este artigo pressupõe que você tenha um cluster AKS existente. Se você não tiver um cluster, crie um usando a CLI do Azure, o Azure PowerShell ou o portal do Azure.
Você precisa da CLI do Azure versão 2.72.2 ou posterior instalada e configurada para usar o --gpu-driver campo com o az aks nodepool add comando. Executar az --version para localizar a versão. Se precisar de instalar ou atualizar, veja Install Azure CLI (Instalar o Azure CLI).
Se você tiver a extensão da CLI do aks-preview Azure instalada, atualize a versão para 18.0.0b2 ou posterior.

Obter as credenciais para o cluster

Obtenha as credenciais para o seu cluster AKS usando o az aks get-credentials comando. O comando de exemplo a seguir obtém as credenciais para o myAKSCluster no grupo de recursos myResourceGroup :
```
az aks get-credentials --resource-group myResourceGroup --name myAKSCluster
```

Usando a GPU do Windows com a instalação automática do driver

O uso de GPUs NVIDIA envolve a instalação de vários componentes de software NVIDIA, como o plug-in de dispositivo DirectX para Kubernetes, instalação de driver de GPU e muito mais. Quando você cria um pool de nós do Windows com uma VM habilitada para GPU suportada, esses componentes e os drivers NVIDIA CUDA ou GRID apropriados são instalados. Para tamanhos de VM das séries NC e ND, o driver CUDA está instalado. Para tamanhos de VM da série NV, o driver GRID está instalado.

Importante

Os recursos de visualização do AKS estão disponíveis em uma base de autosserviço e opt-in. As visualizações prévias são fornecidas "como estão" e "conforme disponíveis" e são excluídas dos contratos de nível de serviço e da garantia limitada. As visualizações do AKS são parcialmente cobertas pelo suporte ao cliente com base no melhor esforço. Como tal, estas funcionalidades não se destinam a utilização em produção. Para obter mais informações, consulte os seguintes artigos de suporte:

Instalar a extensão da CLI do `aks-preview` Azure

Registre ou atualize a extensão aks-preview usando o az extension add comando or az extension update .

# Register the aks-preview extension
az extension add --name aks-preview

# Update the aks-preview extension
az extension update --name aks-preview

Registrar o sinalizador de `WindowsGPUPreview` recurso

Registre o WindowsGPUPreview sinalizador de recurso usando o az feature register comando.
```
az feature register --namespace "Microsoft.ContainerService" --name "WindowsGPUPreview"
```
Leva alguns minutos para que o status mostre Registrado.

Verifique o status do registro usando o az feature show comando.

az feature show --namespace "Microsoft.ContainerService" --name "WindowsGPUPreview"

Quando o status refletir Registrado, atualize o registro do provedor de recursos Microsoft.ContainerService usando o az provider register comando.
```
az provider register --namespace Microsoft.ContainerService
```

Criar um pool de nós habilitado para GPU do Windows (visualização)

Para criar um pool de nós habilitado para GPU do Windows, você precisa usar um tamanho de VM habilitado para GPU suportado e especificar o os-type como Windows. O Windows os-sku padrão é Windows2022, mas todas as opções do Windows os-sku são suportadas.

Crie um pool de nós habilitado para GPU do Windows usando o az aks nodepool add comando.

az aks nodepool add \
   --resource-group myResourceGroup \
   --cluster-name myAKSCluster \
   --name gpunp \
   --node-count 1 \
   --os-type Windows \
   --kubernetes-version 1.29.0 \
   --node-vm-size Standard_NC6s_v3

Verifique se as GPUs são escalonáveis.
Depois de confirmar que suas GPUs são escalonáveis, você pode executar sua carga de trabalho de GPU.

Especificar o tipo de driver de GPU (visualização)

Por padrão, o AKS especifica um tipo de driver de GPU padrão para cada VM habilitada para GPU suportada. Como a carga de trabalho e a compatibilidade de drivers são importantes para cargas de trabalho de GPU em funcionamento, você pode especificar o tipo de driver para o nó da GPU do Windows. Esse recurso não é suportado para pools de nós de GPU Linux.

Ao criar um pool de agentes do Windows com suporte a GPU, você tem a opção de especificar o tipo de driver de GPU usando o --driver-type sinalizador.

As opções disponíveis são:

GRID: Para aplicações que requerem suporte de virtualização.
CUDA: Otimizado para tarefas computacionais em computação científica e aplicações com uso intensivo de dados.

Nota

Ao definir o sinalizador, você assume a --driver-type responsabilidade de garantir que o tipo de driver selecionado seja compatível com o tamanho e a configuração específicos da VM do pool de nós. Embora o AKS tente validar a compatibilidade, há cenários em que a criação do pool de nós pode falhar devido a incompatibilidades entre o tipo de driver especificado e a VM ou hardware subjacente.

Para criar um pool de nós habilitado para GPU do Windows com um tipo de driver de GPU específico, use o az aks nodepool add comando.

az aks nodepool add \
    --resource-group myResourceGroup \
    --cluster-name myAKSCluster \
    --name gpunp \
    --node-count 1 \
    --os-type Windows \
    --kubernetes-version 1.29.0 \
    --node-vm-size Standard_NC6s_v3 \
    --driver-type GRID

Por exemplo, o comando acima cria um pool de nós habilitado para GPU usando o GRID tipo de driver de GPU. A seleção desse tipo de driver substitui o padrão do tipo de driver para skus de CUDA VM da série NC.

Usando a GPU do Windows com a instalação manual do driver

Ao criar um pool de nós do Windows com tamanhos de VM da série N (NVIDIA GPU) no AKS, o driver da GPU e o plug-in de dispositivo DirectX do Kubernetes são instalados automaticamente. Para ignorar essa instalação automática, use as seguintes etapas:

Omitir a instalação do driver de GPU definindo a configuração --gpu-driver none no momento da criação do grupo de nós.
Instalação manual do plug-in do dispositivo Kubernetes DirectX.

Ignorar a instalação do driver da GPU

O AKS tem a instalação automática do driver da GPU habilitada por padrão. Em alguns casos, como instalar seus próprios drivers, você pode querer ignorar a instalação do driver de GPU.

Nota

O campo gpu-driver API é uma alternativa sugerida para clientes que utilizavam anteriormente a tag de pool de nós --skip-gpu-driver-install.

A --skip-gpu-driver-install tag do pool de nós no AKS será desativada em 14 de agosto de 2025. Para manter o comportamento existente de ignorar a instalação automática do driver de GPU, atualize seus pools de nós para a versão mais recente da imagem do nó e defina o --gpu-driver campo como none. Após 14 de agosto de 2025, você não poderá provisionar pools de nós do AKS habilitados para GPU com a etiqueta de pool de nós --skip-gpu-driver-install para contornar este comportamento padrão. Para obter mais informações, consulte skip-gpu-driver Desativar tags.

Crie um pool de nós usando o comando az aks nodepool add e definindo o campo API --gpu-driver como none para ignorar a instalação automática do driver de GPU.

az aks nodepool add \
    --resource-group myResourceGroup \
    --cluster-name myAKSCluster \
    --name gpunp \
    --node-count 1 \
    --os-type windows \
    --os-sku windows2022 \
    --gpu-driver none

Nota

Se o --node-vm-size que você está usando ainda não estiver integrado no AKS, você não poderá usar GPUs e o --gpu-driver campo não funcionará.

Instale manualmente o plug-in de dispositivo DirectX do Kubernetes

Você pode implantar um DaemonSet para o plug-in de dispositivo Kubernetes DirectX, que executa um pod em cada nó para fornecer os drivers necessários para as GPUs.

Adicione um pool de nós ao cluster usando o az aks nodepool add comando.

az aks nodepool add \
    --resource-group myResourceGroup \
    --cluster-name myAKSCluster \
    --name gpunp \
    --node-count 1 \
    --os-type windows \
    --os-sku windows2022

Crie um namespace e implante o plug-in de dispositivo DirectX do Kubernetes

Crie um namespace usando o kubectl create namespace comando.
```
kubectl create namespace gpu-resources
```

Crie um arquivo chamado k8s-directx-device-plugin.yaml e cole o seguinte manifesto YAML fornecido como parte do plug-in de dispositivo NVIDIA para o projeto Kubernetes:

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: nvidia-device-plugin-daemonset
  namespace: gpu-resources
spec:
  selector:
    matchLabels:
      name: nvidia-device-plugin-ds
  updateStrategy:
    type: RollingUpdate
  template:
    metadata:
      # Mark this pod as a critical add-on; when enabled, the critical add-on scheduler
      # reserves resources for critical add-on pods so that they can be rescheduled after
      # a failure.  This annotation works in tandem with the toleration below.
      annotations:
        scheduler.alpha.kubernetes.io/critical-pod: ""
      labels:
        name: nvidia-device-plugin-ds
    spec:
      tolerations:
      # Allow this pod to be rescheduled while the node is in "critical add-ons only" mode.
      # This, along with the annotation above marks this pod as a critical add-on.
      - key: CriticalAddonsOnly
        operator: Exists
      - key: nvidia.com/gpu
        operator: Exists
        effect: NoSchedule
      - key: "sku"
        operator: "Equal"
        value: "gpu"
        effect: "NoSchedule"
      containers:
      - image: mcr.microsoft.com/aks/aks-windows-gpu-device-plugin:0.0.17
        name: nvidia-device-plugin-ctr
        securityContext:
          allowPrivilegeEscalation: false
          capabilities:
            drop: ["ALL"]
        volumeMounts:
          - name: device-plugin
            mountPath: /var/lib/kubelet/device-plugins
      volumes:
        - name: device-plugin
          hostPath:
            path: /var/lib/kubelet/device-plugins

Crie o DaemonSet e confirme se o plug-in do dispositivo NVIDIA foi criado com sucesso usando o kubectl apply comando.
```
kubectl apply -f nvidia-device-plugin-ds.yaml
```
Agora que você instalou com sucesso o plug-in de dispositivo NVIDIA, você pode verificar se suas GPUs são escalonáveis.

Confirme se as GPUs são escalonáveis

Depois de criar seu cluster, confirme se as GPUs são escalonáveis no Kubernetes.

Liste os nós no cluster usando o kubectl get nodes comando.

kubectl get nodes

Sua saída deve ser semelhante à saída de exemplo a seguir:

NAME                   STATUS   ROLES   AGE   VERSION
aks-gpunp-28993262-0   Ready    agent   13m   v1.20.7

Confirme se as GPUs são escalonáveis usando o kubectl describe node comando.
```
kubectl describe node aks-gpunp-28993262-0
```
Na seção Capacidade, a GPU deve listar como microsoft.com/directx: 1. Sua saída deve ser semelhante à seguinte saída de exemplo condensada:
```
Capacity:
[...]
 microsoft.com.directx/gpu:                 1
[...]
```

Clean up resources (Limpar recursos)

Remova os objetos Kubernetes associados criados neste artigo usando o kubectl delete job comando.
```
kubectl delete jobs windows-gpu-workload
```

Próximos passos

Para executar trabalhos do Apache Spark, consulte Executar trabalhos do Apache Spark no AKS.
Para obter mais informações sobre os recursos do agendador do Kubernetes, consulte Práticas recomendadas para recursos avançados do agendador no AKS.
Para obter mais informações sobre o Serviço Kubernetes do Azure e o Azure Machine Learning, consulte:
- Configure um cluster Kubernetes para treinamento ou implantação de modelo de ML.
- Implante um modelo com um ponto de extremidade online.
- Atendimento de alto desempenho com o Triton Inference Server.
- Laboratórios para Kubernetes e Kubeflow.

Feedback

Esta página foi útil?

Last updated on 2025-05-06

Partilhar via

Usar GPUs do Windows para cargas de trabalho de computação intensiva no Serviço Kubernetes do Azure (AKS) (visualização)

Máquinas virtuais (VMs) habilitadas para GPU suportadas

Limitações

Antes de começar

Obter as credenciais para o cluster

Usando a GPU do Windows com a instalação automática do driver

Instalar a extensão da CLI do aks-preview Azure

Registrar o sinalizador de WindowsGPUPreview recurso

Criar um pool de nós habilitado para GPU do Windows (visualização)

Especificar o tipo de driver de GPU (visualização)

Usando a GPU do Windows com a instalação manual do driver

Ignorar a instalação do driver da GPU

Instale manualmente o plug-in de dispositivo DirectX do Kubernetes

Crie um namespace e implante o plug-in de dispositivo DirectX do Kubernetes

Confirme se as GPUs são escalonáveis

Clean up resources (Limpar recursos)

Próximos passos

Feedback

Recursos adicionais

Instalar a extensão da CLI do `aks-preview` Azure

Registrar o sinalizador de `WindowsGPUPreview` recurso