Udostępnij przez

Korzystanie z bezserwerowych obliczeń procesora GPU w usłudze Microsoft Dev Box

W tym artykule wyjaśniono, czym jest bezserwerowe obliczenia procesora GPU, jak działa, oraz kluczowe scenariusze użycia. Bezserwerowe obliczenia procesora GPU w usłudze Microsoft Dev Box (wersja zapoznawcza) umożliwiają uruchomienie pól deweloperskich z przyspieszeniem procesora GPU — nie jest wymagana dodatkowa konfiguracja. Przetwarzanie bezserwerowe procesora GPU usługi Dev Box umożliwia deweloperom korzystanie z zasobów procesora GPU na żądanie bez stałej infrastruktury lub złożonej konfiguracji.

Typowe scenariusze przetwarzania bezserwerowego procesora GPU obejmują obciążenia intensywnie korzystające z obliczeń, takie jak trenowanie modelu sztucznej inteligencji, wnioskowanie i przetwarzanie danych. Przetwarzanie bezserwerowe procesora GPU umożliwia:

  • Używaj zasobów procesora GPU tylko wtedy, gdy są one potrzebne
  • Skalowanie zasobów procesora GPU na podstawie wymagań dotyczących obciążeń
  • Płacisz tylko za czas użycia procesora GPU
  • Praca w bezpiecznym środowisku sieciowym organizacji

Ta funkcja integruje usługę Microsoft Dev Box z usługą Azure Container Apps w celu dostarczania mocy procesora GPU bez konieczności zarządzania infrastrukturą przez deweloperów.

Bezserwerowe przetwarzanie GPU w usłudze Dev Box korzysta z usługi Azure Container Apps (ACA). Gdy deweloper uruchomi powłokę lub narzędzie obsługujące GPU, to usługa Dev Box automatycznie:

  • Tworzy połączenie z bezserwerową sesją procesora GPU
  • Zapewnia niezbędne zasoby GPU
  • Udostępnia te zasoby za pośrednictwem terminalu dewelopera lub zintegrowanego środowiska programistycznego
  • Automatycznie kończy sesję, gdy nie jest już potrzebna

Prerequisites

Konfigurowanie bezserwerowego procesora GPU

Administratorzy kontrolują dostęp bezserwerowego procesora GPU na poziomie projektu za pośrednictwem Centrum deweloperów. Możliwości zarządzania kluczami obejmują:

  • Włączanie/wyłączanie dostępu do procesora GPU: określ, czy projekty mogą używać bezserwerowych zasobów procesora GPU.
  • Ustawianie współbieżnych limitów procesora GPU: ustaw maksymalną liczbę procesorów GPU, które mogą być używane w tym samym czasie w projekcie.

Dostęp do zasobów bezserwerowych procesorów GPU jest zarządzany za pomocą właściwości na poziomie projektu. Gdy funkcja bezserwerowego procesora GPU jest włączona dla projektu, wszystkie usługi Dev Box w tym projekcie mogą używać obliczeń procesora GPU. Ten prosty model dostępu eliminuje konieczność korzystania z ról niestandardowych lub konfiguracji opartych na puli.

Important

Bezserwerowy procesor GPU jest dostępny tylko w określonych regionach. Projekt musi znajdować się w jednym z następujących regionów: BrazilSouth, CanadaCentral, CentralUS, EastUS, EastUS2, SouthCentralUS lub WestUS3.

Zarejestruj bezserwerowe GPU dla subskrypcji

  1. Zaloguj się do witryny Azure Portal.
  2. Przejdź do subskrypcji.
  3. Wybierz pozycję Ustawienia>Funkcje w wersji zapoznawczej.
  4. Wybierz pozycję Dev Box Serverless GPU Preview(Wersja zapoznawcza), a następnie wybierz pozycję Zarejestruj. Zrzut ekranu przedstawiający stronę subskrypcji platformy Azure z funkcją Dev Box Serverless GPU w wersji zapoznawczej.

Włączanie bezserwerowego procesora GPU dla projektu

  1. Przejdź do swojego projektu.
  2. Wybierz pozycję Ustawienia>Ustawienia Dev box.
  3. W obszarze Obciążenia sztucznej inteligencji wybierz pozycję Włącz, a następnie wybierz pozycję Zastosuj. Zrzut ekranu przedstawiający stronę ustawień pola deweloperskiego z włączoną opcją Bezserwerowego procesora GPU.

Połącz się z GPU

Po włączeniu bezserwerowego procesora GPU użytkownicy usługi Dev Box w tym projekcie zobaczą opcje procesora GPU w swoich środowiskach terminalu i programu Visual Studio (VS) Code.

Możesz nawiązać połączenie przy użyciu jednej z następujących metod:

Metoda 1: Uruchamianie powłoki GPU Dev Box

  1. Otwórz terminal systemu Windows w polu deweloperskim.
  2. Uruchom następujące polecenie: 
    devbox gpu shell
  3. Łączy Cię ze wstępnie skonfigurowanym kontenerem procesora GPU.

Metoda 2. Używanie programu VS Code z tunelami zdalnymi

  1. Otwórz terminal systemu Windows w polu deweloperskim.
  2. Uruchom następujące polecenie: 
    devbox gpu shell
  3. Uruchom program Visual Studio Code.
  4. Zainstaluj rozszerzenie Tunele Zdalne.
  5. Połącz się z tunelem gpu-session.

Treści powiązane

  • Last updated on