Udostępnij przez

Omówienie wdrażania klastra Ray w usłudze Azure Kubernetes Service (AKS)

Z tego artykułu dowiesz się, jak wdrożyć klaster Ray w usłudze Azure Kubernetes Service (AKS) przy użyciu operatora KubeRay. Dowiesz się również, jak używać klastra Ray do trenowania prostego modelu uczenia maszynowego i wyświetlania wyników na pulpicie nawigacyjnym Ray.

Important

Oprogramowanie typu open source jest wymienione w dokumentacji i przykładach usługi AKS. Oprogramowanie, które wdrażasz, jest wykluczone z umów dotyczących poziomu usług AKS, ograniczonej gwarancji i wsparcia technicznego platformy Azure. W miarę korzystania z technologii open source wraz z usługą AKS zapoznaj się z opcjami pomocy technicznej dostępnymi w odpowiednich społecznościach i opiekunami projektów, aby opracować plan.

Firma Microsoft ponosi odpowiedzialność za tworzenie pakietów typu open source wdrażanych w usłudze AKS. Ta odpowiedzialność obejmuje posiadanie pełnej kontroli nad procesem kompilacji, skanowania, podpisywania, weryfikacji i szybkich poprawek, a także nad plikami binarnymi w obrazach kontenerów. Aby uzyskać więcej informacji, zobacz zarządzanie podatnościami dla AKS i zakres wsparcia dla AKS.

Co to jest Ray?

Ray to projekt open source opracowany w laboratorium RISE Lab UC Berkeley, który zapewnia ujednoliconą platformę do skalowania aplikacji sztucznej inteligencji i języka Python. Składa się z podstawowego rozproszonego środowiska uruchomieniowego i zestawu bibliotek sztucznej inteligencji przeznaczonych do przyspieszania obciążeń uczenia maszynowego.

Ray upraszcza proces uruchamiania zadań języka Python intensywnie korzystających z obliczeń na dużą skalę, co umożliwia bezproblemowe skalowanie aplikacji. Platforma obsługuje różne zadania uczenia maszynowego, w tym rozproszone trenowanie, dostrajanie hiperparametryczne, uczenie wzmacniania i obsługę modelu produkcyjnego.

Aby uzyskać więcej informacji, zobacz repozytorium Ray GitHub.

Co to jest KubeRay?

KubeRay to operator kubernetes typu open source do wdrażania klastrów Ray i zarządzania nimi na platformie Kubernetes. Platforma KubeRay automatyzuje wdrażanie, skalowanie i monitorowanie klastrów Ray. Zapewnia deklaratywny sposób definiowania klastrów Ray przy użyciu zasobów niestandardowych Kubernetes, co ułatwia zarządzanie klastrami Ray wraz z innymi zasobami Kubernetes.

Aby uzyskać więcej informacji, zobacz repozytorium KubeRay GitHub.

Proces wdrażania raya

Proces wdrażania składa się z następujących kroków:

  1. Użyj narzędzia Terraform, aby utworzyć lokalny plik planu, definiując żądany stan dla infrastruktury AKS, która obejmuje grupę zasobów Azure, dedykowaną pulę węzłów systemowych oraz pulę węzłów roboczych dla Ray z trzema węzłami.
  2. Wdrażanie lokalnego planu programu Terraform na platformie Azure.
  3. Pobierz wyniki działania z wdrożenia narzędzia Terraform i uzyskaj poświadczenia Kubernetes do nowo wdrożonego klastra AKS.
  4. Zainstaluj repozytorium Helm Ray i wdróż rozwiązanie KubeRay w klastrze usługi AKS przy użyciu narzędzia Helm.
  5. Pobierz i wykonaj manifest YAML Ray Job z repozytorium przykładów Ray GitHub, aby przeprowadzić klasyfikację obrazów za pomocą zestawu danych MNIST przy użyciu konwolucyjnych sieci neuronowych (CNN).
  6. Wyprowadź logi z Zadania Ray, aby uzyskać wgląd w proces uczenia maszynowego realizowany przez Ray.

Następny krok

Konfigurowanie i wdrażanie klastra Ray w usłudze Azure Kubernetes Service (AKS)

Contributors

Firma Microsoft utrzymuje ten artykuł. Następujący autorzy pierwotnie napisali ten tekst:

  • Russell de Pina | Główny Menedżer TPM
  • Ken Kilty | Główny TPM
  • Erin Schaffer | Content Developer 2
  • Adrian Joian | Główny inżynier klienta
  • Ryan Graham | Główny specjalista techniczny
  • Last updated on