Optymalizowanie użycia i kosztów usługi Azure Kubernetes Service (AKS)

Ten artykuł zawiera wskazówki dotyczące optymalizowania użycia i kosztów usługi Azure Kubernetes Service (AKS). Obejmuje ona wskazówki dotyczące następujących tematów:

• Automatyczne skalowanie
• Ustalanie rozmiaru klastra z prawej strony
• Optymalizacje procesora GPU
• Wielodostępność
• Rabaty na platformę Azure

Automatyczne skalowanie

Automatyczne skalowanie podów w poziomie

Narzędzie Horizontal Pod Autoscaler (HPA) monitoruje zapotrzebowanie na zasoby i automatycznie aktualizuje zasób obciążeniowy, skalując liczbę zasobników zgodnie z potrzebą. Odpowiedź na zwiększone obciążenie polega na wdrożeniu większej liczby podów. Jeśli obciążenie się zmniejszy i liczba podów jest wyższa od skonfigurowanego minimum, autoskaler informuje zasób roboczy o skalowaniu w dół.

Interfejs API metryk pobiera dane z kubeleta co 60 sekund, a mechanizm HPA sprawdza interfejs API metryk co 15 sekund pod kątem wszelkich wymaganych zmian domyślnie. Oznacza to, że HPA odświeża się co 60 sekund. Podczas konfigurowania HPA dla wdrożenia należy zdefiniować minimalną i maksymalną liczbę replik, które mogą działać, oraz metryki używane przez HPA do określenia, kiedy skalować.

Aby uzyskać więcej informacji, zobacz Horizontal Pod Autoscaling oraz Autoskalowanie zasobników w usłudze AKS.

Kubernetes: automatyczne skalowanie oparte na zdarzeniach

Kubernetes Event-driven Autoscaler (KEDA) stosuje automatyczne skalowanie oparte na zdarzeniach do twoich obciążeń. KEDA współpracuje z HPA i może rozszerzać funkcjonalność bez zastępowania lub duplikowania.

Możesz użyć dodatku KEDA dla usługi AKS, aby skalować aplikacje i korzystać z bogatego katalogu skalowania usługi Azure KEDA. Aby uzyskać więcej informacji, zobacz Autoskalowanie aplikacji za pomocą dodatku KEDA i Instalowanie dodatku KEDA dla usługi AKS.

Automatyczne skalowanie pionowe podów

Narzędzie Do automatycznego skalowania zasobników pionowych (VPA) automatycznie ustawia żądania zasobów i limity dla kontenerów na obciążenie w oparciu o wcześniejsze użycie. VPA zwalnia zasoby CPU i pamięć dla podów, aby zapewnić efektywne wykorzystanie klastrów AKS. Z czasem VPA przedstawia zalecenia dotyczące użycia zasobów.

Aby uzyskać więcej informacji, zobacz Pionowe autoskalowanie zasobników w usłudze Azure Kubernetes Service (AKS) i Używanie narzędzia Vertical Pod Autoscaler (VPA) w usłudze Azure Kubernetes Service (AKS).

Optymalizacja rozmiaru klastra

Dopasuj rozmiar klastra

Ważne jest, aby dopasować rozmiar swoich klastrów w celu optymalizacji kosztów i wydajności. Możesz ręcznie zmienić rozmiar klastra, dodając lub usuwając węzły, aby spełniały potrzeby aplikacji. Możesz również automatycznie skalować klaster, aby automatycznie dostosować liczbę węzłów w odpowiedzi na zmieniające się wymagania.

Aby uzyskać więcej informacji, zobacz Zmienianie rozmiaru klastrów usługi Azure Kubernetes Service (AKS).

Skalowanie automatyczne klastra

Dzięki funkcji automatycznego skalowania klastra można automatycznie skalować pule węzłów na podstawie użycia zasobów i ograniczeń, takich jak skalowanie w górę, aby zaplanować oczekujące zasobniki lub skalowanie w dół, aby zmniejszyć koszty nieużywanych węzłów. Profil narzędzia do automatycznego skalowania klastra to zestaw parametrów, które można dostroić w celu kontrolowania zachowania narzędzia do automatycznego skalowania klastra.

Aby uzyskać więcej informacji, zobacz Temat Skalowanie automatyczne klastra w usłudze Azure Kubernetes Service (AKS) — omówienie i Używanie narzędzia do automatycznego skalowania klastra w usłudze Azure Kubernetes Service (AKS).

Automatyczne aprowizowanie węzłów (wersja zapoznawcza)

Automatyczne aprowizowanie węzłów (NAP) ( wersja zapoznawcza) oparte na projekcie Firmy Karpenter typu open source ułatwia aprowizowanie odpowiedniej infrastruktury na podstawie oczekujących wymagań dotyczących zasobów zasobników obciążeń. Dzięki wydajnemu pakowaniu pojemników można skonsolidować obciążenia w odpowiedniej infrastrukturze, aby zmniejszyć koszty operacyjne.

Aby uzyskać więcej informacji, zobacz Automatyczne aprowizowanie węzłów (wersja zapoznawcza) w usłudze Azure Kubernetes Service (AKS).

Optymalizacje procesora GPU

Partycjonowanie i udostępnianie procesora GPU

Partycjonowanie GPU pomaga w zwalczaniu niewykorzystania zasobów, dzieląc lub udostępniając GPU w różnych obciążeniach. W poniższych sekcjach opisano różne sposoby partycjonowania i udostępniania procesorów GPU w usłudze AKS.

Fragmentowanie czasu

Operator GPU firmy NVIDIA umożliwia dzielenie czasu procesorów GPU w klastrach Kubernetes. W przypadku fragmentacji czasowej administrator systemu może zdefiniować zestaw replik dla GPU, z których każda może być przekazywana niezależnie do podu w celu uruchamiania obciążeń. Możesz zastosować domyślne konfiguracje podziału czasu dla całego klastra oraz konfiguracje specyficzne dla węzła.

Aby uzyskać więcej informacji, zobacz Time-slicing GPU in Kubernetes (Czas fragmentowania procesorów GPU na platformie Kubernetes).

Usługa wieloprocesorowa (MPS)

Pojedynczy proces może nie wykorzystywać całej pojemności pamięci i przepustowości obliczeniowej dostępnej na procesorze GPU. Usługa Multi-Process Service (MPS) umożliwia logiczny podział pamięci i zasobów obliczeniowych między zadania oraz pozwala operacjom jądra i kopiowania pamięci z różnych procesów nakładać się na siebie na procesorze GPU. MpS pomaga osiągnąć wyższe wykorzystanie procesora GPU i krótszy czas działania.

Aby uzyskać więcej informacji, zobacz Multi-Process Service (MPS).

Procesory GPU z wieloma wystąpieniami (MIG)

Wieloinstancyjne GPU (MIGs) umożliwiają podział procesorów GPU opartych na architekturze NVIDIA Ampere i nowszych na oddzielne i bezpieczne instancje GPU do zastosowań aplikacji CUDA.

Aby uzyskać więcej informacji, zobacz Operator GPU z MIG i Tworzenie puli węzłów GPU z wieloma wystąpieniami w usłudze Azure Kubernetes Service (AKS).

Wielodzierżawność

Wielodzierżawność odnosi się do udostępniania infrastruktury między najemcami, zespołami i jednostkami biznesowymi. W poniższej tabeli przedstawiono różne sposoby implementowania wielodostępności w usłudze AKS:

Dedykowany klaster

W przypadku dedykowanej wielodostępności klastrów klastry są przeznaczone na jedno obciążenie lub zespół.

W poniższej tabeli przedstawiono zalety i wady użycia dedykowanego klastra:

Dedykowana pula węzłów

Dzięki dedykowanej puli węzłów ze współdzieleniem zasobów klastry są współużytkowane przez wielu użytkowników.

W poniższej tabeli przedstawiono zalety i wady użycia dedykowanej puli węzłów:

Dedykowana przestrzeń nazw

Dzięki dedykowanej przestrzeni nazw w trybie wielodostępności klastry są współużytkowane przez wielu najemców, a przestrzenie nazw służą jako granica izolacji.

W poniższej tabeli przedstawiono zalety i wady używania dedykowanej przestrzeni nazw:

Rabaty na platformę Azure

Aby uzyskać większe oszczędności, skorzystaj z rabatów Azure, takich jak plany oszczędnościowe Azure, Zarezerwowane Instancje i Korzyści Hybrydowe Azure.

Następne kroki

Aby dowiedzieć się więcej o kosztach w usłudze AKS, zapoznaj się z następującymi artykułami:

• Omówienie użycia i kosztów usługi Azure Kubernetes Service (AKS)
• Najlepsze rozwiązania dotyczące optymalizacji kosztów w usłudze Azure Kubernetes Service (AKS)