Co to są kontenery platformy Azure?

Narzędzia Foundry udostępniają kilka kontenerów platformy Docker , które umożliwiają korzystanie z tych samych interfejsów API, które są dostępne na platformie Azure w środowisku lokalnym. Użycie tych kontenerów zapewnia elastyczność przybliżania narzędzi Foundry do danych ze względów zgodności, zabezpieczeń lub innych powodów operacyjnych. Obsługa kontenerów jest obecnie dostępna dla podzestawu narzędzi Foundry.

Konteneryzacja to podejście do dystrybucji oprogramowania, w której aplikacja lub usługa, w tym jej zależności i konfiguracja, jest spakowana razem jako obraz kontenera. W przypadku niewielkiej lub braku modyfikacji obraz kontenera można wdrożyć na hoście kontenera. Kontenery są odizolowane od siebie nawzajem i od bazowego systemu operacyjnego, mając mniejszy ślad niż maszyna wirtualna. Kontenery mogą być tworzone z obrazów kontenerów na potrzeby krótkoterminowych zadań i usuwane, gdy nie są już potrzebne.

Funkcje i korzyści

• Niezmienna infrastruktura: umożliwia zespołom DevOps wykorzystanie spójnego i niezawodnego zestawu znanych parametrów systemu przy jednoczesnym dostosowaniu się do zmian. Kontenery zapewniają elastyczność obrotu w przewidywalnym ekosystemie i unikanie dryfu konfiguracji.
• Kontrola nad danymi: wybierz miejsce przetwarzania danych przez narzędzia Foundry Tools. Może to być niezbędne, jeśli nie możesz wysyłać danych do chmury, ale potrzebujesz dostępu do interfejsów API narzędzi Foundry. Obsługa spójności w środowiskach hybrydowych — między danymi, zarządzaniem, tożsamością i zabezpieczeniami.
• Kontrola nad aktualizacjami modeli: elastyczność przechowywania wersji i aktualizowania modeli wdrożonych w ich rozwiązaniach.
• Przenośna architektura: umożliwia tworzenie przenośnej architektury aplikacji, którą można wdrożyć na platformie Azure, lokalnie i na urządzeniach brzegowych. Kontenery można wdrażać bezpośrednio w usłudze Azure Kubernetes Service, Azure Container Instances lub w klastrze Kubernetes wdrożonym w usłudze Azure Stack. Aby uzyskać więcej informacji, zobacz Wdrażanie rozwiązania Kubernetes w usłudze Azure Stack.
• Wysoka przepływność/małe opóźnienie: umożliwiają klientom skalowanie pod kątem wymagań dotyczących wysokiej przepływności i małych opóźnień poprzez włączenie narzędzi Foundry do uruchamiania w fizycznej bliskości względem logiki i danych aplikacji. Kontenery nie ograniczają transakcji na sekundę (TPS) i mogą być skalowane zarówno pionowo, jak i poziomo, aby sprostać zapotrzebowaniu, jeśli zapewnisz niezbędne zasoby sprzętowe.
• Skalowalność: wraz z coraz większą popularnością konteneryzacji i oprogramowania orkiestracji kontenerów, takiego jak Kubernetes, skalowalność jest liderem rozwoju technologicznego. Opierając się na skalowalnej podstawie klastra, rozwój aplikacji zapewnia wysoką dostępność.

Kontenery w narzędziach Foundry

Kontenery platformy Azure udostępniają następujący zestaw kontenerów platformy Docker, z których każdy zawiera podzbiór funkcji z usług w narzędziach Foundry. Instrukcje i lokalizacje obrazów można znaleźć w poniższych tabelach.

Moduły decyzyjne

Kontenery języka

Kontenery mowy

Kontenery przetwarzania obrazów

Ponadto niektóre kontenery są obsługiwane w ofercie zasobów obejmujących wiele usług narzędzia Foundry Tools . Można utworzyć jeden zasób narzędzi Foundry Tools i użyć tego samego klucza rozliczeniowego w obsługiwanych usługach dla następujących usług:

• Wizja
• LUIS
• Język

Wymagania wstępne

Przed użyciem kontenerów platformy Azure należy spełnić następujące wymagania wstępne:

Silnik Docker: Silnik Docker musi być zainstalowany lokalnie. Platforma Docker udostępnia pakiety, które konfigurują środowisko platformy Docker w systemach macOS, Linux i Windows. W systemie Windows platforma Docker musi być skonfigurowana do obsługi kontenerów systemu Linux. Kontenery platformy Docker można również wdrażać bezpośrednio w usłudze Azure Kubernetes Service lub w usłudze Azure Container Instances.

Platforma Docker musi być skonfigurowana tak, aby umożliwić kontenerom łączenie się z platformą Azure i wysyłanie danych rozliczeniowych do platformy Azure.

Znajomość usługi Microsoft Container Registry i Platformy Docker: musisz mieć podstawową wiedzę na temat zarówno usługi Microsoft Container Registry, jak i pojęć platformy Docker, takich jak rejestry, repozytoria, kontenery i obrazy kontenerów, a także znajomość podstawowych docker poleceń.

Aby uzyskać podstawowe informacje na temat platformy Docker i kontenerów, zapoznaj się z artykułem Docker overview (Przegląd platformy Docker).

Poszczególne kontenery mogą również mieć własne wymagania, w tym wymagania dotyczące alokacji serwera i pamięci.

Bezpieczeństwo kontenerów narzędzi Foundry

Zabezpieczenia powinny być głównym celem podczas tworzenia aplikacji. Znaczenie zabezpieczeń to metryka sukcesu. Podczas tworzenia architektury rozwiązania programowego, które obejmuje kontenery usługi Azure AI, ważne jest, aby zrozumieć ograniczenia i możliwości dostępne dla Ciebie. Aby uzyskać więcej informacji na temat zabezpieczeń sieci, zobacz Konfigurowanie sieci wirtualnych narzędzi Foundry Tools.

Na poniższym diagramie przedstawiono domyślne i niebezpieczne podejście:

Przykładem alternatywnego i bezpiecznego podejścia jest to, że użytkownicy kontenerów sztucznej inteligencji platformy Azure mogą rozszerzyć kontener za pomocą komponentu frontowego, zachowując prywatny punkt końcowy kontenera. Rozważmy scenariusz, w którym używamy Istio jako bramy wejściowej. Usługa Istio obsługuje uwierzytelnianie https/TLS i certyfikat klienta. W tym scenariuszu fronton Istio uwidacznia dostęp do kontenera, przedstawiając certyfikat klienta zatwierdzony wcześniej za pomocą rozwiązania Istio.

Nginx to kolejny popularny wybór w tej samej kategorii. Zarówno Istio, jak i Nginx działają jako siatka usług i oferują dodatkowe funkcje, takie jak równoważenie obciążenia, routing i kontrola szybkości.

Sieć kontenerów

Kontenery sztucznej inteligencji platformy Azure są wymagane do przesyłania informacji o pomiarach na potrzeby rozliczeń. Brak dodania do listy dozwolonych różnych kanałów sieciowych, z których korzystają kontenery usługi Azure AI, uniemożliwi działanie kontenerów.

Zezwól na dodanie domen i portów narzędzi Foundry do listy dozwolonych.

Host powinien zezwalać na port 443 i następujące domeny:

• *.cognitive.microsoft.com
• *.cognitiveservices.azure.com

Jeśli używasz lokalnej usługi Azure Translator w narzędziach Foundry Tools, musisz dodatkowo zezwolić następującym adresom URL na pobieranie plików

• translatoronprem.blob.core.windows.net

Wyłączanie głębokiej inspekcji pakietów

Głęboka inspekcja pakietów (DPI) to typ przetwarzania danych, który sprawdza szczegółowo dane wysyłane za pośrednictwem sieci komputerowej i zwykle podejmuje działania przez blokowanie, przekierowywanie lub rejestrowanie ich odpowiednio.

Wyłącz DPI na bezpiecznych kanałach tworzonych przez kontenery usługi Azure AI na serwerach firmy Microsoft. Niepowodzenie w tym celu uniemożliwi prawidłowe działanie kontenera.

Przykłady dla deweloperów

Przykłady dla deweloperów są dostępne w naszym repozytorium GitHub.

Następne kroki

Dowiedz się więcej na temat przepisów kontenerowych, których można używać z Foundry Tools.

Zainstaluj i zapoznaj się z funkcjami udostępnianymi przez kontenery w narzędziach Foundry Tools:

• Kontenery detektora anomalii
• Kontenery przetwarzania obrazów
• Kontenery usługi Language Understanding (LUIS)
• Kontenery interfejsu API rozpoznawania mowy
• Kontenery języka
• Kontenery usługi Translator