Wat zijn compute-doelen in Azure Machine Learning?

Een rekendoel is een aangewezen rekenresource of -omgeving waarin u uw trainingsscript uitvoert of uw service-implementatie host. Deze locatie kan uw lokale computer of een cloudresource zijn. Door rekendoelen te gebruiken, kunt u uw rekenomgeving later eenvoudig wijzigen zonder dat u uw code hoeft te wijzigen.

Azure Machine Learning ondersteunt verschillende rekendoelen. In een typische levenscyclus voor modelontwikkeling kunt u het volgende doen:

1. Begin met het ontwikkelen en experimenteren met een kleine hoeveelheid gegevens. In deze fase gebruikt u uw lokale omgeving, zoals een lokale computer of een virtuele machine in de cloud (VM), als rekendoel.
2. Schaal omhoog naar grotere gegevens of voer gedistribueerde training uit met behulp van een van deze trainingsrekendoelen.
3. Nadat uw model klaar is, implementeert u het in een webhostingomgeving met een van deze rekendoelen voor implementatie.

U koppelt de rekenresources die u voor uw rekendoelen gebruikt aan een werkruimte. Gebruikers van de werkruimte delen andere rekenresources dan de lokale computer.

Rekendoelen voor training

Wanneer u uw training op grotere gegevenssets opschaalt of gedistribueerde training uitvoert, gebruikt u Azure Machine Learning-rekenkracht om een cluster met één knooppunt of meerdere knooppunten te maken dat automatisch wordt geschaald wanneer u een taak verzendt. U kunt ook uw eigen rekenresource koppelen, hoewel de ondersteuning voor verschillende scenario's kan variëren.

U kunt rekendoelen van de ene trainingstaak naar de volgende opnieuw gebruiken. Als u een externe VM koppelt aan uw werkruimte, kunt u die bijvoorbeeld voor meerdere taken gebruiken.

U kunt voor de meeste taken een van de volgende resources gebruiken voor een rekendoel voor trainingsdoeleinden. Niet alle resources kunnen worden gebruikt voor geautomatiseerde machine learning, pijplijnen voor machine learning of de ontwerpfunctie. Azure Databricks kan worden gebruikt als trainingsresource voor lokale uitvoeringen en machine learning-pijplijnen, maar niet als een extern doel voor andere training.

Rekendoelen voor deductie

Wanneer u deductie uitvoert, maakt Azure Machine Learning een Docker-container die als host fungeert voor het model en de bijbehorende resources die nodig zijn om het te gebruiken. U gebruikt deze container in een rekenomgeving.

Het rekendoel dat u gebruikt om uw model te hosten, is van invloed op de kosten en beschikbaarheid van uw geïmplementeerde eindpunt. Gebruik deze tabel om een geschikt rekendoel te kiezen.

Azure Machine Learning Compute (beheerd)

Azure Machine Learning maakt en beheert de beheerde rekenresources. Dit type rekenproces is geoptimaliseerd voor machine learning-workloads. Azure Machine Learning-rekenclusters, serverloze rekenprocessen en rekenprocessen zijn de enige beheerde berekeningen.

U hoeft geen serverloze berekening te maken. U kunt Azure Machine Learning-rekeninstanties of rekenclusters maken op basis van:

• Azure Machine Learning Studio
• De Python SDK en de Azure CLI:
  • Rekenproces
  • Rekencluster
• Een Azure Resource Manager-sjabloon. Zie Een Azure Machine Learning-rekencluster maken voor een voorbeeldsjabloon.

Wanneer u deze rekenresources maakt, worden ze automatisch onderdeel van uw werkruimte, in tegenstelling tot andere soorten rekendoelen.

Ondersteunde VM-serie en -grootten

Wanneer u een knooppuntgrootte selecteert voor een beheerde rekenresource in Azure Machine Learning, kunt u kiezen uit geselecteerde VM-grootten die beschikbaar zijn in Azure. Azure biedt verschillende grootten voor Linux en Windows voor verschillende workloads. Zie VM-typen en -grootten voor meer informatie.

Er zijn enkele uitzonderingen en beperkingen voor het kiezen van een VM-grootte:

• Azure Machine Learning biedt geen ondersteuning voor sommige VM-reeksen.
• Sommige VM-reeksen, zoals GPU's en andere speciale SKU's, worden mogelijk niet in eerste instantie weergegeven in de lijst met beschikbare VM's. Maar u kunt deze nog steeds gebruiken wanneer u een quotumwijziging aanvraagt. Zie Quotum- en limietverhogingen aanvragen voor meer informatie over het aanvragen van quota.

Zie de volgende tabel voor meer informatie over ondersteunde reeksen.

Hoewel Azure Machine Learning deze VM-serie ondersteunt, zijn ze mogelijk niet beschikbaar in alle Azure-regio's. Als u wilt controleren of de VM-serie beschikbaar is, raadpleegt u Producten die beschikbaar zijn per regio.

Als u de rekendoelen met GPU gebruikt, is het belangrijk om ervoor te zorgen dat de juiste CUDA-stuurprogramma's zijn geïnstalleerd in de trainingsomgeving. Gebruik de volgende tabel om de juiste CUDA-versie te bepalen die u wilt gebruiken:

Zorg er niet alleen voor dat de CUDA-versie en -hardware compatibel zijn, maar ook dat de CUDA-versie compatibel is met de versie van het machine learning-framework dat u gebruikt:

• Controleer voor PyTorch de compatibiliteit door naar de pagina vorige versies van PyTorch te gaan.
• Voor TensorFlow controleert u de compatibiliteit door naar de build van TensorFlow te gaan vanaf de bronpagina.

Rekenisolatie

Azure Machine Learning Compute biedt VM-grootten die zijn geïsoleerd voor een specifiek hardwaretype en toegewezen aan één klant. Geïsoleerde VM-grootten zijn het meest geschikt voor workloads die een hoge mate van isolatie van workloads van andere klanten vereisen om redenen die onder andere voldoen aan nalevings- en regelgevingsvereisten. Wanneer u een geïsoleerde grootte-instantie gebruikt, is uw VM de enige die wordt uitgevoerd op dat specifieke serverexemplaar.

De huidige geïsoleerde VM-aanbiedingen zijn onder andere:

• Standard_M128ms
• Standard_F72s_v2
• Standard_NC24s_v3
• Standard_NC24rs_v3 (RDMA- geschikt)

Zie Isolatie in de openbare Azure-cloud voor meer informatie over isolatie.

Onbeheerde rekenkracht

Azure Machine Learning beheert geen onbeheerd rekendoel. U maakt dit type rekendoel buiten Azure Machine Learning en koppelt het vervolgens aan uw werkruimte. Mogelijk moet u extra stappen uitvoeren om onbeheerde rekenresources te onderhouden of om de prestaties voor machine learning-workloads te verbeteren.

Azure Machine Learning ondersteunt de volgende niet-beheerde rekentypen:

• Externe virtuele machines
• Azure HDInsight
• Azure Databricks
• Azure Data Lake Analytics

Zie Rekenresources beheren voor meer informatie.

Gerelateerde inhoud