Modeldeductie met TensorFlow en TensorRT

In het voorbeeldnotebook in dit artikel ziet u de door Azure Databricks aanbevolen deep learning-deductiewerkstroom met TensorFlow en TensorFlowRT. In dit voorbeeld ziet u hoe u een getraind ResNet-50-model optimaliseert met TensorRT voor modeldeductie.

NVIDIA TensorRT is een hoogwaardige deductieoptimalisatie en runtime die lage latentie en hoge doorvoer biedt voor deep learning-deductietoepassingen. TensorRT is geïnstalleerd in de GPU-versie van Databricks Runtime voor Machine Learning.

TensorFlow-TensorRT-notebook modelinferentie

Notitieboek ophalen