This is a hands-on, guided project on optimizing your TensorFlow models for inference with NVIDIA's TensorRT. By the end of this 1.5 hour long project, you will be able to optimize Tensorflow models using the TensorFlow integration of NVIDIA's TensorRT (TF-TRT), use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision, and observe how tuning TF-TRT parameters affects performance and inference throughput.
Optimize TensorFlow Models For Deployment with TensorRT
Dozent: Snehan Kekre
5.413 bereits angemeldet
Bei enthalten
(74 Bewertungen)
Empfohlene Erfahrung
Was Sie lernen werden
Optimize Tensorflow models using TensorRT (TF-TRT)
Use TF-TRT to optimize several deep learning models at FP32, FP16, and INT8 precision
Observe how tuning TF-TRT parameters affects performance and inference throughput
Kompetenzen, die Sie festigen
- Kategorie: Tensorflow
- Kategorie: Python Programming
- Kategorie: Deep Learning
- Kategorie: keras
- Kategorie: NVIDIA TensorRT (TF-TRT)
Wichtige Details
Zu Ihrem LinkedIn-Profil hinzufügen
Nur als Desktop-Version verfügbar
Erfahren Sie, wie Mitarbeiter führender Unternehmen gefragte Kompetenzen erwerben.
Lernen, üben und anwenden von berufsrelevanten Fähigkeiten in weniger als 2 Stunden
- Nehmen Sie an Schulungen von Branchenexperten teil
- Sammeln Sie mit Aufgaben aus der realen Welt praktische Erfahrung
- Schaffen Sie Vertrauen durch neueste Tools und Technologien
Über dieses begleitete Projekt
Schritt für Schritt lernen
In einem Video, das auf einer Hälfte Ihres Arbeitsbereichs abgespielt wird, führt Sie Ihr Dozent durch diese Schritte:
Introduction and Project Overview
Setup your TensorFlow and TensorRT Runtime
Load the Data and Pre-trained InceptionV3 Model
Create batched Input
Load the TensorFlow SavedModel
Get Baseline for Prediction Throughput and Accuracy
Convert a TensorFlow saved model into a TF-TRT Float32 Graph
Benchmark TF-TRT Float32
Convert to TF-TRT Float16 and Benchmark
Converting to TF-TRT INT8
Empfohlene Erfahrung
It is assumed that are competent in Python programming and have prior experience with building deep learning models with TensorFlow and its Keras API
7 Projektbilder
Dozent
Was Sie beim Lernen erwartet
Auf Kompetenzen basierendes, praktisches Lernen
Üben Sie die Anwendung neuer Kompetenzen anhand von berufsbezogenen Aufgabenstellungen.
Anleitung durch Experten
Lernen Sie mit vorab von Experten aufgezeichneten Videos in einer einzigartigen aufgeteilten Oberfläche.
Keine Downloads oder Installation erforderlich
Greifen Sie in einem vordefinierten Cloud-Arbeitsbereich auf die Tools und Ressourcen zu.
Nur für Desktop verfügbar
Dieses begleitete Projekt ist für die Bearbeitung an einem Laptop oder Desktop-Computer mit stabiler Internetverbindung konzipiert und nicht für Mobilgeräte.
Warum entscheiden sich Menschen für Coursera für ihre Karriere?
Bewertungen von Lernenden
74 Bewertungen
- 5 stars
68,91 %
- 4 stars
21,62 %
- 3 stars
5,40 %
- 2 stars
2,70 %
- 1 star
1,35 %
Zeigt 3 von 74 an
Geprüft am 14. Juni 2023
good content, but some code is out of date, especially the package installation part.
Geprüft am 3. Juni 2021
Great workshop, all the concepts were very well explained.
Geprüft am 14. März 2022
The first to introduce such a rare and important topic.
Ihnen könnte auch Folgendes gefallen:
Neue Karrieremöglichkeiten mit Coursera Plus
Unbegrenzter Zugang zu 10,000+ Weltklasse-Kursen, praktischen Projekten und berufsqualifizierenden Zertifikatsprogrammen - alles in Ihrem Abonnement enthalten
Bringen Sie Ihre Karriere mit einem Online-Abschluss voran.
Erwerben Sie einen Abschluss von erstklassigen Universitäten – 100 % online
Schließen Sie sich mehr als 3.400 Unternehmen in aller Welt an, die sich für Coursera for Business entschieden haben.
Schulen Sie Ihre Mitarbeiter*innen, um sich in der digitalen Wirtschaft zu behaupten.
Häufig gestellte Fragen
Da Ihr Arbeitsbereich einen Cloud-Desktop enthält, der für einen Laptop oder Desktop-Computer ausgelegt ist, sind angeleitete Projekte auf Ihrem Mobilgerät nicht verfügbar.
Die Dozenten bei angeleiteten Projekten sind Fachexperten, die Erfahrung in den Fähigkeiten, Werkzeugen oder Bereichen der jeweiligen Projekte haben und leidenschaftlich daran interessiert sind, ihr Wissen weiterzugeben und so Millionen von Lernenden auf der ganzen Welt zu beeinflussen.
Sie können alle von Ihnen erstellten Dateien aus dem angeleiteten Projekt herunterladen und speichern. Zu diesem Zweck können Sie die Funktion „Dateibrowser“ verwenden, wenn Sie auf Ihren Cloud-Desktop zugreifen.