Lernen Sie die Grundlagen von großen Sprachmodellen (LLMs) kennen und setzen Sie diese in die Praxis um, indem Sie Ihre eigenen Lösungen auf der Grundlage von Open Source Modellen bereitstellen. Am Ende dieses Kurses werden Sie in der Lage sein, modernste Open Source LLMs zu nutzen, um KI-Anwendungen mit einem Code-first-Ansatz zu erstellen. Sie werden zunächst ein tiefgreifendes Verständnis für die Funktionsweise von LLMs erlangen, einschließlich Modellarchitekturen wie Transformer und Weiterentwicklungen wie Sparse-Expert-Modelle. In praktischen Übungen lernen Sie, wie Sie GPU-Instanzen in der Cloud starten und vortrainierte Modelle wie Code Llama, Mistral und Stable Diffusion ausführen. Der Höhepunkt des Kurses ist ein angeleitetes Projekt, in dem Sie ein Modell wie LLaMA oder Mistral auf einem Datensatz Ihrer Wahl feinabstimmen. Sie werden SkyPilot verwenden, um das Training des Modells auf kostengünstigen Spot-Instanzen bei verschiedenen Cloud-Anbietern zu skalieren. Schließlich werden Sie Ihr Modell für eine effiziente Bereitstellung mithilfe von Modellservern wie LoRAX und vLLM containerisieren. Am Ende des Kurses werden Sie aus erster Hand Erfahrungen mit der Nutzung von Open Source LLMs zur Erstellung von KI-Lösungen haben. Die erworbenen Fähigkeiten werden Sie in die Lage versetzen, Ihre Karriere in der KI weiter voranzutreiben.
Open Source LLMOps-Lösungen
Dieser Kurs ist Teil von Spezialisierung Operationen für große Sprachmodelle (LLMOps)
Dozenten: Noah Gift
1.825 bereits angemeldet
Enthalten in
Empfohlene Erfahrung
Was Sie lernen werden
Lokale große Sprachmodelle ausführen
Fine-Tuning der LLMs
Verwenden Sie generative KI mit Open Source
Kompetenzen, die Sie erwerben
- Kategorie: Maschinelles Lernen
- Kategorie: GenAI
- Kategorie: lamafile
- Kategorie: Open Source
- Kategorie: LLMs
Wichtige Details
Zu Ihrem LinkedIn-Profil hinzufügen
9 Aufgaben
Erfahren Sie, wie Mitarbeiter führender Unternehmen gefragte Kompetenzen erwerben.
Erweitern Sie Ihre Fachkenntnisse
- Lernen Sie neue Konzepte von Branchenexperten
- Gewinnen Sie ein Grundverständnis bestimmter Themen oder Tools
- Erwerben Sie berufsrelevante Kompetenzen durch praktische Projekte
- Erwerben Sie ein Berufszertifikat zur Vorlage
Erwerben Sie ein Karrierezertifikat.
Fügen Sie diese Qualifikation zur Ihrem LinkedIn-Profil oder Ihrem Lebenslauf hinzu.
Teilen Sie es in den sozialen Medien und in Ihrer Leistungsbeurteilung.
In diesem Kurs gibt es 4 Module
In diesem Modul lernen Sie, wie Sie vortrainierte Modelle zur Verarbeitung natürlicher Sprache nutzen können, um NLP-Anwendungen zu erstellen. Wir werden beliebte Open Source Modelle wie BERT untersuchen. Sie werden lernen, wie Sie auf diese Modelle mit Hilfe von Bibliotheken wie HuggingFace Transformers zugreifen und sie für Aufgaben wie Textklassifizierung, Fragenbeantwortung und Texterzeugung verwenden können. Eine Schlüsselkompetenz wird die Verwendung großer Sprachmodelle zur synthetischen Erweiterung von Datensätzen sein. Indem Sie das Modell mit Beispielen füttern und den von ihm erzeugten Text extrahieren, können Sie weitere Trainingsdaten erzeugen. Durch praktische Übungen werden Sie grundlegende NLP-Pipelines in Python aufbauen, die vortrainierte Modelle verwenden, um Aufgaben wie Sentiment-Analyse durchzuführen. Am Ende des Moduls werden Sie über praktische Erfahrungen mit modernsten NLP-Techniken verfügen, um fähige Sprachanwendungen zu erstellen.
Das ist alles enthalten
20 Videos10 Lektüren3 Aufgaben1 Diskussionsthema
In diesem Modul führen Sie Sprachmodelle lokal aus. Halten Sie die Daten privat. Vermeiden Sie Latenzzeiten und Gebühren. Mixtral-Modell und Lamafile verwenden.
Das ist alles enthalten
8 Videos11 Lektüren3 Aufgaben3 Unbewertete Labore
In diesem Modul werden Sie Modelle im Browser mit Transformers.js und ONNX verwenden. Sie werden Erfahrungen mit der Portierung von Modellen auf die ONNX-Laufzeitumgebung sammeln und erfahren, wie man sie in den Browser bringt. Sie werden auch das Cosmopolitan-Projekt verwenden, um einen Phrasengenerator zu erstellen, der leicht auf verschiedene Systeme portierbar ist.
Das ist alles enthalten
7 Videos5 Lektüren2 Aufgaben1 Unbewertetes Labor
In diesem Modul werden Sie sich auf die Durchführung mehrerer externer Übungen und praktischer Beispiele konzentrieren, die es Ihnen ermöglichen werden, sich mit der Ausführung lokaler LLMs vertraut zu machen, eine Verbindung zu ihnen mit APIs unter Verwendung von Python herzustellen und Lösungen mit der Programmiersprache Rust zu entwickeln
Das ist alles enthalten
7 Lektüren1 Aufgabe1 Unbewertetes Labor
Empfohlen, wenn Sie sich für Softwareentwicklung interessieren
Duke University
Duke University
Duke University
Duke University
Warum entscheiden sich Menschen für Coursera für ihre Karriere?
Neue Karrieremöglichkeiten mit Coursera Plus
Unbegrenzter Zugang zu über 7.000 erstklassigen Kursen, praktischen Projekten und Zertifikatsprogrammen, die Sie auf den Beruf vorbereiten – alles in Ihrem Abonnement enthalten
Bringen Sie Ihre Karriere mit einem Online-Abschluss voran.
Erwerben Sie einen Abschluss von erstklassigen Universitäten – 100 % online
Schließen Sie sich mehr als 3.400 Unternehmen in aller Welt an, die sich für Coursera for Business entschieden haben.
Schulen Sie Ihre Mitarbeiter*innen, um sich in der digitalen Wirtschaft zu behaupten.
Häufig gestellte Fragen
Der Zugang zu Vorlesungen und Aufgaben hängt von der Art Ihrer Einschreibung ab. Wenn Sie einen Kurs im Prüfungsmodus belegen, können Sie die meisten Kursmaterialien kostenlos einsehen. Um auf benotete Aufgaben zuzugreifen und ein Zertifikat zu erwerben, müssen Sie die Zertifikatserfahrung während oder nach Ihrer Prüfung erwerben. Wenn Sie die Prüfungsoption nicht sehen:
Der Kurs bietet möglicherweise keine Prüfungsoption. Sie können stattdessen eine kostenlose Testversion ausprobieren oder finanzielle Unterstützung beantragen.
Der Kurs bietet möglicherweise stattdessen die Option 'Vollständiger Kurs, kein Zertifikat'. Mit dieser Option können Sie alle Kursmaterialien einsehen, die erforderlichen Bewertungen abgeben und eine Abschlussnote erhalten. Dies bedeutet auch, dass Sie kein Zertifikat erwerben können.
Wenn Sie sich für den Kurs einschreiben, erhalten Sie Zugang zu allen Kursen der Specializations, und Sie erhalten ein Zertifikat, wenn Sie die Arbeit abgeschlossen haben. Ihr elektronisches Zertifikat wird Ihrer Erfolgsseite hinzugefügt - von dort aus können Sie Ihr Zertifikat ausdrucken oder zu Ihrem LinkedIn-Profil hinzufügen. Wenn Sie die Kursinhalte nur lesen und ansehen möchten, können Sie den Kurs kostenlos besuchen.
Wenn Sie ein Abonnement abgeschlossen haben, erhalten Sie eine kostenlose 7-tägige Testphase, in der Sie kostenlos kündigen können. Danach gewähren wir keine Rückerstattung, aber Sie können Ihr Abonnement jederzeit kündigen. Siehe unsere vollständigen Rückerstattungsbedingungen.