Passen Sie Sprachmodelle mit kompakten trainierbaren Updates an.
Untersuchen Sie parameter-effizientes Finetuning von der Motivation und Low-Rank Adaptation bis zu PEFT-Abläufen und quantisierter LoRA. Vergleichen Sie eingefrorene Basisgewichte mit trainierbaren Adaptern und machen Sie Daten- und Modulwahl transparent. Die Bewertung soll Aufgabengewinn von Memorierung, Quantisierungseffekten und Betriebskosten trennen. Begleitende englischsprachige Videos werden durch originäre Notizen ergänzt.
Erklären, wie PEFT trainierbare Parameter bei der Modellanpassung reduziert. LoRA und quantisierte LoRA hinsichtlich Speicher, Optimierung, Qualität und Inferenz vergleichen. Eine Evaluation mit passenden Baselines und Prüfungen auf Datenleckage entwerfen.
Kenntnisse neuronaler Netze, Transformer-Sprachmodelle und überwachten Finetunings sind empfehlenswert. Optimierung, Tokenisierung und GPU-Speicher sind hilfreich; eine bestimmte Bibliothek ist nicht nötig.
Erfahrene Lernende, die fortgeschrittene KI-Kenntnisse vertiefen und anwenden möchten
Menschen, die am besten mit Beispielen, Anleitung und praktischen Übungen lernen
Fachleute, Kreative und unabhängige Entwickler, die wiederholbare Abläufe suchen
Lektion 1 ist kostenlos
4 lektionen · Fortgeschritten · Vollständiger Kurs.
Dieser Kurs verwendet CC BY-lizenziertes Material mit Namensnennung des Inhaltsanbieters oder Uploaders. Die Wiedergabe der Lektionen ist erst nach Anmeldung und bestandener Veröffentlichungs- und Lizenzprüfung verfügbar.