Parametersparendes LLM-Finetuning: PEFT, LoRA und QLoRA

Passen Sie Sprachmodelle mit kompakten trainierbaren Updates an.

Sie suchen Schritt-für-Schritt-Tutorials zu einzelnen KI-Tools?

Kursübersicht

Untersuchen Sie parameter-effizientes Finetuning von der Motivation und Low-Rank Adaptation bis zu PEFT-Abläufen und quantisierter LoRA. Vergleichen Sie eingefrorene Basisgewichte mit trainierbaren Adaptern und machen Sie Daten- und Modulwahl transparent. Die Bewertung soll Aufgabengewinn von Memorierung, Quantisierungseffekten und Betriebskosten trennen. Begleitende englischsprachige Videos werden durch originäre Notizen ergänzt.

Erklären, wie PEFT trainierbare Parameter bei der Modellanpassung reduziert. LoRA und quantisierte LoRA hinsichtlich Speicher, Optimierung, Qualität und Inferenz vergleichen. Eine Evaluation mit passenden Baselines und Prüfungen auf Datenleckage entwerfen.

Kenntnisse neuronaler Netze, Transformer-Sprachmodelle und überwachten Finetunings sind empfehlenswert. Optimierung, Tokenisierung und GPU-Speicher sind hilfreich; eine bestimmte Bibliothek ist nicht nötig.

Erfahrene Lernende, die fortgeschrittene KI-Kenntnisse vertiefen und anwenden möchten

Menschen, die am besten mit Beispielen, Anleitung und praktischen Übungen lernen

Fachleute, Kreative und unabhängige Entwickler, die wiederholbare Abläufe suchen

Lektion 1 ist kostenlos

4 lektionen · Fortgeschritten · Vollständiger Kurs.

Kursinhalt mit offener Lizenz · CC BY-lizenziert · Lizenz verifiziert

Dieser Kurs verwendet CC BY-lizenziertes Material mit Namensnennung des Inhaltsanbieters oder Uploaders. Die Wiedergabe der Lektionen ist erst nach Anmeldung und bestandener Veröffentlichungs- und Lizenzprüfung verfügbar.