Ajustement fin économe en paramètres des LLM : PEFT, LoRA et QLoRA

Adaptez des modèles de langue avec des mises à jour compactes.

Vous cherchez des tutoriels pas à pas sur des outils d’IA précis ?

Présentation du cours

Étudiez l’ajustement fin économe en paramètres, de sa motivation et de l’adaptation de faible rang aux flux PEFT et à LoRA quantifié. Comparez poids de base gelés et adaptateurs entraînables, explicitez les choix de modules et de données, et évaluez séparément gains de tâche, mémorisation, quantification et coûts de déploiement. Les vidéos en anglais sont accompagnées de notes originales, non de transcriptions.

Expliquer comment PEFT réduit les paramètres entraînables lors de l’adaptation. Comparer LoRA et LoRA quantifié pour mémoire, optimisation, qualité et inférence. Concevoir une évaluation avec références adaptées et contrôles de fuite de données.

Une expérience des réseaux neuronaux, transformers et ajustement supervisé est recommandée. Optimisation, tokenisation et mémoire GPU sont utiles ; aucune bibliothèque particulière n’est requise.

Aux apprenants expérimentés souhaitant approfondir et appliquer des compétences avancées en IA

Aux personnes qui apprennent mieux avec des exemples, des leçons guidées et de la pratique

Aux professionnels, créateurs et développeurs indépendants recherchant une méthode reproductible

La leçon 1 est gratuite

4 leçons · Avancé · Cours complet.

Contenu de cours sous licence ouverte · sous licence CC BY · licence vérifiée

Ce cours utilise du contenu sous licence CC BY attribué à son fournisseur ou à la personne qui l’a mis en ligne. La lecture des leçons est disponible uniquement après authentification et validation des contrôles de publication et de licence.