Microsoft

Experiment Management, Tuning & Debugging

Ce cours n'est pas disponible en Français (France)

Nous sommes actuellement en train de le traduire dans plus de langues.
Microsoft

Experiment Management, Tuning & Debugging

 Microsoft

Instructeur : Microsoft

Inclus avec Coursera PlusEn savoir plus

Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.
niveau Avancées

Expérience recommandée

9 heures à compléter
Planning flexible
Apprenez à votre propre rythme
Obtenez un aperçu d'un sujet et apprenez les principes fondamentaux.
niveau Avancées

Expérience recommandée

9 heures à compléter
Planning flexible
Apprenez à votre propre rythme

Ce que vous apprendrez

  • Apply LoRA and QLoRA fine-tuning to large language models using Hugging Face PEFT, comparing VRAM usage, throughput, and task performance.

  • Design and execute hyperparameter optimization sweeps on Azure ML using Bayesian sampling, early termination, and MLflow experiment tracking.

  • Diagnose training failure modes, including gradient explosion, overfitting, and normalization errors, using PyTorch Profiler and ablation studies.

  • Build high-throughput data pipelines using WebDataset, LMDB, and Azure ML Data Assets to eliminate I/O bottlenecks and maximize GPU utilization.

Détails à connaître

Certificat partageable

Ajouter à votre profil LinkedIn

Enseigné en Anglais

Découvrez comment les employés des entreprises prestigieuses maîtrisent des compétences recherchées

 logos de Petrobras, TATA, Danone, Capgemini, P&G et L'Oreal

Élaborez votre expertise en Machine Learning

Ce cours fait partie de la Certificat Professionnel Microsoft Deep Learning Engineering with Azure
Lorsque vous vous inscrivez à ce cours, vous êtes également inscrit(e) à ce Certificat Professionnel.
  • Apprenez de nouveaux concepts auprès d'experts du secteur
  • Acquérez une compréhension de base d'un sujet ou d'un outil
  • Développez des compétences professionnelles avec des projets pratiques
  • Obtenez un certificat professionnel partageable auprès de Microsoft

Il y a 9 modules dans ce cours

Establish the foundation of parameter-efficient adaptation. This module explores why full fine-tuning scales poorly on enterprise hardware budgets and mathematically deconstructs how Low-Rank Adaptation (LoRA) compresses weight update tensors into low-rank matrices.

Inclus

1 vidéo2 lectures1 devoir

Move to practical programming implementation. This module configures, instantiates, and executes quantized parameter-efficient configurations using Hugging Face PEFT, injecting low-rank adapters into attention targets while maintaining strict numerical stability parameters.

Inclus

3 lectures3 devoirs

Automate multi-trial hyperparameter exploration. You will structure cloud infrastructure blueprints to run parallel optimization sweeps using Azure ML SDK v2, defining parameter search spaces and applying early termination rules to drop stagnant training runs.

Inclus

1 vidéo3 lectures1 devoir

Establish deep observational tracking over your training workloads. You will integrate MLflow tracking hooks into PyTorch scripts, capture essential training artifacts, and evaluate large-scale multi-trial tables inside Azure ML Studio to identify the optimal model configuration.

Inclus

1 vidéo2 lectures3 devoirs

Triage execution anomalies at their source. You will learn to use the PyTorch Profiler and TensorBoard to isolate gradient failures, calculate tensor norm thresholds, and implement gradient clipping to stabilize training steps.

Inclus

1 vidéo2 lectures1 devoir

Stabilize model generalization limits. You will programmatically configure modern normalization structures (LayerNorm and RMSNorm), apply advanced data-augmentation frameworks via torchvision.transforms.v2, and implement structured ablation workflows to measure your code's robustness against severe overfitting.

Inclus

3 lectures3 devoirs

Bridge the gap between storage layers and computing engines. Learners profile file ingestion patterns to locate hardware starvation issues, configure Azure ML data asset connections, and package individual assets into compressed sharded formats.

Inclus

1 vidéo3 lectures1 devoir

Unleash the full performance of cloud streaming. Learners configure PyTorch DataLoader parameters for multi-threaded execution, balance input/output modes against local storage boundaries, and verify hardware utilization metrics.

Inclus

1 vidéo2 lectures3 devoirs

Synthesize your model-tuning and experiment-management skills to engineer an automated, memory-efficient fine-tuning pipeline. You will write a Python script that loads a large foundation model in 4-bit precision, configures Low-Rank Adaptation (LoRA) target modules, and instruments a custom training loop with MLflow metric tracking. You will then write the Azure ML SDK v2 configuration code to orchestrate a distributed hyperparameter sweep over your pipeline, utilizing a Bandit early stopping policy to optimize compute cluster resource allocations.

Inclus

2 lectures1 devoir

Obtenez un certificat professionnel

Ajoutez ce titre à votre profil LinkedIn, à votre curriculum vitae ou à votre CV. Partagez-le sur les médias sociaux et dans votre évaluation des performances.

Instructeur

 Microsoft
446 Cours2 921 180 apprenants

Offert par

Microsoft

Pour quelles raisons les étudiants sur Coursera nous choisissent-ils pour leur carrière ?

Felipe M.

Étudiant(e) depuis 2018
’Pouvoir suivre des cours à mon rythme à été une expérience extraordinaire. Je peux apprendre chaque fois que mon emploi du temps me le permet et en fonction de mon humeur.’

Jennifer J.

Étudiant(e) depuis 2020
’J'ai directement appliqué les concepts et les compétences que j'ai appris de mes cours à un nouveau projet passionnant au travail.’

Larry W.

Étudiant(e) depuis 2021
’Lorsque j'ai besoin de cours sur des sujets que mon université ne propose pas, Coursera est l'un des meilleurs endroits où se rendre.’

Chaitanya A.

’Apprendre, ce n'est pas seulement s'améliorer dans son travail : c'est bien plus que cela. Coursera me permet d'apprendre sans limites.’

Foire Aux Questions

¹ Certains travaux de ce cours sont notés par l'IA. Pour ces travaux, vos Données internes seront utilisées conformément à Notification de confidentialité de Coursera.