Formation DEEP LEARNING Mise en oeuvre du Deep Learning avec PyTorch
Objectifs
Identifier les concepts fondamentaux de l’IA, du Machine Learning et du Deep Learning.
Concevoir et entraîner des réseaux de neurones pour des tâches de régression et classification.
Développer des réseaux convolutifs profonds et appliquer des techniques de Transfer Learning.
Concevoir des architectures encoder-decoder pour le débruitage et la segmentation d'images.
Implémenter et adapter des modèles de détection d’objets à des problématiques métier.
Concevoir et entraîner des réseaux antagonistes génératifs pour produire des images synthétiques.
Distinguer les principes et usages des GNN, RNN, LSTM et Transformers.
Implémenter un Vision Transformer et comparer ses performances à celles d’un CNN.
Concevoir une architecture Transformer combinant e1icacement des données textuelles et visuelles.
Déployer et exploiter des modèles Transformer préentraînés dans des applications agentiques.
Expérimenter des architectures émergentes de raisonnement et de modélisation du monde.
Pré-requis
Participants
Programme de formation
Introduction à l’Intelligence Artificielle
Qu'est-ce que l'Intelligence Artificielle ?
Le Machine Learning et ses enjeux
Le Deep Learning et ses enjeux
Machine Learning vs Deep Learning
Rappels Python appliqué au Deep Learning
Les bibliothèques Python pour la Data Science (Numpy, Pandas, MPL, ScikitLearn…)
Les bibliothèques Python pour le Deep Learning (PyTorch vs Keras/Tenforflow)
Nos premiers réseaux de neurones
Le perceptron
Notion de MLP (Multi Layer Perceptron)
La Back Propagation
Prise en main de PyTorch
Lab : exemples de régression
Lab : exemples de classification
Comparatifs avec des modèles identiques codés en Keras/Tensorflow
CNNs profonds modernes
Pourquoi l’approche pure MLP est problématique pour la Computer Vision
Présentation des couches convolutives (CNN)
Lab : mise en oeuvre de réseaux de neurones convolutifs pour la reconnaissance d'objets simples
Profondeur et stabilité de l’entraînement
Le « Vanishing Gradient »
La notion de lien résiduel et son importance
Lab : mise en oeuvre de lien résiduel
Architectures CNN emblématiques (VGG, ResNet, DenseNet, E1icientNet, …)
Le « Transfer Learning »
Lab : Développement d'un modèle profond par « Transfer Learning »
Architectures encoder/decoder et segmentation d’images
Rappels sur les « auto-encoders » et « auto-encodeurs variationnels »
Lab : développement et application d'auto-encodeurs au débruitage
Modèles « auto-encoders » avec possibilité de classification
Lab : mise en oeuvre d’un modèle de débruitage avec classification intégrée
L’importance des liens résiduels
Typologie des segmentations
Architectures majeures (FCN, U-Net, …)
Fonctions de perte spécifiques : cross-entropy pixel-wise, Dice Loss, IoU Loss…
Gestion du déséquilibre des classes
Lab : implémentation d’un U-Net from scratch
Détection d’objets
Problématique de la détection (Bounding boxes, IoU, …)
Lab : mise en oeuvre from scratch d’un modèle de détection d’objet
Famille de détecteurs d’objets (Faster R-CNN, SSR, RetinaNet, Yolo)
Focus Yolo (« You Only Look Once »)
Lab : détection d’objets sur un dataset métier et fine-tuning d’un modèle Yolo
Système hybrides : détection et classification en simultanée
Lab : mise en oeuvre d’un système hybride
Réseaux antagonistes génératifs (GANs)
Fonctionnement d’un GAN : modèles générateurs et discriminants
Problématiques classiques des GANs
Entraîner un GAN
DCGAN, CycleGAN et StyleGAN
Lab : implémentation d’un DCGAN et génération contrôlée d’images
Autres types de réseaux de neurones
Les GNN (Graph Neural Network)
Les RNN (Recurrent Neural Network)
Les LSTM (Long Short Term Memory)
Le principe d’Attention et le papier « Attention Is All You Need »
L’approche Transformer et les modèles de langages
Lab : étude et entrainement d’un modèle Transformer
Vision Transformers (ViT)
Limites des CNNs observées empiriquement
Concepts clés d’un « Vision Transformer »
Lab : mise en oeuvre « from scratch » d’un ViT
Variantes modernes (DeiT, Swin Transformer, architectures hybrides CNN/Transformer)
Comparaison CNN/ViT
Lab : comparaison entre deux modèles (CNN/ViT) sur une même problématique
Réseau Transformer Multi-Modaux
Qu’est-ce que réseau multi-modal ?
Comment intégrer les diférentes modalités ?
Notion de « Join Embeddings »
Lab : mise en oeuvre d’une architecture Transformer à deux modalités (texte et image)
Exploiter un modèle Transformer pré entrainé
La révolution de la GEN AI
Force et faiblesse d’un modèle de langage (biais, hallucinations…)
LLM vs SLM et évaluation des modèles
Déployer un modèle d’IA de type « Transformer » (Jan.ai, vllm…)
Lab : déploiement d’un SLM via le logiciel vLLM
La plateforme MaÏa
L’API REST d’OpenAI
Appel d’un modèle de langage
Lab : invocation d’un modèle de langage via l’API REST OpenAI
Techniques de Prompt Engineering
Technique de ReAct et appels d’outils par un modèle de langage
Les systèmes agentiques
Lab : mise en oeuvre d’un système agentique
Un Regard vers le futur
Les modèles HRM (Hierarchical Reasoning Model)
Les modèles TRM (Tiny Recursive Model)
Lab : entrainement d’un modèle TRM
Les World Model et l’architecture JEPA (Joint-Embedding Predictive Architecture