.webp){kind=logo}
Cette formation intensive permet aux data scientists et AI engineers de maîtriser le développement, l’optimisation et le déploiement de modèles de Deep Learning prêts pour la production.
Tensor, DataLoader, Autograd, Module, Optimizer.
Déployer et monitorer un modèle de Deep Learning en production
Contexte :
Vous êtes ingénieur IA au sein d'une grande entreprise de logistique qui gère un flux de plusieurs tonnes de colis par semaine. L'équipe d'ingénieurs a conçu un modèle TensorFlow performant permettant de classifier automatiquement le contenu des colis par reconnaissance d'image. Votre rôle est d'industrialiser ce modèle pour permettre à l’entreprise de le vendre sous forme de model-as-a-service.
Votre mission est de packager le modèle, le déployer sous forme d'API haute performance et mettre en place une solution de monitoring pour suivre la latence et la stabilité des prédictions en conditions réelles.
Votre mission est de :
- Exporter le modèle TensorFlow entraîné au format de production standardisé SavedModel ou ONNX.
- Déployer le modèle en local via un serveur d'inférence dédié via une API asynchrone FastAPI - Créer un script client permettant de requêter l'API en lui envoyant des tenseurs d'images formatés. - Intégrer un système de logging ou de tracking des métriques (via des fichiers logs structurés ou un middleware dans FastAPI) pour mesurer la latence des réponses.
- Simuler un micro-test de charge (requêtes simultanées) pour valider la robustesse de votre solution déployée.
Modalités pédagogiques :
Vous avez 1,5 jour pour réaliser ce travail de déploiement et de monitoring. Vous réaliserez ce travail en individuel. L'entraide est bienvenue.
Modalités d'évaluation :
- Votre responsable technique validera en individuel le déploiement effectif du modèle et le bon fonctionnement de l'endpoint d'inférence.
- Votre responsable technique (formateur) animera une session collective de crash-test où les API de plusieurs apprenants seront sollicitées en direct pour analyser la gestion de la charge.
Critères d'évaluation :
- Le modèle est correctement packagé et chargé par le serveur d'inférence sans erreur de dimensions.
- L'API répond correctement avec les prédictions attendues (probabilités des classes) à partir d'une image test.
- Le système de monitoring capture et restitue de manière lisible l'évolution de la latence d'inférence.
Livrables :
- Un lien vers un dépôt Git contenant :
● Le code source de l'API (FastAPI) et du script client.
● Le fichier d'environnement (requirements.txt).
● Un README.md expliquant la procédure de lancement et de test.
- Le dossier du modèle exporté (ou un script permettant de le télécharger s'il est trop lourd pour Git). - Un court rapport (Markdown ou PDF) présentant les résultats du micro-test de charge et l'analyse de la latence mesurée dans les logs.
✓ Créer des réseaux de neurones
✓ Entraîner et évaluer des modèles
✓ Utiliser les APIs TensorFlow avancées
✓ Déployer et monitorer des modèles DL
3 jours
Tarif intra-entreprise : sur demande
Data scientists, AI engineers.
Connaissances en Python, ML et mathématiques.
70% pratique
Cas d’usage professionnels
Ateliers pratiques
Si vous êtes en situation de handicap, il est possible de mettre en place des aménagements
