Formations informatiques à Grenoble et Sophia Antipolis

Formation Déployer et utiliser un modèle open source type Mistral (niveau technique)

Objectifs

Décrire les caractéristique et les avantages des principaux modèles open source.

Déployer un modèle Mistral.

Concevoir et créer un chatbot connecté à des documents internes.

Ecrire des scripts Python pour générer des réponses via l'API Mistral.

Appliquer les bonnes pratiques de sécurité et de conformité, y compris le RGPD et les exigences de l'AI Act pour héberger et gérer des données localement.

Pré-requis

Connaissance de base en programmation, en machine learning et IA

Participants

Développeurs, Ingénieurs data/IA, Architectes, DSI, Référents IA techniques

Programme de formation

Déployer et utiliser un modèle open source type Mistral (niveau technique)

PANORAMA DES MODÈLES OPEN SOURCE

  1. Mistral, Llama 3, Falcon, Gemma

  2. Pourquoi choisir un modèle open source ?

  3. Modèle vs LLM hébergé (Azure, OpenAI, Anthropic)

DÉPLOIEMENT DE MISTRAL

  1. Utiliser Ollama, Text Generation WebUI, HuggingFace

  2. Exécution locale vs cloud

  3. Premiers tests en ligne de commande ou via API

  4. Contraintes matérielles, performance, sécurité

INTÉGRATION SIMPLE VIA API

  1. Générer des réponses via l'API Mistral (vLLM, Transformers, etc.)

  2. Utiliser l'API dans un script Python

  3. Notions de token, prompt, température, top-p...

RAG (RETRIEVAL AUGMENTED GENERATION)

  1. Introduction au RAG : ajouter de la mémoire et des données à son IA

  2. Intégration avec LangChain / LlamaIndex

  3. Créer un chatbot connecté à ses propres documents

BONNES PRATIQUES DE SÉCURITÉ ET CONFORMITÉ

  1. RGPD et IA souveraine : héberger les données localement

  2. Logs, effacement de données, authentification, isolation

  3. Application aux exigences de l'AI Act (registre, gouvernance)

PROTOTYPAGE D'UN USE CASE

  1. Création d'un assistant IA métier

  2. Déploiement local ou en cloud souverain

  3. Présentation de l'architecture technique + plan d'évolution

Durée
2 jours
Lieux
Meylan Moirans Sophia Dans vos locaux Classe distancielle
Groupe de 8 personnes maximum
Demandez un devis
Cette thématique vous intéresse ?
Nos experts conçoivent votre formation sur-mesure On adore les moutons à 5 pattes !
Cette thématique se prête parfaitement au format Webinaire.
Nous concevons
votre solution sur-mesure.
Formations dans la même thématique