Formation AI Act en pratique : concevoir, documenter et auditer un système d'IA conforme
Traduire les obligations du fournisseur de système d'IA en exigences d'architecture, de code et de documentation

- Durée
- 3 jours
- Niveau
- Intermédiaire
- Modalités
- Distanciel
Description de la formation AI Act technique

Objectifs pédagogiques
À l'issue de cette formation AI Act en pratique : concevoir, documenter et auditer un système d'IA conforme, vous aurez acquis les connaissances nécessaires pour :
- Qualifier un système d'IA selon les niveaux de risque de l'AI Act et identifier les situations où l'organisation devient fournisseur
- Traduire les articles 9 à 15 en exigences techniques vérifiables et en preuves attendues
- Mettre en place un système de gestion des risques et une gouvernance des données adaptés à une application LLM/RAG
- Implémenter journalisation, transparence, contrôle humain et garde-fous dans l'architecture d'une application
- Évaluer l'exactitude et la robustesse d'un système et en suivre la dérive
- Produire la documentation technique de l'annexe IV et préparer l'évaluation de la conformité
- Organiser la surveillance après commercialisation et le signalement des incidents graves
- Auditer un système d'IA à l'aide d'une grille de contrôle et bâtir un plan de remédiation
Objectifs opérationnels
Savoir concevoir, instrumenter et documenter un système d'IA de façon à satisfaire les obligations du fournisseur prévues par l'AI Act.
Programme
Contenu du cours, module par module
9 modules
- Champ d'application, définition du système d'IA et du modèle d'IA à usage général
- Niveaux de risque : pratiques interdites (art. 5), haut risque (art. 6 et annexe III), transparence (art. 50), risque minimal
- Rôles dans la chaîne de valeur et modification substantielle qui fait devenir fournisseur
- Calendrier consolidé après l'omnibus numérique : 2 août 2026, 2 décembre 2027, 2 août 2028
- Articulation avec le RGPD, NIS2 et le Cyber Resilience Act
Travaux pratiques
Description :Les participants analysent trois cas d'usage, un chatbot RH, un outil de scoring client et un assistant documentaire. Pour chacun, ils déterminent le niveau de risque, le rôle de l'organisation et l'échéance applicable. Ils construisent ensuite la matrice qui relie chaque obligation retenue à une exigence technique vérifiable. À partir de quel paramétrage l'assistant documentaire, d'apparence anodine, bascule-t-il en haut risque ? La matrice est confrontée à un corrigé et sert de fil rouge pour la suite de la formation.
- Identification des risques sur tout le cycle de vie du système
- Usage prévu et mauvais usage raisonnablement prévisible
- Mesures de réduction et acceptation du risque résiduel
- Tests avant mise sur le marché et critères d'acceptation
- Articulation avec les normes ISO/IEC 23894 et 42001
Travaux pratiques
Description :Les participants recensent les risques de l'application RAG pour la santé, la sécurité et les droits fondamentaux. Ils évaluent chacun d'eux et lui associent une mesure de réduction technique ou organisationnelle. Ils formalisent le risque résiduel et les critères de test qui permettront de le vérifier. Quel risque ne peut pas être réduit par le code seul ? Le registre est relu en binôme puis comparé à un modèle.
- Pertinence, représentativité et qualité des jeux de données
- Détection et correction des biais
- Lignage et documentation des données (fiches de jeux de données)
- Le corpus documentaire d'un RAG comme donnée soumise à gouvernance
- Données personnelles : base légale, minimisation et articulation avec le RGPD
Travaux pratiques
Description :Les participants rédigent la fiche descriptive du corpus documentaire de l'application fil rouge. Ils écrivent un script qui mesure la couverture du corpus par thème et signale les zones sous-représentées. Ils identifient les données personnelles présentes et proposent un traitement adapté. Le corpus permet-il de répondre de la même façon à tous les profils d'utilisateurs ? La fiche et le script sont versionnés dans le dépôt du projet.
- Ce que le règlement impose de journaliser et pendant combien de temps
- Format et exploitabilité des traces : identifiants de session, versions de modèle et de prompt, sources consultées
- Notice d'utilisation destinée au déployeur
- Information des personnes qui interagissent avec un système d'IA
- Citations des sources en RAG et limites de l'explicabilité des LLM
Travaux pratiques
Description :Les participants ajoutent à l'API une journalisation structurée de chaque requête, des documents récupérés et de la réponse produite. Ils associent à chaque réponse les sources effectivement utilisées. Ils ajoutent la mention informant l'utilisateur qu'il échange avec une IA. Un auditeur peut-il reconstituer une réponse contestée à partir des seules traces ? La validation repose sur un scénario de reconstitution mené à partir des journaux.
- Objectifs du contrôle humain : comprendre, surveiller, interpréter, intervenir
- Points de validation et seuils d'escalade
- Interruption et reprise dans un agent LangGraph (human-in-the-loop)
- Biais d'automatisation et conception de l'interface de supervision
- Capacité d'arrêt et de mise hors service
Travaux pratiques
Description :Les participants définissent les situations où l'agent doit s'interrompre et attendre une décision humaine. Ils implémentent cette interruption dans le graphe LangGraph avec reprise après validation ou refus. Ils journalisent chaque décision humaine avec son auteur et sa justification. Comment éviter que le validateur approuve machinalement toutes les demandes ? Des scénarios de test vérifient le déclenchement correct de chaque point de validation.
- Métriques d'évaluation d'un système LLM/RAG et jeux de test de référence
- Robustesse face aux erreurs, aux incohérences et à la dérive
- Garde-fous en entrée et en sortie
- Injection de prompt directe et indirecte : mesures de prévention côté application
- Suivi en continu et tableau de bord de conformité
Travaux pratiques
Description :Les participants constituent un jeu de questions de référence et automatisent l'évaluation des réponses de l'application. Ils ajoutent des garde-fous en entrée et en sortie, puis mesurent leur effet sur la qualité et sur une série de tentatives d'injection. Ils exposent les indicateurs dans un tableau de bord de suivi. Quel niveau de dégradation doit déclencher une alerte ? Les résultats sont consignés comme preuves dans la matrice du jour 1.
- Structure et contenu attendus de la documentation technique
- Générer une partie de la documentation depuis le code et les artefacts du projet
- Tenir la documentation à jour au fil des versions
- Durée de conservation et mise à disposition des autorités
- Ce que le fournisseur transmet au déployeur
Travaux pratiques
Description :Les participants complètent le modèle de documentation annexe IV à partir des artefacts produits pendant les deux premiers jours. Ils automatisent la génération des sections décrivant l'architecture, les versions et les résultats d'évaluation. Ils identifient les sections qui restent à rédiger manuellement. Quelle section serait la plus difficile à défendre devant une autorité de surveillance ? Le document est relu à l'aide d'une liste de contrôle fournie.
- Système de management de la qualité (art. 17) et apport de l'ISO/IEC 42001
- Procédures d'évaluation de la conformité : contrôle interne ou organisme notifié
- Déclaration UE de conformité et marquage CE
- Enregistrement dans la base de données de l'UE
- Obligations du déployeur à anticiper : analyse d'impact sur les droits fondamentaux, information des personnes
Travaux pratiques
Description :Les participants déterminent la procédure d'évaluation de la conformité applicable à l'application fil rouge. Ils rassemblent les pièces du dossier et rédigent un projet de déclaration UE de conformité. Ils listent les informations à fournir au déployeur pour lui permettre de remplir ses propres obligations. Le dossier est-il complet sans intervention d'un organisme notifié ? La complétude est vérifiée avec une liste de contrôle commentée par le formateur.
- Plan de surveillance après commercialisation (art. 72)
- Signalement des incidents graves (art. 73) et articulation avec NIS2 et le RGPD
- Modification substantielle et cycle de remise en conformité
- Méthode d'audit d'un système d'IA par grille de contrôle
- Évaluation des acquis
Travaux pratiques
Description :Les participants échangent leurs projets et auditent celui d'un autre binôme avec la grille de contrôle fournie. Ils classent les écarts par gravité et rédigent un plan de remédiation priorisé. Ils simulent ensuite la déclaration d'un incident grave à partir d'un scénario fourni. Quel écart relevé mettrait en cause la mise sur le marché ? La formation se conclut par un QCM et la restitution des audits.
Travaux pratiques
Les ateliers sont réalisés en Python sur une application RAG fil rouge construite avec FastAPI et LangGraph, connectée à un modèle de langage par API. Ils représentent environ 60 % du temps de formation. Chaque participant repart avec le code instrumenté du projet, la matrice exigences et contrôles, le modèle de documentation technique annexe IV et la grille d'audit.
Programme mis à jour le 19/11/2026
Public concerné
Développeurs, data scientists, ingénieurs ML et MLOps, architectes et chefs de projet techniques qui conçoivent ou font évoluer des systèmes d'IA destinés à être mis sur le marché ou mis en service.

Prérequis
Pratique du développement en Python : les ateliers consistent à modifier et instrumenter une application existante. Expérience de la construction d'une application LLM ou RAG (appels d'API de modèles, chaînes ou agents) : la formation ne présente pas ces techniques, elle les rend conformes. Les formations IADL (LLM et LangChain) ou RAFT (RAG et fine-tuning) constituent une bonne préparation. Notions d'API REST : l'application fil rouge est exposée avec FastAPI. Aucune connaissance juridique n'est requise ; la formation IACT est un complément utile pour les aspects RGPD.
J’évalue mes connaissances pour vérifier que je dispose des prérequis nécessaires pour profiter pleinement de cette formation en faisant le test de prérequis.
Faire le testFinancement
Cette formation peut être prise en charge par votre entreprise, seule ou avec l’appui de son opérateur de compétences. Nous fournissons le devis et les pièces attendues par l’OPCO.
Formations liées
- Architecte IA Générative : Intégration, industrialisation et gouvernanceRéf. IGAL3 joursFondamentalProchaine session : 2 déc.2 140 €
- Automatiser avec n8n et créer son premier agent IA Réf. N8NI1 jourFondamentalProchaine session : 20 nov.750 €
- Claude API : créer des workflows et agents IARéf. CLAP1 jourIntermédiaireProchaine session : 20 nov.950 €
- Claude Code : Booster votre productivité avec le développement agentique et Claude CodeRéf. CLOD3 joursIntermédiaireProchaine session : 7 déc.2 090 €