Sécurité des systèmes d'intelligence artificielle
- Durée
- Durée :4 jours
- Niveau
- Niveau :Intermédiaire
- Certification
- Certification :Non
3090€ HT
Prochaine session :
Description de la formation Gouvernance IA generative
Qu’est-ce que la gouvernance de l’IA générative en entreprise ?
L’IA générative transforme profondément les organisations en automatisant la production de contenu, l’assistance décisionnelle et la gestion des connaissances. Piloter ces systèmes nécessite de comprendre les modèles de langage (LLMs) tels que GPT, Claude, Mistral ou LLaMA, leurs architectures (API, RAG, multi-agents) et les enjeux de sécurité, d’éthique et de souveraineté qu’ils posent.
Pourquoi suivre une formation Piloter et Encadrer l’IA Générative en Entreprise ?
Dans un contexte d’évolution rapide du cadre réglementaire (AI Act, RGPD, ISO/IEC 42001…), il est essentiel de doter les décideurs et responsables de conformité des outils et pratiques nécessaires pour encadrer l’usage de l’IA générative. Cette formation offre une approche concrète et stratégique pour structurer une gouvernance IA efficace, responsable et alignée sur la transformation numérique des entreprises.
Programme de la formation
Objectif opérationnel :
Savoir gouverner, sécuriser, auditer et encadrer l’usage des LLMs et systèmes IA générative, dans un contexte réglementaire et stratégique en évolution rapide.
Objectif pédagogiques :
À l'issue de cette formation Piloter et Encadrer l’IA Générative en Entreprise, vous aurez acquis les connaissances nécessaires pour :
- Comprendre les fondamentaux techniques et les risques de l’IA générative.
- Identifier les enjeux réglementaires et éthiques associés à son usage.
- Mettre en place une gouvernance IA intégrant sécurité, conformité et stratégie.
- Élaborer des politiques internes et chartes d’usage adaptées.
- Concevoir un plan d’action de supervision et d’audit de l’IA générative.
Jour 1
Typologies d’usage : chatbots, agents, génération, extraction, copilotes
Vue d’ensemble des architectures : API, RAG, multi-agents, LangChain, ontologies
Risques de confidentialité et de fuites de données
Erreurs d’interprétation, non-détectabilité des erreurs
Dépendance fournisseur / souveraineté
AI Act européen : statuts de risque, obligations et calendriers
Normes ISO/IEC sur l’IA (23894, 42001) et NIS2
Encadrement des agents autonomes, des outils augmentés, des interfaces IAJour 2
Gestion des prompts, des contenus générés, et de la supervision humaine
Politique de confidentialité des données entrantes/sortantes
Journaux de conversations, scoring des prompts, rejouabilité
Documentation des chaînes de prompts et des agents
Outils de gouvernance technique : LangChain, PromptLayer, Trulens, MLflowTravaux pratiquesTravail en groupe sur la politique d’usage d’un cas IA réel
Identification des risques, leviers de contrôle, supervisionJour 3
Matrice de classification des cas d’usage : risque, valeur, contrôle
Réalisation d’une DPIA spécifique IA
Critères d’acceptabilité éthique et sociale
Processus de go/no-go ou déploiement contrôlé
Indicateurs de performance éthique et conformité
Encadrement des bases documentaires et sources utilisées pour le RAG
Rôle des ontologies dans la gouvernance des connaissances (standardisation, validation sémantique)Travaux pratiquesPriorisation des actions à mettre en place dans l’entreprise
Structuration d’une gouvernance progressive : comité, règles, outillage
Alignement avec stratégie de transformation et innovation
Introduction à l’IA générative et aux LLMs
Fonctionnement simplifié des LLMs (GPT, Claude, LLaMA, Mistral…)Typologies d’usage : chatbots, agents, génération, extraction, copilotes
Vue d’ensemble des architectures : API, RAG, multi-agents, LangChain, ontologies
Cartographie des risques spécifiques à la GenAI
Biais, hallucinations, falsification, instabilitéRisques de confidentialité et de fuites de données
Erreurs d’interprétation, non-détectabilité des erreurs
Dépendance fournisseur / souveraineté
Règlementation actuelle et à venir
RGPD et IA générative : principes concernés (finalité, minimisation, DPA, DPIA)AI Act européen : statuts de risque, obligations et calendriers
Normes ISO/IEC sur l’IA (23894, 42001) et NIS2
Encadrement des agents autonomes, des outils augmentés, des interfaces IAJour 2
Mettre en place une gouvernance IA adaptée
Structuration d’un comité IA / cellule éthique
Rôles clés : PO, DPO, RSSI, Data Steward, Architecte
Gouvernance transverse entre métiers, IT, juridique, sécurité
Politiques internes et chartes d’usage
Règles d’usage des outils GenAI (internes et externes)Gestion des prompts, des contenus générés, et de la supervision humaine
Politique de confidentialité des données entrantes/sortantes
Supervision, transparence et auditabilité
Traçabilité des décisions prises par LLMsJournaux de conversations, scoring des prompts, rejouabilité
Documentation des chaînes de prompts et des agents
Outils de gouvernance technique : LangChain, PromptLayer, Trulens, MLflowTravaux pratiquesTravail en groupe sur la politique d’usage d’un cas IA réel
Identification des risques, leviers de contrôle, supervisionJour 3
Évaluation des projets IA générative
Fiches de cadrage projet IAMatrice de classification des cas d’usage : risque, valeur, contrôle
Réalisation d’une DPIA spécifique IA
Critères d’acceptabilité éthique et sociale
Processus de validation et supervision continue
Checklists projet (RGPD, AI Act, sécurité)Processus de go/no-go ou déploiement contrôlé
Indicateurs de performance éthique et conformité
Gouvernance des données et des connaissances ontologies
Qualité des données d’entrée (data cleaning, sécurité, vérifiabilité)Encadrement des bases documentaires et sources utilisées pour le RAG
Rôle des ontologies dans la gouvernance des connaissances (standardisation, validation sémantique)Travaux pratiquesPriorisation des actions à mettre en place dans l’entreprise
Structuration d’une gouvernance progressive : comité, règles, outillage
Alignement avec stratégie de transformation et innovation
Public cible :
Cette formation s’adresse aux DPO, RSSI, responsables conformité, directeurs data, IA, digital et innovation, ainsi qu’aux juristes IT et chefs de projet IA.
Prérequis :
Aucun prérequis technique n’est nécessaire. Une connaissance des enjeux réglementaires ou de gouvernance est un plus pour tirer pleinement profit de la formation.
J'évalue mes connaissances pour vérifier que je dispose des prérequis nécessaires pour profiter pleinement de cette formation en faisant le test de prérequis.
Date de mise à jour du programme : 14/01/2026
Dates et lieux
Période souhaitée
Lieux
Type d'affichage