Cette formation est-elle adaptée à mon niveau ?

Chaque fiche indique le niveau requis (Fondamental, Intermédiaire, Avancé) ainsi que les prérequis détaillés. En cas de doute, un test d'auto-évaluation est disponible directement sur la page.

La formation est-elle orientée théorie ou pratique ?

Nos formations alternent apports théoriques et travaux pratiques, pour mettre immédiatement en application les notions abordées.

Puis-je suivre cette formation à distance ?

Oui, la plupart de nos formations sont disponibles en présentiel et en classe à distance, avec le même contenu et le même niveau d'interaction avec le formateur.

Cette formation est-elle disponible en intra-entreprise ?

Oui. Nous pouvons l'organiser dans vos locaux, dans nos salles ou à distance, avec un programme adapté à votre contexte si nécessaire. Contactez notre service intra pour un devis.

Que se passe-t-il si une session est annulée ?

Nous nous engageons à maintenir les sessions garanties affichées. En cas d'annulation de notre part, nous vous proposons un report sur la prochaine session disponible.

Cette formation est-elle finançable via le CPF ?

Si la formation est éligible CPF, cela est indiqué sur la fiche avec le code de certification correspondant. Vous pouvez retrouver la formation directement sur Mon Compte Formation.

Mon employeur ou mon OPCO peut-il prendre en charge le coût ?

Oui. Contactez-nous pour obtenir une convention de formation et vérifier les possibilités de prise en charge via votre OPCO.

Formation Sécurité des systèmes d'intelligence artificielle

Description de la formation Sécurité IA

Qu’est-ce que la sécurité des systèmes d’intelligence artificielle ?

Avec la généralisation du deep learning et des modèles génératifs, l’IA devient une cible privilégiée pour les cyberattaques. Les modèles, données d’entraînement et environnements d’exécution présentent de nouvelles surfaces d’attaque que les solutions de sécurité classiques ne couvrent pas.

Pourquoi suivre une formation « Sécurité des systèmes d’intelligence artificielle » ?

Cette formation, conçue par des experts en cybersécurité et en IA, fournit les compétences nécessaires pour comprendre les menaces spécifiques aux architectures IA, auditer un système d’IA et appliquer des mesures correctives. Elle met un accent particulier sur les vulnérabilités des modèles, des applications et des chaînes d’approvisionnement IA, avec des exercices pratiques et des challenges type Capture The Flag.

Jour 1

Introduction à l'Intelligence Artificielle

Définitions et périmètre : IA, Machine Learning, Deep Learning, IA générative, agentique
Brève histoire de l'IA : des systèmes experts aux LLM
L'écosystème actuel : acteurs, usages, tendances, perspectives
Usage de l'IA par les attaquants (très succinctement)

Fonctionnement des systèmes d'IA

Cycle de vie d'un système d'IA
Les données au cœur de l'IA : jeux d'entraînement, biais, qualité (enjeux éthiques et juridiques)
Les grands types d'apprentissage
Focus sur les modèles de langage (LLM) : tokenisation, embeddings, attention
Modes de déploiement : on-premise, cloud, API, edge
Du modèle de fondation à la spécialisation : modèles pré-entraînés, fine-tuning, RAG
Chaîne d'approvisionnement de l'IA : AI software bill of materials, acteurs de la donnée, capacité de calcul
Interconnexion avec un système d'IA : serveur MCP

Cartographie des usages de l'IA en entreprise

Cas d'usage par domaine métier / secteur d'activité
IA interne vs IA exposée aux clients
Shadow AI : risques et détection
Inventaire des systèmes d'IA : lien explicite avec les obligations d'inventaire (AI Act, gouvernance IA)

Objectifs et enjeux de sécurité de l'IA

Confidentialité
Intégrité
Disponibilité
Confiance

Vocabulaire et concepts clés

Sûreté de fonctionnement (biais, performance) vs sécurité (cyber)
Définition des concepts d'explicabilité, d'opacité, de déterminisme
Jailbreak, prompt injection etc.Travaux pratiques :Jailbreak

Structure de gouvernance étatique de l'IA

Articulation et périmètre de responsabilités des entités de régulation
AI safety institute
Stratégie nationale de l'IA (3 phases)
Gouvernance nationale du RIA (= AI Act)

Règlement européen sur l'Intelligence Artificielle (AI Act)

Genèse, objectifs et calendrier d'application
Classification des systèmes d'IA par niveau de risque
Obligations par catégorie : systèmes interdits, haut risque, risque limité, risque minimal - logique par les risques
Exigences pour les systèmes à haut risque : données, documentation, supervision humaine
Obligations spécifiques aux modèles d'IA à usage général (GPAI)
Gouvernance européenne
Sanctions et mise en conformité
Positionnement du SIA dans l'écosystème juridique
Notion clé : la règle applicable dépend du rôle (fournisseur / déployeur), du niveau de risque, du contexte sectoriel

Articulation avec les autres réglementations

AI Act et RGPD : protection des données personnelles dans l'IA
AI Act et NIS2 : systèmes d'IA critiques
AI Act et règlements sectoriels (focus DORA - résilience opérationnelle/numérique)
Articulation de l'IA avec CSA, CRA (schéma de certification, surveillance de produit, présomption de conformité)
Articulation des notifications d'incident
Comparaison internationale
Évolution Omnibus ?

Normes et référentiels internationaux

ISO/IEC 42001 : Système de management de l'IA
ISO/IEC 23894 : Gestion des risques de l'IA
ISO/IEC 38507 : Gouvernance de l'IA
ISO/IEC 25059 : Qualité des systèmes d'IA
ISO/IEC 27090 : Mesures de sécurité pour l'IA
Articulation avec ISO 27001

Référentiels et guides sectoriels

ANSSI
ENISA : bonnes pratiques de sécurité de l'IA
NIST AI Risk Management Framework (AI RMF)
ISACA : AI Audit Framework
CSA AI Safety Initiative et Cloud Controls Matrix for AI

Responsabilités et qualification des acteurs

Fournisseur vs déployeur
Impacts juridiques selon le niveau de risque du SIA
Responsabilités administrative, contractuelle et pénale (vue d'ensemble)
Chaîne d'approvisionnement IA : dépendances critiques, responsabilité en cas de défaillance
Interconnexions → propagation des risquesTravaux pratiques :Checklist juridique : questions clés à se poser face à un SIAJour 2

Exercice pratique d'évaluation des risques IA / étude de cas

État de la menace portant sur les systèmes d'IA

Reprendre publication ANSSI (février 2026)

Typologie d'attaques

Empoisonnement / Extraction / Évasion
Focus sur les attaques par injection de prompt
OWASP Top 10 for LLM : Utiliser ce référentiel pour sécuriser les applications basées sur des modèles de langage
MITRE ATLAS

Vulnérabilités courantes des systèmes d'IA

Scénarios de risques génériques les plus majeurs

Méthodologie d'analyse de risques applicable

ISO 27005 / EBIOS RM
Normes du CEN/CENELEC
Adaptation des méthodes classiques aux spécificités de l'IA :
- Prise en compte du cycle de vie des systèmes d'IA
- Intégration des risques liés aux données, aux modèles et à la chaîne d'approvisionnement
- Articulation entre risques techniques, juridiques et éthiques
Articulation avec le cadre réglementaire :
- Intégration des exigences du AI Act dans la démarche d'analyse de risques
- Cohérence avec la gestion des risques IA au sens de l'ISO/IEC 23894
- Alignement avec les obligations de documentation, de supervision humaine et de gestion des incidents

Risques spécifiques aux systèmes d'IA : lecture technique, juridique et éthique

Risques liés aux modèles de langage (LLM) : Opacité des modèles : limites d'explicabilité / obligation de supervision humaine (AI Act) / enjeux de responsabilité en cas de décision contestée
Hallucinations : production d'informations erronées ou trompeuses / risques décisionnels, juridiques et réputationnels / nécessité de mécanismes de validation et de reprise de contrôle humain
Risques liés aux modes de déploiement : Cloud / API / On-premise
Autres risquesJour 3

Stratégie et organisation

Positionnement de la sécurité de l'IA dans l'organisation
Rôles et responsabilités : RSSI, DPO, Chief AI Officer, AI Ethics Officer
Comitologie : comité IA, instances de gouvernance
Alignement avec la stratégie d'entreprise et la stratégie SSI

Politique de Sécurité des Systèmes d'Information et IA

Intégration de l'IA dans la PSSI existante
Politique de sécurité spécifique à l'IA (PSSI-IA)
Articulation avec les autres politiques (données, cloud, etc.)
Principes directeurs et exigences minimales

Corpus documentaire

Charte d'utilisation de l'IA
Charte éthique de l'IA (Rôle stratégique et décisionnel)
Procédures opérationnelles : validation, déploiement, retrait
Guide des bonnes pratiques utilisateurs
Registre des systèmes d'IA
Questionnaire cadrage projet (en amont de l'AR)Travaux pratiques :Cas pratique avec rédaction d'une politique ou charte (sécu) IA

Cadre de gouvernance IA de confiance

Principes d'une IA responsable
Supervision humaine des décisions
Documentation et transparence
Mécanismes de contrôle et de surveillance continue
Éthique comme outil d'arbitrage et de gestion des risques
Arbitrer entre : performance / explicabilité ou automatisation / supervision
Cas réels d'arbitrage

Indicateurs et pilotage

Définition des KPI spécifiques à l'IA
Tableaux de bord sécurité IA
Reporting à la direction et aux instances de gouvernance

Sécurité de l'IA et gestion de projet

Intégration de la sécurité dans les projets IA :
- Security by design pour l'IA
- Privacy by design et by default
- Points de contrôle sécurité dans le cycle projet
- Rôle du RSSI dans les projets IA
Évaluation des projets IA :
- Analyse de risques projet
- Évaluation d'impact (AIPD / FRIA)
- Critères de validation sécurité
- Comité de validation des projets IA : les critères concrets - pourquoi dire non ?

Sécurité de l'IA et ressources humaines

Programme de sensibilisation à l'IA
Objectifs et enjeux de la sensibilisation :
- Publics cibles : collaborateur, dirigeants, métiers, IT, développeurs
- Messages clés par population
- Risques liés aux usages non maîtrisés (Shadow AI)
- Exemple : le protocole « Think First, Verify Always »
- Dilemmes éthiques concrets
Modalités de sensibilisation :
- Formats : e-learning, ateliers, serious games, communications
- Cas pratiques et mises en situation
- Campagnes de sensibilisation aux risques IA (prompt injection, fuites de données)
- Évaluation de l'efficacité des actions
Formation et compétences :
- Montée en compétences des équipes sécurité sur l'IA
- Formation des développeurs à la sécurité de l'IA
- Autres besoins de formations

Sécurité de l'IA et relations contractuelles

Cartographie des prestataires IA
Clauses contractuelles essentielles
Transfert et partage de responsabilité
Gestion de la relation fournisseur
Points d'attention

Résilience des systèmes d'IA

Définition de l'« incident grave » au sens de l'AI Act
Comparaison avec : incident NIS2 / violation de données RGPD / incident DORA
Articulation des obligations de notification : autorités compétentes / délais / périmètres
Spécificité du besoin de redondance des systèmes d'IAJour 4

Cas pratique (global)

Rappel des concepts fondamentaux / Questions / Retex à chaud

Examen de certification

Date de mise à jour du programme : 03/06/2026

Dates et lieux

Période souhaitée

Lieux

Type d'affichage

Distanciel

6 juillet - 9 juillet

21 septembre - 24 septembre

14 décembre - 17 décembre

Paris