Éthique de l'Intelligence Artificielle (IA)
- Durée
- Durée :1 jours
- Niveau
- Niveau :Fondamental
- Certification
- Certification :Non
850€ HT
Prochaine session :
Audit des systèmes d’intelligence artificielle
Description de la formation Audit IA
Qu’est-ce que la sécurité des systèmes d’intelligence artificielle ?
Avec la généralisation du deep learning et des modèles génératifs, l’IA devient une cible privilégiée pour les cyberattaques. Les modèles, données d’entraînement et environnements d’exécution présentent de nouvelles surfaces d’attaque que les solutions de sécurité classiques ne couvrent pas.
Pourquoi suivre une formation « Sécurité des systèmes d’intelligence artificielle » ?
Cette formation, conçue par des experts en cybersécurité et en IA, fournit les compétences nécessaires pour comprendre les menaces spécifiques aux architectures IA, auditer un système d’IA et appliquer des mesures correctives. Elle met un accent particulier sur les vulnérabilités des modèles, des applications et des chaînes d’approvisionnement IA, avec des exercices pratiques et des challenges type Capture The Flag.
Programme de la formation
Objectif opérationnel :
Savoir identifier, auditer et corriger les vulnérabilités spécifiques aux systèmes d’intelligence artificielle
Objectifs pédagogiques :
À l'issue de cette formation sécurité des systèmes d’intelligence artificielle , vous aurez acquis les connaissances nécessaires pour :
- Maîtriser le vocabulaire et les concepts principaux des modèles de deep learning modernes
- Comprendre les risques liés à la compromission d'un système d'IA par un tiers malveillant
- Préparer et réaliser un audit de sécurité approfondi d'un système d'IA
- Mettre en place des mesures correctives et des bonnes pratiques de développement pour assurer la sécurité de ces systèmes
Jour 1
Attaques antagonistes
Injection de prompt
Empoisonnement des données d’entraînement
Attaques sur l’apprentissage fédéré
Inversion de modèleJour 2
Fuite de données sensibles
Attaques sur la chaîne d’approvisionnement
Élévation de privilèges via le modèle
Attaques sur RAG : fuite de documents, attaques par canal auxiliaireJour 3
Sécurisation des systèmes d’IA, de la conception jusqu’à la mise en production
Gestes à adopter en cas d’attaque, considérations juridiques et protection des donnéesTravaux pratiques : Correction des travaux pratiques des jours 1 et 2
Examen de compétences
Vulnérabilités du modèle
Concepts fondamentaux du deep learning : entraînement et fine-tuning, architectures, jeux de données, embeddings, …Attaques antagonistes
Injection de prompt
Empoisonnement des données d’entraînement
Attaques sur l’apprentissage fédéré
Inversion de modèleJour 2
Vulnérabilités applicatives
Injection via les sorties du modèleFuite de données sensibles
Attaques sur la chaîne d’approvisionnement
Élévation de privilèges via le modèle
Attaques sur RAG : fuite de documents, attaques par canal auxiliaireJour 3
Mesures défensives et bonnes pratiques + évaluation
Méthodes de préparation et de restitution d’un audit de sécurité IASécurisation des systèmes d’IA, de la conception jusqu’à la mise en production
Gestes à adopter en cas d’attaque, considérations juridiques et protection des donnéesTravaux pratiques : Correction des travaux pratiques des jours 1 et 2
Examen de compétences
Public cible :
Cette formation s'adresse aux Développeurs, architectes IA, responsables techniques, pentesters, consultants en cybersécurité et data scientists souhaitant renforcer leurs compétences en sécurité IA.
Prérequis :
Pour suivre ce cours, il est recommandé d'avoir une expérience en programmation (idéalement en IA ou data science) et des notions de base en sécurité applicative (la participation à une formation de type Pentest Web est un plus).
J'évalue mes connaissances pour vérifier que je dispose des prérequis nécessaires pour profiter pleinement de cette formation en faisant le test de prérequis.
Date de mise à jour du programme : 13/02/2026
Dates et lieux
Période souhaitée
Lieux
Type d'affichage