Formation Audit des systèmes d’intelligence artificielle

Qu’est-ce que la sécurité des systèmes d’intelligence artificielle ?

Avec la généralisation du deep learning et des modèles génératifs, l’IA devient une cible privilégiée pour les cyberattaques. Les modèles, données d’entraînement et environnements d’exécution présentent de nouvelles surfaces d’attaque que les solutions de sécurité classiques ne couvrent pas.

Pourquoi suivre une formation « Sécurité des systèmes d’intelligence artificielle » ?

Cette formation, conçue par des experts en cybersécurité et en IA, fournit les compétences nécessaires pour comprendre les menaces spécifiques aux architectures IA, auditer un système d’IA et appliquer des mesures correctives. Elle met un accent particulier sur les vulnérabilités des modèles, des applications et des chaînes d’approvisionnement IA, avec des exercices pratiques et des challenges type Capture The Flag.

Objectif opérationnel :

Savoir identifier, auditer et corriger les vulnérabilités spécifiques aux systèmes d’intelligence artificielle

Objectifs pédagogiques :

À l'issue de cette formation sécurité des systèmes d’intelligence artificielle , vous aurez acquis les connaissances nécessaires pour :

• Maîtriser le vocabulaire et les concepts principaux des modèles de deep learning modernes
• Comprendre les risques liés à la compromission d'un système d'IA par un tiers malveillant
• Préparer et réaliser un audit de sécurité approfondi d'un système d'IA
• Mettre en place des mesures correctives et des bonnes pratiques de développement pour assurer la sécurité de ces systèmes

Public :

Cette formation s'adresse aux Développeurs, architectes IA, responsables techniques, pentesters, consultants en cybersécurité et data scientists souhaitant renforcer leurs compétences en sécurité IA.

Prérequis :

Pour suivre ce cours, il est recommandé d'avoir une expérience en programmation (idéalement en IA ou data science) et des notions de base en sécurité applicative (la participation à une formation de type Pentest Web est un plus).

Vulnérabilités du modèle

Vulnérabilités applicatives

Mesures défensives et bonnes pratiques + évaluation

Les participants réalisent des exercices sur des environnements d’IA simulés, exploitent des vulnérabilités réelles et participent à un challenge Capture The Flag de sécurité IA.