Talaxie Open Studio for Data Integration : Initiation
- Durée
- Durée :3 jours
- Niveau
- Niveau :Fondamental
- Certification
- Certification :Non
Intra uniquement
Aucune session prévue
Talend : intégration de données pour le Big Data
Maîtriser Talend dans un environnement Big DataDescription de la formation Talend Big Data
Considéré comme un pionnier de l'open source dans l'univers de la business intelligence, Talend (Talend Open Studio for Big Data) s'est également progressivement imposé comme une référence dans le Big Data. Tirant partie des bases de données cloud (Hadoop, NoSQL), Talend pour le Big Data s'appuie par ailleurs sur les modules Hadoop (HDFS, Hive, Pig) et sur de nombreux connecteurs cloud (AWS, GCP, Azure) afin de proposer de la gestion de fichiers, de l'orchestration des flux de données, de l'importation et chargement vers un data lake et naturellement les fonctionnalités ETL et ELT.
Programme de la formation
Objectif opérationnel :
Savoir utiliser Talend dans un environnement Big Data afin de manipuler des données en masse.
Objectifs pédagogiques :
À l'issue de cette formation Talend pour le Big Data, vous aurez acquis les connaissances et compétences nécessaires pour :
- Lister les composants et fonctionnalités de Talend dans un environnement Big Data
- Créer des jobs Talend faisant interagir des fichiers, et base de données Big Data
- Connaître les bonnes pratiques de développements avec Talend
- Lire et écrire des données sur HDFS et dans des bases de données NoSQL avec des Jobs Talend
- Réaliser des Jobs de transformation à l’aide de Pig et Hive
- Utiliser les composants de gestion de qualité de donnée
- Réaliser des Jobs de migration de base de données relationnelles dans Hadoop avec Sqoop
- Créer des traitements ETL (Extraction, Transform and Load) de bout en bout en environnement Big Data
Jour 1
Ouvrir un projet
Quelles différences pour Talend dans le contexte Big Data
Les spécificités liées au Big Data
Monitorer un cluster Hadoop
Créer un cluster de métadonnées
Enregistrer un fichier sur du HDFS
Manipulations d’un grand nombre de fichiers et de gros fichiers
Lire les données de HDFS
Hbase une base NoSQL orientée colonnes au-dessus de HDFSTravaux pratiquesUtiliser HBase pour sauvegarder les données charger dans HDFS avec des jobs Talend
Lecture écriture de données dans la base
Vue générale de Hive
Utiliser Sqoop pour faciliter la migration de bases de données relationnelles dans HadoopTravaux pratiquesRéaliser des Jobs de migration de base de données relationnelles dans Hadoop avec Sqoop
Création de tables dans HDFS avec Hive
Traitement des données avec Pig
Traitement des données par lotsTravaux pratiquesRéaliser des Jobs Talend de transformation à l'aide de Pig et HiveJour 2
Les composants de qualité de donnéesTravaux pratiquesRéaliser des Jobs de transformation et gestion de la qualité de donnée
Créer un environnement de développement
Chargement des données dans HDFS
Enrichissement des logs
Calculer les statistiques
Conversion d'un job standard en un lot Big Data
Comprendre les jobs MapReduceTravaux pratiquesUtilisation du studio pour configurer les ressource requests vers YARN
Chargement des tweets dans HDFS
Traitement des tweets avec MapReduce
Planification de l'exécution du jobJour 3
Problématiques posées pour la gestion et le dispatch de ces flux
Ce que propose Kafka
Publication de messages sur un sujet Kafka
Consommer des messages Kafka dans TalendTravaux pratiquesLire des messages d'un sujet Kafka donné (broker list, starting offset, topic name, etc.), paramétrer la fréquence d’analyse, extraction de champs hashtag pour modifier la casse, compteur d’occurrence
Analyser les données des clients
Produire et consommer des flux en temps réel
Différents modes pour les job Talend Spark (local, standalone, yarn client)
Création d’un job Spark
Tests de Jobs Spark à l’aide de scénarios de testTravaux pratiquesCréation de jobs Spark deployés dans un cluster compatible Spark
Génération de logs bruts
Génération de logs enrichis
Analyser les logs avec un batch job
Concepts de bases
Tour d’horizon des composants et philosophie de l’outilsOuvrir un projet
Quelles différences pour Talend dans le contexte Big Data
Les spécificités liées au Big Data
Monitorer un cluster Hadoop
Créer un cluster de métadonnées
Lire et écrire des données en HDFS
Principes d’un système de fichiers distribuéEnregistrer un fichier sur du HDFS
Manipulations d’un grand nombre de fichiers et de gros fichiers
Lire les données de HDFS
Hbase une base NoSQL orientée colonnes au-dessus de HDFSTravaux pratiquesUtiliser HBase pour sauvegarder les données charger dans HDFS avec des jobs Talend
Lecture écriture de données dans la base
Travailler avec les tables
Comment apporter la dimension relationnelle ?Vue générale de Hive
Utiliser Sqoop pour faciliter la migration de bases de données relationnelles dans HadoopTravaux pratiquesRéaliser des Jobs de migration de base de données relationnelles dans Hadoop avec Sqoop
Création de tables dans HDFS avec Hive
Traitement des données et des tables en HDFS (Pig et Hive)
Traitement des tables Hive avec des jobsTraitement des données avec Pig
Traitement des données par lotsTravaux pratiquesRéaliser des Jobs Talend de transformation à l'aide de Pig et HiveJour 2
Guide de dépannage et bonnes pratiques
Dépannage de votre clusterLes composants de qualité de donnéesTravaux pratiquesRéaliser des Jobs de transformation et gestion de la qualité de donnée
Cas d'utilisation de clickstream (flux de clics)
Surveillance du cluster HadoopCréer un environnement de développement
Chargement des données dans HDFS
Enrichissement des logs
Calculer les statistiques
Conversion d'un job standard en un lot Big Data
Comprendre les jobs MapReduceTravaux pratiquesUtilisation du studio pour configurer les ressource requests vers YARN
Cas d'utilisation : l'analyse comportementale
Chargement du dictionnaire et des données du fuseau horaire dans HDFSChargement des tweets dans HDFS
Traitement des tweets avec MapReduce
Planification de l'exécution du jobJour 3
Introduction à Kafka
Exemples d’applications et de flux de messagesProblématiques posées pour la gestion et le dispatch de ces flux
Ce que propose Kafka
Publication de messages sur un sujet Kafka
Consommer des messages Kafka dans TalendTravaux pratiquesLire des messages d'un sujet Kafka donné (broker list, starting offset, topic name, etc.), paramétrer la fréquence d’analyse, extraction de champs hashtag pour modifier la casse, compteur d’occurrence
Introduction à Spark
Comprendre les bases de SparkAnalyser les données des clients
Produire et consommer des flux en temps réel
Différents modes pour les job Talend Spark (local, standalone, yarn client)
Création d’un job Spark
Tests de Jobs Spark à l’aide de scénarios de testTravaux pratiquesCréation de jobs Spark deployés dans un cluster compatible Spark
Cas d'utilisation de traitement des logs : génération des logs enrichis
Introduction au cas d'utilisation du traitement des loisGénération de logs bruts
Génération de logs enrichis
Traitement des logs cas d'utilisation : surveillance
Surveillance des logs enrichisCas d'utilisation de traitement des logs : rapports
Génération de rapports basés sur les fenêtres de donnéesCas d'utilisation de traitement des logs : analyse des batchs
Ingestion de flux de donnéesAnalyser les logs avec un batch job
Public cible :
Ce cours Talend pour le Big Data s’adresse essentiellement à des consultants BI, des architectes, chefs de projets qui souhaitent gérer des flux de données avec Talend Big Data
Prérequis :
Pour faciliter le déroulement de cette formation Talend pour le Big Data, il est souhaitable que les participants disposent de connaissances préalables sur Hadoop, Spark et Kafka.
J'évalue mes connaissances pour vérifier que je dispose des prérequis nécessaires pour profiter pleinement de cette formation en faisant le test de prérequis.
Date de mise à jour du programme : 12/06/2025
Dates et lieux
Période souhaitée
Lieux
Type d'affichage