Formation BIG DATA Hadoop Cloudera Administration
Domaine : Data Science – Deep learning
DURÉE
3 jour(s)
OBJECTIFS
Connaître les principes du framework Hadoop et savoir l’installer et le configurer. Maîtriser la configuration et la gestion des services avec Cloudera Manager.
Pré-requis
Connaissance des commandes des systèmes unix/linux.
Participants
Chef de projet, administrateur et toute personne souhaitant mettre en oeuvre un système distribué avec Hadoop.
coût
Nous contacter pour une formation sur mesure ou en intra
LIEUx de formation
Notre centre de formation à Sophia AntipolisOu sur votre site en formation intra
PROGRAMME DE FORMATION
BIG DATA Hadoop Cloudera Administration
Introduction
Les fonctionnalités du framework Hadoop (Les différentes versions)
Distributions (Apache, Cloudera, Hortonworks, EMR, MapR, DES, Spécificités de chaque distribution)
Architecture et principe de fonctionnement
Terminologie (NameNode, DataNode, ResourceManager, NodeManager, Rôle des différents composants)
Le projet et les modules (Hadoop Common, HDFS, YARN, Spark, MapReduce, Hue, Oozie, Pig, Hive, HBase, Zeppelin…)
Distributions (Apache, Cloudera, Hortonworks, EMR, MapR, DES, Spécificités de chaque distribution)
Architecture et principe de fonctionnement
Terminologie (NameNode, DataNode, ResourceManager, NodeManager, Rôle des différents composants)
Le projet et les modules (Hadoop Common, HDFS, YARN, Spark, MapReduce, Hue, Oozie, Pig, Hive, HBase, Zeppelin…)
Les outils Hadoop
Infrastructure/mise en oeuvre (Avro, Ambari, Zookeeper, Pig, Tez, Oozie, Vue d’ensemble, Gestion des données, Exemple de sqoop)
Restitution (Webhdfs, hive, Hawq, Mahout, ElasticSearch…)
Outils complémentaires de traitement (Spark, SparkQL, Spark/ML, Storm, BigTop, Zebra)
Outils complémentaires de développement (Cascading, Scalding, Flink)
Outils complémentaires d’analyse (RHadoop, Hama, Chukwa, Kafka)
Restitution (Webhdfs, hive, Hawq, Mahout, ElasticSearch…)
Outils complémentaires de traitement (Spark, SparkQL, Spark/ML, Storm, BigTop, Zebra)
Outils complémentaires de développement (Cascading, Scalding, Flink)
Outils complémentaires d’analyse (RHadoop, Hama, Chukwa, Kafka)
Installation et configuration
Présentation de Cloudera Manager
Installation en mode distribué
Configuration de l’environnement
Etude des fichiers de configuration (core-site.xml / hdfs-site.xml
Installation en mode distribué
Configuration de l’environnement
Etude des fichiers de configuration (core-site.xml / hdfs-site.xml
Administration Hadoop
Outils complémentaires à YARN et HDFS (jConsole, jConsole YARN, Exemples sur le suivi de charges, l’analyse des journaux)
Principe de gestion des nœuds
Principe des accès JMX (Démonstration avec Prometheus)
Administration HDFS (Présentation des outils de stockage des fichiers, fsck, dfsadmin)
Mise en oeuvre sur des exemples simples de récupération de fichiers (Gestion centralisée de caches avec Cacheadmin, Gestion de la file d’attente, paramétrage, Fair-Scheduler)
Principe de gestion des nœuds
Principe des accès JMX (Démonstration avec Prometheus)
Administration HDFS (Présentation des outils de stockage des fichiers, fsck, dfsadmin)
Mise en oeuvre sur des exemples simples de récupération de fichiers (Gestion centralisée de caches avec Cacheadmin, Gestion de la file d’attente, paramétrage, Fair-Scheduler)
Haute disponibilité
Mise en place de la haute disponibilité sur une distribution Cloudera
Travaux pratiques (Passage d’un système HDFS en mode HA, Explication/démonstration d’une fédération de cluster Hadoop)
Travaux pratiques (Passage d’un système HDFS en mode HA, Explication/démonstration d’une fédération de cluster Hadoop)
Sécurité
Mécanismes de sécurité et mise en oeuvre pratique de la sécurité avec Kerberos
Travaux pratiques (Mise en place de la sécurité Kerberos sur une distribution Cloudera, Création des utilisateurs, Travaux sur les droits d’accès et les droits d’exécution, Impact au niveau des files YARN)
Sécurisation de YARN avec les Linux Container Executor
Travaux pratiques (Mise en place de la sécurité Kerberos sur une distribution Cloudera, Création des utilisateurs, Travaux sur les droits d’accès et les droits d’exécution, Impact au niveau des files YARN)
Sécurisation de YARN avec les Linux Container Executor
Exploitation
Installation d’une grappe Hadoop (Lancement des services)
Principe de la supervision des éléments par le NodeManager
Monitoring graphique avec Cloudera Manager
Travaux pratiques (Visualisation des alertes en cas d’indisponibilité d’un noeud)
Configuration des logs avec log4j
Principe de la supervision des éléments par le NodeManager
Monitoring graphique avec Cloudera Manager
Travaux pratiques (Visualisation des alertes en cas d’indisponibilité d’un noeud)
Configuration des logs avec log4j
dates des formations a grenoble
dates des formations a SOPHIA ANTIPOLIS
formations associées
- Apache Flink
- Flux de données avec Storm
- Blockchain : Mise en pratique
- Apache Pig : Développement de scripts
- Apache Cassandra : Administration
- BIG DATA Gestion et pilotage de projets
- BIG DATA Architecture et technologies
- BIG DATA Hadoop Infrastructure sécurisée
- BIG DATA Cassandra
- BIG DATA Hadoop - L’écosysteme
- BIG DATA Elastic Stack : Présentation
- BIG DATA Hadoop Stockage avec HBase
- BIG DATA Elastic Stack pour administrateurs
- BIG DATA Intégration SQL, Hive, SparkDataFrames
- BIG DATA Kafka : Ingestion et traitement de messages
- BIG DATA NEO4J Graphes et analyse
- BIG DATA Hadoop Développement
- BIG DATA Hadoop EMR
- BIG DATA Programmation R et intégration Big Data
- BIG DATA Hadoop Hortonworks Administration
- BIG DATA Spark : Traitement de données
- BIG DATA Supervision
- BIG DATA La synthèse