Formation BIG DATA Hadoop Hortonworks Administration
Domaine : Data Science – Deep learning
DURÉE
3 jour(s)
OBJECTIFS
Connaître les principes du framework Hadoop. Savoir l’installer, le configurer et l’administrer avec Ambari (tableaux de bord, supervision, gestion des services…).
Pré-requis
Connaissance des commandes des systèmes Unix/Linux et des bases TCP/IP.
Participants
Chef de projet, administrateur et toute personne souhaitant mettre en oeuvre un système distribué avec Hadoop.
coût
Nous contacter pour une formation sur mesure ou en intra
LIEUx de formation
Notre centre de formation à Sophia AntipolisOu sur votre site en formation intra
PROGRAMME DE FORMATION
BIG DATA Hadoop Hortonworks Administration
Introduction
Les fonctionnalités du framework Hadoop (Les différentes versions)
Distributions (Apache, Cloudera, Hortonworks, EMR, MapR, DES, Spécificités de chaque distribution)
Architecture et principe de fonctionnement
Terminologie (NameNode, DataNode, ResourceManager, NodeManager, Rôle des différents composants)
Le projet et les modules (Hadoop Common, HDFS, YARN, Spark, MapReduce, Oozie, Tez, Pig, Hive, HBase…)
Distributions (Apache, Cloudera, Hortonworks, EMR, MapR, DES, Spécificités de chaque distribution)
Architecture et principe de fonctionnement
Terminologie (NameNode, DataNode, ResourceManager, NodeManager, Rôle des différents composants)
Le projet et les modules (Hadoop Common, HDFS, YARN, Spark, MapReduce, Oozie, Tez, Pig, Hive, HBase…)
Les outils Hadoop
Infrastructure/mise en oeuvre (Avro, Ambari, Zookeeper, Pig, Tez, Oozie, Vue d’ensemble, Gestion des données, Exemple de sqoop)
Restitution (Webhdfs, hive, Hawq, Mahout, ElasticSearch…)
Outils complémentaires de traitement (Spark, SparkQL, Spark/ML, Storm, BigTop, Zebra)
Outils complémentaires de développement (Cascading, Scalding, Flink)
Outils complémentaires d’analyse (RHadoop, Hama, Chukwa, Kafka)
Restitution (Webhdfs, hive, Hawq, Mahout, ElasticSearch…)
Outils complémentaires de traitement (Spark, SparkQL, Spark/ML, Storm, BigTop, Zebra)
Outils complémentaires de développement (Cascading, Scalding, Flink)
Outils complémentaires d’analyse (RHadoop, Hama, Chukwa, Kafka)
Installation et configuration
Installation en mode distribué
Configuration du cluster et de l’environnement
Etude des fichiers de configuration (core-site.xml / hdfs-site.xml
Configuration du cluster et de l’environnement
Etude des fichiers de configuration (core-site.xml / hdfs-site.xml
Administration Hadoop
Outils complémentaires à YARN et HDFS (jConsole, jConsole YARN, Exemples sur le suivi de charges, l’analyse des journaux)
Principe de gestion des noeuds
Principe des accès JMX (Démonstration avec Prometheus)
Administration HDFS (Présentation des outils de stockage des fichiers, fsck, dfsadmin, Mise en oeuvre sur des exemples simples de récupération de fichiers)
Gestion centralisée de caches avec Cacheadmin (Déplacement d’un NameNode, Mise en mode maintenance, Gestion de la file d’attente, paramétrage, Fair-Scheduler)
Principe de gestion des noeuds
Principe des accès JMX (Démonstration avec Prometheus)
Administration HDFS (Présentation des outils de stockage des fichiers, fsck, dfsadmin, Mise en oeuvre sur des exemples simples de récupération de fichiers)
Gestion centralisée de caches avec Cacheadmin (Déplacement d’un NameNode, Mise en mode maintenance, Gestion de la file d’attente, paramétrage, Fair-Scheduler)
Haute disponibilité
Mise en place de la haute disponibilité sur une distribution Ambari
Travaux pratiques (Passage d’un système HDFS en mode HA, Explication/démonstration d’une fédération de cluster Hadoop)
Travaux pratiques (Passage d’un système HDFS en mode HA, Explication/démonstration d’une fédération de cluster Hadoop)
Sécurité
Mécanismes de sécurité et mise en oeuvre pratique de la sécurité avec Kerberos
Travaux pratiques (Mise en place de la sécurité Kerberos sur une distribution Ambari, Création des utilisateurs, Travaux sur les droits d’accès et les droits d’exécution, Impact au niveau des files de traitement YARN)
Sécurisation de YARN avec les Linux Container Executor
Travaux pratiques (Mise en place de la sécurité Kerberos sur une distribution Ambari, Création des utilisateurs, Travaux sur les droits d’accès et les droits d’exécution, Impact au niveau des files de traitement YARN)
Sécurisation de YARN avec les Linux Container Executor
Exploitation
Installation d’une grappe Hadoop avec Ambari (Tableau de bord, Lancement des services, Principe de la supervision des éléments par le NodeManager)
Monitoring graphique avec Ambari (Présentation de Ganglia, Kibana)
Travaux pratiques (Visualisation des alertes en cas d’indisponibilité d’un noeud, Configuration des logs avec log4j)
Monitoring graphique avec Ambari (Présentation de Ganglia, Kibana)
Travaux pratiques (Visualisation des alertes en cas d’indisponibilité d’un noeud, Configuration des logs avec log4j)
dates des formations a grenoble
dates des formations a SOPHIA ANTIPOLIS
formations associées
- Apache Pig : Développement de scripts
- Blockchain : Mise en pratique
- Flux de données avec Storm
- Apache Flink
- BIG DATA Gestion et pilotage de projets
- BIG DATA Architecture et technologies
- BIG DATA Hadoop Infrastructure sécurisée
- BIG DATA Cassandra
- BIG DATA Hadoop - L’écosysteme
- BIG DATA Elastic Stack : Présentation
- BIG DATA Hadoop Stockage avec HBase
- BIG DATA Elastic Stack pour administrateurs
- BIG DATA Intégration SQL, Hive, SparkDataFrames
- BIG DATA Hadoop Cloudera Administration
- BIG DATA Kafka : Ingestion et traitement de messages
- BIG DATA NEO4J Graphes et analyse
- BIG DATA Hadoop Développement
- BIG DATA Hadoop EMR
- BIG DATA Programmation R et intégration Big Data
- BIG DATA Spark : Traitement de données
- BIG DATA Supervision
- BIG DATA La synthèse