Formation BIG DATA Hadoop Cloudera Administration
Domaine : Data Science – Deep learning
DURÉE
3 jour(s)
OBJECTIFS
Connaître les principes du framework Hadoop et savoir l’installer et le configurer
Maîtriser la configuration et la gestion des services avec Cloudera Manager
Maîtriser la configuration et la gestion des services avec Cloudera Manager
Pré-requis
Connaissance des commandes des systèmes unix/linux
Participants
Chefs de projet, administrateurs et toute personne souhaitant mettre en œuvre un système distribué avec Hadoop.
coût
Formation en cours collectif
Tarif par personne : 1950 € HT
Nous contacter pour une formation sur mesure ou en intra
LIEUx de formation
Notre centre de formation à Sophia AntipolisOu sur votre site en formation intra
PROGRAMME DE FORMATION
BIG DATA Hadoop Cloudera Administration
Introduction
Les fonctionnalités du framework Hadoop (Les différentes versions)
Distributions (Apache, Cloudera, Hortonworks, EMR, MapR, DES, Spécificités de chaque distribution)
Architecture et principe de fonctionnement
Terminologie (NameNode, DataNode, ResourceManager, NodeManager, Rôle des différents composants)
Le projet et les modules (Hadoop Common, HDFS, YARN, Spark, MapReduce, Hue, Oozie, Pig, Hive, HBase, Zeppelin…)
Distributions (Apache, Cloudera, Hortonworks, EMR, MapR, DES, Spécificités de chaque distribution)
Architecture et principe de fonctionnement
Terminologie (NameNode, DataNode, ResourceManager, NodeManager, Rôle des différents composants)
Le projet et les modules (Hadoop Common, HDFS, YARN, Spark, MapReduce, Hue, Oozie, Pig, Hive, HBase, Zeppelin…)
Les outils Hadoop
Infrastructure/mise en œuvre (Avro, Ambari, Zookeeper, Pig, Tez, Oozie, Vue d’ensemble, Gestion des données, Exemple de sqoop)
Restitution (Webhdfs, hive, Hawq, Mahout, ElasticSearch…)
Outils complémentaires de traitement (Spark, SparkQL, Spark/ML, Storm, BigTop, Zebra)
Outils complémentaires de développement (Cascading, Scalding, Flink)
Outils complémentaires d’analyse (RHadoop, Hama, Chukwa, Kafka)
Restitution (Webhdfs, hive, Hawq, Mahout, ElasticSearch…)
Outils complémentaires de traitement (Spark, SparkQL, Spark/ML, Storm, BigTop, Zebra)
Outils complémentaires de développement (Cascading, Scalding, Flink)
Outils complémentaires d’analyse (RHadoop, Hama, Chukwa, Kafka)
Installation et configuration
Présentation de Cloudera Manager
Installation en mode distribué
Configuration de l’environnement
Etude des fichiers de configuration (core-site.xml / hdfs-site.xml
Installation en mode distribué
Configuration de l’environnement
Etude des fichiers de configuration (core-site.xml / hdfs-site.xml
Administration Hadoop
Outils complémentaires à YARN et HDFS (jConsole, jConsole YARN, Exemples sur le suivi de charges, l’analyse des journaux)
Principe de gestion des nœuds
Principe des accès JMX (Démonstration avec Prometheus)
Administration HDFS (Présentation des outils de stockage des fichiers, fsck, dfsadmin)
Mise en œuvre sur des exemples simples de récupération de fichiers (Gestion centralisée de caches avec Cacheadmin, Gestion de la file d’attente, paramétrage, Fair-Scheduler)
Principe de gestion des nœuds
Principe des accès JMX (Démonstration avec Prometheus)
Administration HDFS (Présentation des outils de stockage des fichiers, fsck, dfsadmin)
Mise en œuvre sur des exemples simples de récupération de fichiers (Gestion centralisée de caches avec Cacheadmin, Gestion de la file d’attente, paramétrage, Fair-Scheduler)
Haute disponibilité
Mise en place de la haute disponibilité sur une distribution Cloudera
Travaux pratiques (Passage d’un système HDFS en mode HA, Explication/démonstration d’une fédération de cluster Hadoop)
Travaux pratiques (Passage d’un système HDFS en mode HA, Explication/démonstration d’une fédération de cluster Hadoop)
Sécurité
Mécanismes de sécurité et mise en œuvre pratique de la sécurité avec Kerberos
Travaux pratiques (Mise en place de la sécurité Kerberos sur une distribution Cloudera, Création des utilisateurs, Travaux sur les droits d’accès et les droits d’exécution, Impact au niveau des files YARN)
Sécurisation de YARN avec les Linux Container Executor
Travaux pratiques (Mise en place de la sécurité Kerberos sur une distribution Cloudera, Création des utilisateurs, Travaux sur les droits d’accès et les droits d’exécution, Impact au niveau des files YARN)
Sécurisation de YARN avec les Linux Container Executor
Exploitation
Installation d’une grappe Hadoop (Lancement des services)
Principe de la supervision des éléments par le NodeManager
Monitoring graphique avec Cloudera Manager
Travaux pratiques (Visualisation des alertes en cas d’indisponibilité d’un nœud)
Configuration des logs avec log4j
Principe de la supervision des éléments par le NodeManager
Monitoring graphique avec Cloudera Manager
Travaux pratiques (Visualisation des alertes en cas d’indisponibilité d’un nœud)
Configuration des logs avec log4j
dates des formations a grenoble
dates des formations a SOPHIA ANTIPOLIS
formations associées
- BIG DATA Hadoop : infrastructure sécurisée
- BIG DATA Architecture et technologies
- BIG DATA Cassandra
- BIG DATA Hadoop : l'écosystème
- BIG DATA Hadoop Stockage avec Hbase
- BIG DATA ElasticSearch : Indexation
- BIG DATA ElasticSearch pour administrateurs
- BIG DATA Intégration SQL, Hive, SparkDataFrames
- BIG DATA Kafka Ingestion et traitement de messages
- BIG DATA NEO4J Graphes et analyse
- BIG DATA Hadoop : développement
- BIG DATA Hadoop EMR
- BIG DATA Programmation R et intégration BigData
- BIG DATA Spark : traitement de données
- BIG DATA Hadoop HORTONWORKS
- BIG DATA Supervision
- BIG DATA La synthèse