Benutzer-Werkzeuge

Webseiten-Werkzeuge


nosql:apache_hadoop_einfuehrung

Unterschiede

Hier werden die Unterschiede zwischen zwei Versionen angezeigt.

Link zu dieser Vergleichsansicht

Beide Seiten der vorigen Revision Vorhergehende Überarbeitung
nosql:apache_hadoop_einfuehrung [2015/04/02 22:16]
gpipperr [MapReduce]
nosql:apache_hadoop_einfuehrung [2015/04/02 22:20] (aktuell)
gpipperr [MapReduce]
Zeile 1: Zeile 1:
 +=====Apache Hadoop=====
  
 +Hadoop ist ein Softwareprodukt für die verteilte Speicherung von Daten und ein Framework für die Verarbeitung von großer Datenmengen über das MapReduce Konzept.
 +
 +Ziele von Hadopp:
 +  - Skalierbare Speicherkapazität => Hadoop Distributed FileSystem - **HDFS** 
 +  - Skalierbare Rechenkapazität   => Hadoop MapReduce
 +
 +Zentrale Architektur Konzepte:
 +  * "Shared Nothing" => Die Cluster Knoten sind voneinander unabhängig
 +  * "Data locality"  => Daten werden auf dem Knoten verarbeitet auf dem sich die Daten auch befinden
 +  * "fault tolerance"=> Eine gewissen Robustheit gegenüber Fehler wird durch Redundanzen erreicht
 +
 +Vorteile:
 +  * Lineare Skalierung
 +  * High Level Programmierung von MapReduce Jobs
 +  * Batch Betrieb auf sehr großen Datenmengen
 +
 +Nachteil:
 +  * Redundanz Konzept und "Data locality" erfordern schnell seine sehr hohe Anzahl von Servern mit entsprechenden Aufwand im Betrieb
 +
 +==== Warum ? Intention und Ziel ====
 +
 +Schon seit längeren setzt sich der Trend ununterbrochen fort, dass sich das zu verarbeitende Datenvolumen von Jahr zu Jahr massiv vergrößert. Das aktuelle Problem, wirklich sehr großen Datenmengen verarbeiten zu müssen, lässt sich aber einer gewissen Menge an Daten nicht mehr wirklich skalierbar mit den bestehenden Lösungen umsetzen. 
 +
 +Daten, die im ersten Schritt für das Tags Geschäft bisher nicht so wichtige waren, müssen vermehrt ebenfalls gespeichert und verarbeitet werden. Meist sind diese, nur am Rand gesammelten Daten, aber nicht wirklich strukturiert und im ersten Schritt auch für die maschinelle Verarbeitung nicht wirklich geeignet, wie die reine Oracle Log Files, z.B. die klassische Alert.log Datei. Auch neigt diese Art von Daten stark dazu, sich von Release zu Release immer wieder zu verändern.
 +
 +Auf der anderen Seite wachsen die DWH Lösungen und benötigen immer größere und kostenintensivere Umgebungen um zum Teil nur Daten vorzuhalten, auf die nur mit geringer Wahrscheinlichkeit jemals wieder zugegriffen wird. 
 +Die aber noch längerfristig für das Business durchaus noch wichtig sind. Zum Beispiel um bei Compliance Überprüfungen und ähnlichen die Einhaltung von gesetzlichen Vorgaben beweisen zu können.
 +
 +Zusätzlich erschweren die kommerziellen Anbieter von Datenbank Lösungen den weiteren Aufbau ihrer eigenen Umgebungen bzw. den Einstieg in ihre eigene Produkte Landschaft mit oft astronomischen Kosten und horrenden Supportgebühren. Mit diesem Rucksack an kommerziellen und qualitativen Problemen wird oft es sehr schwer im klassischen Mittelstand noch neue Projekte mit guten Gewissen und überschaubaren Risiken aufzubauen.
 +
 +Hier kann es dann nicht verwundern, dass neue und von dem Grundkonzept innovative offene Produktplattformen eine breite Basis finden. Zwar halten auch diese neuen Produkte nicht alle ihre Versprechen ein und auf den zweiten Blick fehlt oft noch so manches gewohnte Feature. Auch wird hier beim Betrieb von diesen Lösungen noch viel Geduld mit der Software Qualität abverlangt, aber es ist zu erwarten das sich hier in nächster Zeit noch viel innovativ verändert. 
 +
 +Eine zentrale Plattform für das Archivieren und Auswerten von diversen, schwach strukturierten Daten kann dabei unterstützen, diese neuen Anforderungen langfristig umzusetzen. 
 +
 +Apache Hadoop ermöglicht mit seinem zentralen Cluster Files System nach dem „Shared Nothing“ Prinzip und einem ausgeklügelten Batch Processing Framewok den Aufbau sehr großer Umgebungen für die Verarbeitung von Massendaten mit Hilfe von vielen, im Prinzip preisgünstigen Servern. 
 +
 +Zahlreiche weitere Entwicklungen rund um Kern von Hadoop bieten inzwischen in den Grundzügen alles an, was für den Betrieb auch sehr großer Umgebungen notwendig ist. Und das meist mit, auf den ersten Blick, kostenarmen OpenSource Lösungen. 
 +
 +Es ist damit um das Produkt Hadoop eine starke Community entstanden und viele Hersteller unterstützen das Hadoop Ökosystem mit immer mehr Werkzeugen und Schnittstellen. 
 +
 +Durch den Open Source Ansatz wird der Einstieg in Hadoop stark erleichtert, ein schneller erster Einstieg scheitert nicht gleich an unbezahlbaren Lizenzkosten. 
 +
 +Durch die kommerziellen Distributionen, wie MAPR und Cloudera, HortonWorks, lassen sich aber auf der anderen Seite großen Umgebungen mit einen klassischen Support Vertrag aufbauen.
 +
 +
 +
 +
 +
 +
 +
 +
 +====Grundarchitektur Hadoop 2.0====
 +
 +===Hadoop Distributed File System - HDFS:===
 +
 +
 +Speichert die Dateien durch das Aufteilen in Blöcken und verhindert Datenverlust durch die Replikation der Blöcke über mehrere Knoten(Default 3).
 +
 +  * In Java mit nativen Libraries implementiert 
 +  * Liegt über einem nativen Dateisystem wie ext3,ext4,xfs
 +  * Sehr gut geeignet für große Dateien
 +  * Dateien sind nicht veränderbar, Mit Hadoop 2.0 können aber Daten "angehängt" werden
 +  * Dateien werden in Blöcke aufgesplittet ( default 128MB) und redundant über das Cluster verteilt (default 3 fach)
 +  * Die Blöcke einer Datei werden auf verschiedenen Knoten abgelegt
 +
 +{{ :hadoop:hadoop_architecture_hdfs_v02.png?500 | HDFS Übersicht}}
 +
 +Die Metadaten der Namespaces des HDFS (wenn man so will die Superblock und INode Daten des Filesystems) werden in einer Datei "fsimage" zum Zeitpunkt t gespeichert, alle Änderungen am Filesystem werden in der Datei "edits" protokolliert. 
 +
 +Diese Daten werden dann entweder bei einem Neustart des NameNodes zu einer neuen "fsimage" zusammengefügt oder regelmäßig mit dem CheckpointNode verdichtet, um den NamenNode zu entlasten.
 +
 +**NameNode:**
 +  * Verwaltung der Metadaten(Namespaces)- unteranderen welche Blöcke gehören zur welcher Datei und auf welchen Knoten liegt ein Block
 +  * Ohne NamenNode kein Zugriff auf das HDFS möglich
 +    * Kann mit einem Schattensystem gespiegelt werden 
 +  * Hält alle Informationen im Speicher und persistiert diese Information in zwei Dateien
 +    * fsimage => Stand NameSpace letzter Checkpoint
 +    * edits   => Journal aller Änderungen seit letzten Checkpoint
 +    * fsimage  + edits  = aktueller Stand
 +
 +**CheckpointNode: ** (neu mit Hadoop 2.0 - vorher Teilweise im secondary name node )
 +  * Performance Optimierung für den NameNode
 +  * Persisitert im Zusammenspiel mit dem NameNode die Metadaten(Namespaces)
 +    * Holt dazu die akutellen fsimage und edits Informationen vom NameNode, führt diese zusammen und überträgt das Ergebnis zurück
 +  * Läuft auf einem anderen Knoten
 +
 +**Backup Node:** (neu mit Hadoop 2.0 - vorher teil vom secondary name node)
 +  * Synchronisiert sich mit dem NameNode (erhält alle Änderungen an der Datei "edits" per stream)
 +  * Auffallsicherheit
 +
 +**DataNode**:
 +  * Läuft typischerweise auf jeden Knoten im Cluster
 +  * Speichert die Daten in Blöcken
 +  * Um einen ausgefallenen Knoten zu ersetzen, sollte immer ca. 20% an Gesamtspeichervolumen im Cluster frei bleiben
 +
 +Architektur siehe auch hier = [[http://hadoop.apache.org/docs/r2.4.0/hadoop-project-dist/hadoop-hdfs/HdfsDesign.html|HDFS Architektur]]
 +
 +
 +Wichtige Befehle um mit der [[nosql:hdfs_hadoop_20|Hadoop HDFS 2.0 File System (FS) Shell]] zu arbeiten.
 +
 +
 +**Überwachen HDFS über die HTML Oberfläche**
 +
 +^Komponente^Default TCP Port^Konfigurations Parameter^
 +|HDFS NameNode |50070  |dfs.namenode.http.address  |
 +|DataNodes     |50075  |dfs.datanode.http.address  |
 +|Backup Node   |50105  |dfs.backup.http.address    |
 +
 +
 +Mit [[https://wiki.apache.org/hadoop/MountableHDFS|MountableHDFS- FUSE]] kann ein HDFS auch als "normales" Filesystem gemounted werden:
 +  * [[nosql:hadoop_connect_hdfs_fuse|HDFS mit FUSE unter Linux mounten]]
 +
 +
 +Unter MS Windows mit Hadoop hdfs arbeiten:
 +  * [[nosql:hadoop_connect_from_windows|HDFS Files remote lesen - Unter MS Windows mit Hadoop arbeiten]]
 +
 +
 +===MapReduce===
 +
 +Die verteilte Verarbeitung der Daten im Hadoop Cluster erfolgt nach dem MapReduce Muster, dabei verarbeitet jeder Knoten möglichst nur die Daten auf seinem Knoten. 
 +
 +  * Das Framework ist in Java implementiert
 +  * Automatische Parallelisierung und Verteilung über das Cluster
 +  * "Saubere" Abstraktionsschicht für den Entwurf der MapReduce Jobs
 +  * Seit Hadoop 2.0 YARN als Ressourcen Manager 
 +
 +
 +Eine MapReduce Aufgabe besteht aus:
 +
 +  * **JOB**  - Die vollständige Applikation
 +  * **TASK** - Ein laufender Verarbeitungsschritt auf einem Cluster Knoten
 +  * **TASK Versuch** - Instanz innerhalb der versucht wird einen Task auszuführen
 +    * Gleiche oder höhere Anzahl als TASKS ( falls ein Task fehlschlug, wird neu gestartet)
 +
 +
 +Übersicht über die Schichten von Hadoop für das MapReduce Verfahren mit YARN:
 +{{ :hadoop:hadoop_architecture_v01.png?300 | Übersicht über die Schichten von Hadoop}}
 +
 +
 +[[http://hadoop.apache.org/docs/current/hadoop-yarn/hadoop-yarn-site/YARN.html|YARN - Yet Another Resource Negotiator]] ist der Resourcenmanager ab der Version 2 in Hadoop. 
 +
 +
 +YARN Services:
 +
 +**ResourceManager**: 
 +
 +  * Scheduler, der die verfügbaren Resourcen im Cluster zwischen den Applikationen verteilt
 +    * Zur selben Zeit nur ein ResourceManager aktiv
 +  * Zwei Hauptkomponente
 +    * Scheduler
 +       * Verteilung der Ressourcen Container an die verschiedenen Anwendungen im Cluster
 +       * Verteilungsstrategie kann über einen Plug-In-Mechanismus angepasst werden
 +       * Reiner Scheduler - keine Überwachung oder Monitorring - Keine Garantie der Wiederholung bei Fehlern
 +    * ApplicationsManager
 +        * Verwaltet die im Cluster laufenden ApplicationMaster 
 +        * Nimmt die Job Anfragen entgegen
 +        * Bestimmt den ersten Container für die ApplicationMaster der Anwendung
 +        * Startet und Überwacht den ApplicationMaster, startet den AM bei Fehlern auf einen anderen Knoten neu
 +
 +
 +**NodeManager - NM**: 
 +  * läuft auf jeden Worker Knoten im Cluster
 +  * Nimmt Anfragen vom ResourceManager an
 +  * Verwaltet die Container mit den Ressourcen auf diesen einzelnen Knoten
 +  * Reporting an den ResourceManager
 +
 +
 +**ApplicationMaster - AM**:
 +  * Jeder laufende Job (Applikation) besitzt einen ApplikationMaster
 +  * Führt den Job aus und ist verantwortlich das Anfragen von Ressourcen vom ResourceManager und arbeitet mit dem NodeManager zusammen, überwacht die Container
 +  * Teilt die Anwendung in mehrere Tasks auf
 +  * Arbeitet mit den NodeManangern zusammen, um einzelne Tasks auszuführen und zu überwachen
 +  * Ist im Prinzip aber ein normaler Ressourcen Containter
 +
 +**Container**:
 +  * Ressourcen innerhalb eines Slave Knotens werden in einem Container verwaltet/gebündelt
 +  * Werden einem Task zur Bearbeitung von Aufgaben vom zentralen ResourceManager zugeteilt
 +
 +
 +**Ablauf beim Start einer Anwendung in Hadoop YARN**:
 +
 +{{ :hadoop:hadoop_yarn_v01.png?500 | YARN Prozesse MapReduce Hadoop}}
 +
 +
 +  * Client sendet Anfrage an den ResourceManager
 +  * ResourceManager wählt einen freien Container
 +  * ResourceManager startet ApplicationMaster 
 +  * ApplicationMaster  registiert sich beim ResourceManager, dieser übergibt Connect zum ApplicationMaster an den Client Prozess
 +  * ApplicationMaster erhält vom ResourceManager die notwendigen Container
 +  * ApplicationMaster verbindet sich mit diesen Informationen an die passenden NodeManager, damit diese die Container starten
 +  * Nach Ablauf des Jobs deregisitert sich der ApplicationMaster vom ResourceManager  und beendet sich 
 +
 +siehe auch => http://hadooptutorial.info/mapreduce-job-flow/
 +
 +
 +Wichtige Befehle um mit den [[nosql:mapreduce_hadoop_20_yarn|Hadoop MapReduce YARN Befehle]] zu arbeiten.
 +
 +
 +**Überwachen YARN über die HTML Oberfläche**
 +
 +^Komponente^Default TCP Port^ Konfiguration Parameter^
 +|NodeManager  |8042  |yarn.nodemanager.webapp.address |
 +|ResourceManager  |8088  |yarn.resourcemanager.webapp.address|
 +|MapReduce Job History Server |19888|  mapreduce.jobhistory.webapp.address |
 +
 +
 +**MapReduce Job erstellen**
 +
 +  * [[nosql:mapreduce_hadoop_20_job|Einen eigenen ersten MapReduce Job erstellen]]
 +  * [[nosql:oracle_nosql_hadoop_integration|Die Oracle NoSQL per MapReduce mit Hadoop verwenden]]
 +
 +Python Beispiel:
 +  * http://blog.cloudera.com/blog/2013/01/a-guide-to-python-frameworks-for-hadoop/
 +  * http://www.michael-noll.com/tutorials/writing-an-hadoop-mapreduce-program-in-python/
 +  * http://blog.matthewrathbone.com/2013/11/17/python-map-reduce-on-hadoop---a-beginners-tutorial.html
 +
 +==== Hardware Anforderung an einen typischen Hadoop Server ====
 +
 +  * 64/128GB RAM
 +  * Pro Core eine eigenständige Festplatte - JBOD Konfiguration => Kein Raid Level!
 +  * 10G Ethernet
 +
 +
 +
 +====Erste Schritte mit dem Hadoop Öko System ====
 +
 +Installation
 +  * [[nosql:hadoop_first_setup|Eine Hadoop 2.4 Test Umgebung installieren und konfigurieren]] 
 +
 +Apache Ambari - Hadoop Cluster aufsetzen und verwalten
 +  * [[nosql:hadoop_ambari_setup|Ein Hadoop Cluster mit Apache Ambari aufsetzen und verwalten]]
 +
 +
 +====Wichtige Projekte im Hadoop Öko System:====
 +
 +Hive - HiveSQL - SQL ähnliche Abfrage Sprache
 +  * [[nosql:hive_erste_schritte|Erste Schritte mit Apache Hive]]
 +
 +Pig - Data sets manipulation language um Map Reduces Jobs zu erzeugen
 +  * [[nosql:pig_erste_schritte|Erste Schritte mit Apache Pig]]
 +
 +Sqoop - Daten Transfer - eine Art SQL*Loader für Hadoop
 +  * [[nosql:sqoop_erste_schritte|Erste Schritte mit Apache Sqoop 1.9]]
 +
 +Flume - eine Art syslog Demon zum Einsammlen von Log informationen
 +  * [[nosql:flume_erste_schritte|Erste Schritte mit Apache Flume]]
 +
 +
 +Zookeeper – distributed cluster manager 
 +
 +
 +Oozie– workflow scheduler services 
 +
 +
 +Cascading und Scalding - MapReduce Jobs abstrakter definieren
 +
 +
 +Kafka - Message Verarbeitung  mit http://kafka.apache.org/
 +
 +
 +**SQL Engines**
 +
 +  * Impala
 +  * Spark
 +  * Oracle Big Data SQL (Leider nur in einer Exadata/BigData Appliance Umgebung ab 12.1.0.2)
 +
 +
 +Storm - Realtime Hadoop
 +
 +
 +Eine Überblick über das Apache Hadoop Ökosystem:
 +  * http://blog.andreamostosi.name/tag/apache-flume/
 +
 +
 +
 +=== Datenbankanwendungen auf Basis von Hadoop ohne Einsatz von MapReduce ===
 +
 +  * HBase– columnar-oriented key-value store 
 +
 +  * SQL Anfragen ohne das MapReduce Pattern
 +    * [[http://www.cloudera.com/content/cloudera/en/products-and-services/cdh/impala.html|Impala (Cloudera) ]]
 +    * [[https://www.mapr.com/resources/community-resources/apache-drill|Drill (MapR) ]]
 +    * [[http://www.oracle.com/us/products/database/big-data-sql/overview/index.html |Oracle Big Data SQL]]
 +  * [[http://hadapt.com/product/|Hadapt(commercial) ]]
 +  * [[https://spark.apache.org/|Shark – Spark in-memory analytics on Hadoop ]]
 +
 +===Berichte und Auswertungen der Daten in Hadoop erstellen===
 +
 +Für Hadoop 
 +
 +Hue (http://gethue.com) ist ein  Web interface für die Analyse von Daten mit Apache Hadoop.
 +
 +  * [[nosql:hue_erste_schritte|Erste Schritte mit Hue]]
 +
 +
 +Modern:
 +  * https://www.tableausoftware.com/products
 +  * http://www.qlik.com/de
 +    * Hive mti qlik => http://community.qlik.com/docs/DOC-2457
 +
 +Traditionell:
 +  * http://community.jaspersoft.com/wiki/hadoop-hive-sample-reports
 + 
 +
 +Weitere Beispiele:
 +  * http://www.javaworld.com/article/2071233/open-source-tools/7-tools-for-taming-big-data-with-hadoop.html
 +
 +
 +Komplexes Szenarien wie Realtime Analysen mit elasticsearch und Kibana umsetzen:
 +  * http://www.elasticsearch.org/overview/
 +
 +
 +====Integration in Bestandssysteme====
 +
 +  * [[nosql:hadoop_integration|Die Oracle RDBMS und NoSQL Datenbank mit Hadoop verwenden]]
 +
 +Siehe auch meinen Vortrag zu diesem Thema auf einem DOAG Hadoop Workshop: \\
 + => [[http://www.pipperr.de/knowhow/oracle_hadoop/oracle_hadoop.html|DOAG -Big Data für Oracle Entwickler: Zweitagesveranstaltung mit Hands-On - 25.09.2014 in Köln]]
 +
 +
 +
 +====Hadoop  Varianten ====
 +
 +Eine der vielen Hadoop Distributionen ist zum Beispiel:
 +
 +  * http://www.cloudera.com
 +  * http://www.mapr.com
 +  * http://hortonworks.com
 +
 +Unter [[http://www.cloudera.com/content/cloudera-content/cloudera-docs/DemoVMs/Cloudera-QuickStart-VM/cloudera_quickstart_vm.html|Cloudera QuickStart VM]] steht eine VM für den schnellen Einstieg in das Thema zur Verfügung. Eine Einführung in die VM kann hier gefunden werden:http://www.youtube.com/watch?v=o19zLaTuuSk .
 +
 +Leider laufen in dieser Cloudera VM die VMWare Tools auf anhieb nicht (Fehler vmware-user: could not open /proc/fs/vmblock/dev. !), nach einer Installation der VMware X Trieber (yum install xorg-x11-drv-vmware.x86_64) und einer erneuten Durchlauf des Konfigurationsprogrammes ( vmware-config-tools.pl ), Neustart x mit <key>STRG</key><key>ALT</key><key><=</key> und einen nachfolgenden Reboot funktioniert es besser.
 +
 +
 +Alternativ: 
 +
 +  * VM von Mapr        => http://www.mapr.com/products/hadoop-download
 +  * VM von hortonworks => http://hortonworks.com/products/hortonworks-sandbox/
 +
 +**Tipp:**
 +
 +Nach dem Download funktioniert das Netzwerk der VM's oft nicht, da es sich um 6 Linux Clone handelt ( Lösung siehe hier : [[linux:clonen_linux_ol6_netwerkkarte|Oracle Linux 6 - "Device eth0 does not seem to be present" nach Klonen einer virtuellen Maschine]].
 +
 +=== BigDataLite VM von Oracle ===
 +
 +Eine VM von Oracle zu dem Thema BigData kann hier gefunden werden: \\
 +=> http://www.oracle.com/technetwork/database/bigdata-appliance/oracle-bigdatalite-2104726.html
 +
 +
 +Um die VM in VMWare zu verwenden:
 +  * [[nosql:oracle_bigdatalite_vm_vmware|Die Oracle BigDataLite 3.0 VM in Vmware importieren]]
 +
 +Erste Schritte und Testes:
 +  * [[nosql:oracle_hadoop_big_data_appl_erste_schritte|Erste Schritte mit der Oracle Big Data Appliance]]
 +
 +
 +====Alternativen zu Hadoop als Filesystem====
 +
 +  * http://ceph.com/docs/master
 +
 +
 +
 +===== Quellen =====
 +
 +In den Detail Artikeln zu Hadoop wird auf weitere Quellen verwiesen.
 +
 +
 +Vorträge:
 +
 +  * http://www.nyoug.org/Presentations/2013/Gorbachev_Hadoop_R.pdf
 +
 +
 +Hadoop DWH Konzepte:
 +
 +  * http://de.slideshare.net/markgrover/hive-in-enterprises?next_slideshow=1
 +
 +
 +IBM
 +  * http://www.ibm.com/developerworks/data/library/techarticle/dm-1209hadoopbigdata/
 +  * http://www-01.ibm.com/software/data/infosphere/hadoop/index.html
"Autor: Gunther Pipperr"
nosql/apache_hadoop_einfuehrung.txt · Zuletzt geändert: 2015/04/02 22:20 von gpipperr