Hadoop MapReduce

간단한 단위 작업을 처리하는 Map과 그 결과물을 모아서 집계하는 Reduce 단계로 구성된다.
이 작업들은 병렬로 처리가 가능하여 여러 컴퓨터에서 동시에 작업을 처리하여 속도를 높일 수 있다.

하둡 v1의 작업 단위는 Job이고 v2의 작업 단위는 Application이다.
YARN 아키텍쳐가 도입되면서 이름이 바뀌었지만 동일하게 관리된다.
Job은 Map Task와 Reduce Task로 나뉘고, Task는 Attemp단위로 실행된다.

실행 중 오류가 발생하면 설정된 횟수만큼 자동으로 반복한다.

맵의 입력은 InputSplit단위로 분할된다. 스플릿이 작으면 작업 부하가 분산되어 성능을 높일 수 있지만 너무 작으면 작업 개수가 증가하고 맵 작업 생성을 위한 오버헤드가 증가해서 오히려 느려질 수 있다.
일반적으로 가장 적절한 스플릿 크기는 데이터 지역성의 이점을 얻을 수 있는 HDFS블록의 기본 크기인 128MB이다.

맵 작업의 결과는 로컬 디스크에 임시저장된다. 리듀스 작업의 입력으로 쓰이는 임시 결과물이기 때문이다.
리듀스 작업은 지역성의 장점이 없다.
리듀스 작업의 결과는 HDFS에 저장된다.

리듀스 작업이 없는 경우: raw data를 읽고 바로 쓰는 경우. 매퍼 수만큼 파일이 생성된다.
리듀서가 하나인 경우: 모든 데이터의 정렬작업과 같은 경우. 시간이 오래 걸린다.
리듀서가 여러개인 경우: 리듀서의 수만큼 파일이 생성된다.
하둡은 잡의 진행 상황을 확인할 수 있는 카운터를 제공한다.



맵리듀스 처리 단계
1. Input: 데이터를 읽어서 맵으로 전달
2. Map: 입력을 분할하여 키별로 데이터를 정리
3. Combine(로컬 리듀서): 네트워크를 타고 넘어갈 크기를 줄이기 위해 맵의 결과를 정리
4. Partition: 맵의 출력 결과 키 값을 해쉬 처리하여 어떤 리듀서로 넘길 지 결정
5. Shuffle: 각 리듀서로 데이터 이동
6. Sort: 리듀서로 전달된 데이터를 키 값 기준으로 정렬
7. Reduce: 데이터를 처리하고 결과를 저장
8. Output: 리듀서의 결과를 정의된 형태로 저장





----------------------------------
Reference
https://wikidocs.net/22827

댓글

댓글 쓰기

이 블로그의 인기 게시물

논문 정리 - MapReduce: Simplified Data Processing on Large Clusters

Abstract 맵리듀스는 큰 데이터 셋을 다루는 프로그래밍 모델이다 . 사용자는 map 함수를 통해서 키 / 밸류 쌍을 이용하여 intermediate key/value pair 를 만들고 reduce 함수를 통해서 그 intermediate pair 들을 같은 key 별로 합쳐준다 . 많은 일들이 이런 모델을 통해 표현될 수 있다 . 이 모델은 분산 시스템이나 병렬 시스템에 대한 경험이 부족하더라도 분산 시스템의 자원을 쉽게 사용할 수 있게 해준다 . 1. introduction 데이터가 많아지면서 reasonable time 안에 작업을 끝내기 위해 수백 혹은 수천대의 기계에 분산되어야 했다 . 이 때 어떻게 연산을 병렬화하고 , 데이터를 분산하고 , 실패 작업을 어떻게 처리할지가 이슈가 되었다 . 이런 복잡한 문제들을 해결하기 위해 병렬화의 세세한 부분들은 숨기고 fault tolerance 하며 데이터를 분산시켜주고 로드 밸런싱을 해주는 라이브러리를 통해서 연산을 맵과 리듀스로 간단히 표현하도록 했다 . 2. Programming Model 사용자가 직접 만드는 맵 함수는 입력으로 key/value pairs 를 받아서 intermediate key/value pairs 를 만든다 . 그러면 intermediate key/value pairs 에 대해서 맵리듀스 라이브러리가 같은 key 별로 value 들을 묶어서 리듀스 함수로 보내준다 . 마찬가지로 사용자가 직접 만드는 리듀스 함수는 이 데이터를 받아서 key 별로 묶인 value 들을 합쳐서 표현한다 . 리듀스 함수에 전달되는 intermediate 데이터는 iterator 의 형태로 전달되기 때문에 메모리에 다 안 들어갈 정도로 큰 데이터도 처리할 수 있다 . 예를 들어서 , 어떤 문서에 있는 각 단어들이 몇 번 나왔는지 세는 프로그램을 생각해보자 . 그렇다면 맵 함수는 입력으로 < 문서 이름 , 문서 내용 > 의...
자세한 내용 보기

논문 정리 - The Google File System

The Google File System 1. Introduction 새로운 관점 component failure 은 예외가 아니라 일반적인 상황이다 . 그래서 constant monitoring, error detection, fault tolerance, automatic recovery 가 필요하다 . 파일의 크기가 커졌다 . I/O 작업이나 block 크기 등이 고려되어야 한다 . 원래 있는 데이터에 덮어쓰는 작업보다는 새로운 데이터를 추가한다 . 따라서 appending 이 성능 최적화에 중요해졌다 . 2. Design Overview 2.1 assumptions 시스템은 잘 고장나는 저렴한 장비들로 구성되어 있다 . 시스템은 큰 파일이 있다 . 작은 파일들도 있지만 optimizing 할 때는 고려하지 않는다 . 로드는 주로 큰 스트리밍 읽기와 작은 랜덤 읽기로 구성되어 있다 . 로드는 또한 파일에 데이터를 추가하는 많은 sequential write 가 있다 . 같은 파일에 여러 사용자가 동시에 데이터를 추가하는 경우도 잘 고려해야 한다 . 빠른 반응 속도 보다는 high sustained bandwidth 가 더 중요하다 . 대부분의 타겟 애플리케이션은 데이터 뭉텅이를 빠른 시간 내에 처리하는 것을 중요하게 여긴다 . 2.2 Interface 파일은 hierarchically , 디렉토리에 정렬돼있고 path name 으로 구분된다 . 또한 GFS 는 snapshot 과 record append 기능이 있다 . snapshot 은 파일이나 디렉토리 트리를 복사한다 . record append 는 다수 클라이언트가 데이터를 하나의 파일에 동시에 추가할 수 있도록 해준다 . 각 append 의 atomicity 를 보장하면서 . 2.3 Architecture 하나의 마스터와 여러개의 chunkserver 로 구성되어 있다 . 그리고 다수의...
자세한 내용 보기

kazoo: Using zookeeper api with python

``` pip3 install kazoo ``` https://kazoo.readthedocs.io/en/latest/basic_usage.html https://kazoo.readthedocs.io/en/latest/api/client.html ### 접속 ``` from kazoo.client import KazooClient zk = KazooClient(hosts='127.0.0.1:2181') zk.start() ``` 호스트에 접속할 때 default port는 2181이다. ### 상태 Listener zookeeper의 상태가 변하는 것을 알 수 있다. ``` from kazoo.client import KazooState def my_listener(state):     if state == KazooState.LOST:         # Register somewhere that the session was lost     elif state == KazooState.SUSPENDED:         # Handle being disconnected from Zookeeper     else:         # Handle being connected/reconnected to Zookeeper zk.add_listener(my_listener) ``` LOST CONNECTED SUSPENDED 의 state를 가질 수 있다. 가능한 상태 변화 - LOST -> CONNECTED - CONNECTED -> SUSPENDED - CONNECTED -> LOST - SUSPENDED -> LOST - SUSPENDED -> CONNECTED ### CRUD - `zk.create("/my/favorite/node", b"a value")` `create(path...
자세한 내용 보기