일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
Tags
- kubernetes
- Spring
- helm
- EC2
- zookeeper
- airflow
- CSV
- docker
- Python
- Network
- java
- kubectl
- Operating System
- log
- Trino
- Packet
- JavaScript
- jvm
- grafana
- tcp
- aws s3
- ip
- AWS
- OS
- MAC address
- Vision
- PostgreSQL
- CVAT
- kubeadm
- Kafka
Archives
- Today
- Total
목록GFS (1)
JUST WRITE
What is HDFS
HDFS Hadoop Distributed File System 일반적인 Hardware들로 구성된 Cluster에서 대용량 파일을 처리하게 도와주는 시스템이다. BigData 시대에 Data의 크기는 워낙 방대하다. 그러다 보니 하나의 좋은 성능의 Server로는 저장과 처리가 힘들고 비용도 크다. 대신 보통 성능의 Server를 여러 대를 두고 저장, 처리를 하면 훨씬 효율적이다. HDFS는 큰 Data를 분산해서 처리하기 좋은 시스템이다. HDFS는 GFS(Google File System) Architecture 에서 시작되었다. 위 그림에서 보면 Master-Slave 구조를 갖는다. GFS master가 Master, GFS chunkserver가 Slave라고 보면 된다. GFS chunks..
Data
2022. 3. 25. 19:51