JUST WRITE

Pod 주기적으로 삭제하기 Kubernetes Cluster에 CVAT을 Helm으로 설치하여 운영하고 있습니다. Kubernetes에 CVAT 설치하기 - Helm으로 CVAT 설치 Kubernetes에 CVAT 설치하기 Yolo 모델 학습에 도전하였던 포스팅에서 Auto Labeling Tool로 CVAT을 사용하였습니다. [Vision] 엔지니어의 Yolo 도전기(1) - CVAT을 통한 Auto Labeling 엔지니어의 Yolo 도전기 회사에서 developnote-blog.tistory.com CVAT을 사용하다 보니 설치한 namespace에 많은 수 Pod이 생성되어 있었습니다. STATUS가 Completed 상태의 Pod이 많이 남아 있었습니다. Completed는 Pod내 Contai..

큰일 났다! Out of Sync다?!?! Kafka Cluster를 운영하면 CMAK을 통해 Web에서 관리하는 경우가 많습니다. 저 역시 Kafka Cluster를 운영하면서 CMAK을 활용하고 있습니다. CMAK에서 Under Replicated가 0이 아닌 50으로 나온 경우가 발생하였습니다. Under Replicated가 0이 아니라는 것은 Topic의 Parition replicate가 설정한 대로 안된다는 것을 의미합니다. Out of Sync가 발생한 상황입니다. 실제로 Kafka 로그가 아래와 같이 발생하고 있었습니다. INFO [Partition __consumer_offsets-22 broker=3] Shrinking ISR from 1,3 to 3. Leader: (highWate..

Airflow Variables 세팅 Airflow를 사용하다 보면 한 DAG에서만 쓰는 변수가 아닌 코드값처럼 global 하게 쓰는 변수가 있을 수 있습니다. DAG내에서만 쓰면 XComs를 활용할 수 있습니다. global 하게 쓰는 전역 변수는 Variables로 설정할 수 있습니다. 이번 포스팅에서는 Airflow Variables에 대해서 소개해보려고 합니다. Variables 설정 Variables를 가장 간단하게 설정할 수 있는 방법은 Airflow WebServer에서 설정할 수 있습니다. [참고사이트] 더보기 Managing Variables — Airflow Documentation airflow.apache.org

Helm도 git처럼 diff가 가능하다고?! 요즘 Kubernetes Cluster를 통해 시스템 구성을 많이 하고 있습니다. Kubernetes 개념과 사용법이 복잡하지만 명령어를 통해 쉽게 관리할 수 있게 하는 Tool이 있습니다. 바로 Helm입니다. Helm을 통해 Kubernets에 Package를 쉽게 배포/관리할 수 있습니다. Helm으로 Package를 배포하면 values.yaml에 있는 값들을 수정하고 배포합니다. upgrade command로 수정한 것을 재배포 가능합니다. $ helm upgrade ... 다만 여러 번 수정을 하다 보면 설정값들이 관리가 안될 수 있습니다. 저도 이런 문제를 겪어서 반영한 히스토리를 알 수 없을까? 차이를 알 수 없을까? 고민하였습니다. 그러다가 ..

포트 번호 쓰기도 귀찮네(1) 예전 포스팅에서 Ingress를 통해서 Kubernetes의 Service를 원하는 URL로 설정을 해보았습니다. [Ingress] ArgoCD UI 헷갈리지 않고 쉽게 접근하기 ArgoCD UI 헷갈리지 않고 쉽게 접근하기 Kubernetes내 Service를 외부에서 접근하도록 설정하는 가장 쉬운 방식은 NodePort 방법입니다. Service Port를 Control Plane의 Port에 포트포워딩을 통해 접근하게 해주는 developnote-blog.tistory.com Nginx Ingress Controller를 통해서 URL를 설정하였습니다. 다만 Nginx Ingress Controller로 세팅한 Service의 Port 번호를 알아야 했습니다. Port..

PV 얼마나 남았나?!?! 요즘 시스템 Monitoring을 할 때 Prometheus와 Grafana 조합을 많이 사용합니다. Prometheus에서 Monitoring이 필요한 metric정보를 저장하고, Grafana에서 Prometheus Metric을 보기 좋게 Dashboard로 제공합니다. Kubernetes Cluster 환경에서도 Prometheus와 Grafana를 구축할 수 있습니다. 각각 Helm Chart를 제공합니다. Prometheus Helm Grafana Helm 저도 근무지에서 Kubernetes 환경에서 Prometheus와 Grafana를 구축해서 사용 중에 있습니다. 문득 Prometheus가 데이터를 얼마나 저장하는지 궁금하였습니다. Prometheus는 metri..