목록ALL (210)

JUST WRITE

[Terraform] AWS EKS 한 번에 올리기(1) - VPC 구성

AWS EKS 한 번에 올리기(1)이전에 Terraform을 통해서 Kubernetes 클러스터를 한 번에 구성한 적이 있습니다.AWS EC2 인스턴스를 여러 개 생성해서 클러스터를 구성하였습니다. 명령어 한 번에 Kubernetes 설치하기 - Terraform으로 Kubernetes 설치명령어 한 번에 Kubernetes 설치하기 개발 환경을 자주 구성하다 보니 Kubernetes Cluster를 구성하는 일이 많았습니다. Kubernetes Cluster 구성은 단계도 많고 쉽지 않아 할 때마다 새로웠습니다. 구성을 간developnote-blog.tistory.comEC2 인스턴스에 kubeadm를 이용해서 클러스터를 구성하였는데, AWS EKS라는 서비스가 존재합니다.이번 포스팅에서는 Terra..
Cloud 2024. 11. 3. 20:48
하이퍼 파리미터 튜닝(1) - Tracking System Mlflow 세팅

Tracking System Mlflow 세팅회사에서 하이퍼 파라미터 튜닝(Hyper parameter Tuning)에 관해서 스터디를 진행하였습니다.엔지니어 입장에서 하이퍼 파라미터 튜닝에 필요한 오픈 소스와 시스템 구성 위주로 공부하였습니다.스터디 전에는 몰랐지만 튜닝 관련해서 다양한 오픈 소스들이 있다는 것을 알았습니다.이번 포스팅을 시작으로 스터디에서 공부한 하이퍼 파라미터 튜닝에 관해서 정리하고자 합니다.하이퍼 파라미터는 무엇인가?본격적인 내용에 앞서 하이퍼 파라미터가 무엇인지 짚고 넘어갑니다.하이퍼 파라미터는 모델의 학습 프로세스 부분을 설정할 수 있는 매개변수입니다.모델이 어떻게 학습할지 설정할 수 있는 매개변수입니다.모델 학습 전 머신러닝 엔지니어가 하이퍼 파라미터를 선택하고 설정합니다.학..
AI 2024. 10. 12. 22:06
Kubernetes에 GPU 노드 추가(2) - GPU Worker 노드 추가

GPU Worker 노드 추가저번 포스팅에서는 Kubernetes 클러스터에 Worker 노드를 추가하기 전 필요한 세팅을 진행하였습니다. Kubernetes에 GPU 노드 추가(1) - GPU 노드 세팅GPU 노드 세팅컨테이너화된 애플리케이션이 주로 개발이 되면서 Kubernetes의 활용도가 높아지고 있습니다.AI 서비스 역시 Kubernetes에 배포, 운영되는 경우가 많아지고 있습니다.AI 서비스에서 인퍼developnote-blog.tistory.com이번 포스팅에서는 Kubernetes 클러스터에 Worker 노드를 추가하고 필요한 추가 세팅을 진행하겠습니다.Worker 노드 추가Master 노드에서 kubeadm 명령어로 토큰을 생성합니다.토큰을 생성하면서 --print-join-comman..
Infra/Kubernetes 2024. 6. 5. 18:04
Kubernetes에 GPU 노드 추가(1) - GPU 노드 세팅

GPU 노드 세팅컨테이너화된 애플리케이션이 주로 개발이 되면서 Kubernetes의 활용도가 높아지고 있습니다.AI 서비스 역시 Kubernetes에 배포, 운영되는 경우가 많아지고 있습니다.AI 서비스에서 인퍼런스(Inference) 성능을 위해 GPU 활용이 중요합니다.Kubernetes에 GPU 노드를 추가함으로써 AI 서비스 인퍼런싱시 GPU를 활용할 수 있습니다.사내에 마침 GPU를 가진 PC가 남아 있어 세팅을 해보았습니다.2개 포스팅을 통해 Kubernetes에 GPU 노드를 추가하는 방법을 정리하려고 합니다.이번 포스팅에서는 추가하기 전 GPU 노드 세팅하는 방법을 정리해보았습니다.GPU 노드 k8s Worker 세팅nvidia driver 및 Container Toolkit 설치lshw(..
Infra/Kubernetes 2024. 5. 14. 15:17
[후기 - Udemy] 실전 AI 서비스 기획 Jump into the AI World

실전 AI 서비스 기획 - Jump into the AI World개발자 글쓰기 커뮤니티인 글또 9기에 참여하고 있습니다.이번 글또 기수에서는 다양한 혜택이 주어지고 있습니다.Udemy에서 좋은 강의를 경험해 볼 수 있는 기회가 주어졌습니다.2가지 강의 선택해서 들을 수 있었고 저는 아래 2가지 강의를 수강하였습니다.기술블로그로 알아보는 테크니컬 라이팅실전 AI 서비스 기획 - Jump into the AI World이번 포스팅에서는 2가지 강의 중에서 '실전 AI 서비스 기획 - Jump into the AI World'의 후기입니다.기술블로그로 알아보는 테크니컬 라이팅 후기는 아래 링크에서 확인 가능합니다. [후기 - Udemy] 기술블로그로 알아보는 테크니컬 라이팅기술블로그로 알아보는 테크니컬 라이..
ETC 2024. 5. 12. 19:04
업그레이드해도 될까요? - Control Plane Upgrade

업그레이드해도 될까요?사내에 Kubernetes Cluster를 운영하고 있습니다.저와 팀원들이 외부 프로젝트에 투입되어 있어서 Kubernetes Cluster가 방치되고 있었습니다.프로젝트가 마무리되고 본사로 복귀하였습니다.본사에서 근무하는 동안 사내 Kubernetes Cluster를 제대로 활용할 수 있도록 정리하려고 합니다.첫 번째 작업으로 Kubernetes Cluster 중 Control Plane을 업그레이드하였습니다.Control Plane 업그레이드사내 Kubernetes Cluster는 Control Plane 3개, Worker Node 3개로 구성되어 있습니다.각 노드 별 버전이 제각각이었습니다.1.27.4 버전도 있고 1.28 버전인 노드도 존재하였습니다.이번 작업으로 1.28...
Infra/Kubernetes 2024. 4. 25. 16:31
Prev 1 2 3 4 5 ··· 35 Next