JUST WRITE

Talos로 Kubernetes 설치회사에서 솔루션을 개발하게 되었습니다.개발하기 앞서 필요한 여러 가지 서비스를 설치해야 했습니다.MySQL, Clickhouse, Minio와 같은 스토리지와 외부 서비스를 구축해야 하였습니다.처음에는 docker-compose로 관리했지만 서비스가 많아지면서 관리가 너무 힘들었습니다.Kubernetes를 도입하고 싶었지만 클라우드 k8s 도입 비용이 없었고 GPU 서버 1대만 있는 상황이었습니다.그러던 중 Talos Linux를 발견했습니다.What is Talos?Talos는 Kubernetes 전용으로 설계된 Container 전용 OS입니다.세가지 특징이 있습니다.Container 전용 OS - SSH도 없고 shell도 없습니다. 다만 talosctl를 통해 ..

GPU Worker 노드 추가저번 포스팅에서는 Kubernetes 클러스터에 Worker 노드를 추가하기 전 필요한 세팅을 진행하였습니다. Kubernetes에 GPU 노드 추가(1) - GPU 노드 세팅GPU 노드 세팅컨테이너화된 애플리케이션이 주로 개발이 되면서 Kubernetes의 활용도가 높아지고 있습니다.AI 서비스 역시 Kubernetes에 배포, 운영되는 경우가 많아지고 있습니다.AI 서비스에서 인퍼developnote-blog.tistory.com이번 포스팅에서는 Kubernetes 클러스터에 Worker 노드를 추가하고 필요한 추가 세팅을 진행하겠습니다.Worker 노드 추가Master 노드에서 kubeadm 명령어로 토큰을 생성합니다.토큰을 생성하면서 --print-join-comman..

GPU 노드 세팅컨테이너화된 애플리케이션이 주로 개발이 되면서 Kubernetes의 활용도가 높아지고 있습니다.AI 서비스 역시 Kubernetes에 배포, 운영되는 경우가 많아지고 있습니다.AI 서비스에서 인퍼런스(Inference) 성능을 위해 GPU 활용이 중요합니다.Kubernetes에 GPU 노드를 추가함으로써 AI 서비스 인퍼런싱시 GPU를 활용할 수 있습니다.사내에 마침 GPU를 가진 PC가 남아 있어 세팅을 해보았습니다.2개 포스팅을 통해 Kubernetes에 GPU 노드를 추가하는 방법을 정리하려고 합니다.이번 포스팅에서는 추가하기 전 GPU 노드 세팅하는 방법을 정리해보았습니다.GPU 노드 k8s Worker 세팅nvidia driver 및 Container Toolkit 설치lshw(..

업그레이드해도 될까요?사내에 Kubernetes Cluster를 운영하고 있습니다.저와 팀원들이 외부 프로젝트에 투입되어 있어서 Kubernetes Cluster가 방치되고 있었습니다.프로젝트가 마무리되고 본사로 복귀하였습니다.본사에서 근무하는 동안 사내 Kubernetes Cluster를 제대로 활용할 수 있도록 정리하려고 합니다.첫 번째 작업으로 Kubernetes Cluster 중 Control Plane을 업그레이드하였습니다.Control Plane 업그레이드사내 Kubernetes Cluster는 Control Plane 3개, Worker Node 3개로 구성되어 있습니다.각 노드 별 버전이 제각각이었습니다.1.27.4 버전도 있고 1.28 버전인 노드도 존재하였습니다.이번 작업으로 1.28...

여기만 사용해! Github Action을 통해서 자동 배포 Workflow을 구성해보려고 합니다. 아래 step들로 workflow를 구성하려 합니다. 특정 조건일 때 Github Action Workflow 시작 docker image build Container Repository에 push 특정 Namespace에 Deployment에 새로운 build 한 image로 교체/재시작 사내에 구축된 Kubernetes Cluster에 배포까지 자동화 Workflow을 구성해보려고 합니다. 구성하기 앞서 특정 Namespace에 접근할 수 있는 ServiceAccount 생성이 필요하였습니다. 보통 Kubernetes Cluster 구축 시 생성한 관리자용 config로 접근을 합니다. $ mkdir ..

k8s 날 거부하지 마 Kubernetes Cluster를 운영하고 있습니다. Kubernetes Cluster에서 몇 가지 확인할 사항이 있어 kubectl command를 날렸습니다. 그런데 아래와 같은 Error가 나오면서 kubectl command가 되지 않았습니다. $ kubectl get ns Unable to connect to the server: x509: certificate has expired or is not yet valid: current time 2023-10-17T15:40:55+09:00 is after 2023-10-17T04:15:30Z 처음 겪어보는 일이라 너무 당황하였습니다. Log를 다시 살펴보니 인증서가 만료됐다는 것을 확인할 수 있었습니다. 이번 포스팅에서는..