일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |
- PostgreSQL
- log
- Network
- ip
- docker
- Trino
- EC2
- Operating System
- CSV
- Packet
- MAC address
- zookeeper
- Python
- grafana
- kubeadm
- Spring
- OS
- airflow
- Vision
- AWS
- jvm
- java
- CVAT
- aws s3
- Kafka
- JavaScript
- helm
- kubernetes
- tcp
- kubectl
- Today
- Total
목록2024/05 (2)
JUST WRITE

GPU 노드 세팅컨테이너화된 애플리케이션이 주로 개발이 되면서 Kubernetes의 활용도가 높아지고 있습니다.AI 서비스 역시 Kubernetes에 배포, 운영되는 경우가 많아지고 있습니다.AI 서비스에서 인퍼런스(Inference) 성능을 위해 GPU 활용이 중요합니다.Kubernetes에 GPU 노드를 추가함으로써 AI 서비스 인퍼런싱시 GPU를 활용할 수 있습니다.사내에 마침 GPU를 가진 PC가 남아 있어 세팅을 해보았습니다.2개 포스팅을 통해 Kubernetes에 GPU 노드를 추가하는 방법을 정리하려고 합니다.이번 포스팅에서는 추가하기 전 GPU 노드 세팅하는 방법을 정리해보았습니다.GPU 노드 k8s Worker 세팅nvidia driver 및 Container Toolkit 설치lshw(..

실전 AI 서비스 기획 - Jump into the AI World개발자 글쓰기 커뮤니티인 글또 9기에 참여하고 있습니다.이번 글또 기수에서는 다양한 혜택이 주어지고 있습니다.Udemy에서 좋은 강의를 경험해 볼 수 있는 기회가 주어졌습니다.2가지 강의 선택해서 들을 수 있었고 저는 아래 2가지 강의를 수강하였습니다.기술블로그로 알아보는 테크니컬 라이팅실전 AI 서비스 기획 - Jump into the AI World이번 포스팅에서는 2가지 강의 중에서 '실전 AI 서비스 기획 - Jump into the AI World'의 후기입니다.기술블로그로 알아보는 테크니컬 라이팅 후기는 아래 링크에서 확인 가능합니다. [후기 - Udemy] 기술블로그로 알아보는 테크니컬 라이팅기술블로그로 알아보는 테크니컬 라이..