딥러닝 모델을 학습한 뒤에는 실제 서비스에 적용하기 위해 서빙(Serving)이라는 과정을 거쳐야 한다. PyTorch 모델을 서빙하는 대표적인 방법 중 하나가 TorchServe이다. TorchServe란? TorchServe는 PyTorch에서 공식적으로 제공하는 모델 서빙 프레임워크이다. PyTorch 모델을 REST API 형태로 손쉽게 배포할 수 있도록 도와준다. 다음과 같은 특징이 있다.모델 버전 관리 및 다중 모델 서빙 가능전처리 → 추론 → 후처리를 구조화할 수 있는 핸들러 기반 시스템.mar 파일 하나에 모델과 로직을 통합 가능REST API 및 gRPC 기반 추론 지원Prometheus, OpenTelemetry 등의 모니터링 도구와 연동 가능 FastAPI와의 차이점항목FastAPI로..

1. 개요Kubernetes에서 애플리케이션을 배포하고 운영하려면 Deployment와 Service 파일이 필수예요. 그래서 이번에는 deployment.yaml과 service.yaml을 상세히 설명하고, 각 아규먼트가 어떤 역할을 하는지 정리해볼게요. 2. Deployment 파일 (deployment.yaml)Deployment는 Kubernetes에서 애플리케이션을 배포하고 관리하는 가장 중요한 리소스 중 하나예요.기본 예제 (deployment.yaml)apiVersion: apps/v1kind: Deploymentmetadata: name: my-app-deployment labels: app: my-appspec: replicas: 3 # 실행할 Pod 개수 selector:..

💡 실습 개요이 글에서는 Mac에서 쿠버네티스(Minikube)를 활용하여 FastAPI 애플리케이션을 배포하는 가장 간단한 방법을 다뤄보려 해요. 쿠버네티스는 애플리케이션을 컨테이너화하고 관리하는 강력한 도구예요. 하지만 처음 사용하기에는  복잡할 수 있죠. 이번 실습에서는 로컬 환경에서 Minikube를 사용하여 쿠버네티스를 경험하고, FastAPI 애플리케이션을 배포하는 기본적인 방법을 학습합니다. ✅ 실습 순서환경 설정Kubernetes(Minikube, kubectl) 설치Minikube 실행 및 클러스터 확인FastAPI 애플리케이션 작성Docker로 컨테이너 빌드 및 실행 테스트Kubernetes에 배포 (deployment.yaml, service.yaml 작성 및 적용)로컬에서 API ..

알고리즘은 주어진 문제를 해결하는 단계적인 절차이다. 효율적인 알고리즘을 선택하면 시간과 공간을 절약할 수 있고, 문제를 더 빠르게 해결할 수 있기에 알아둬야겠지? (맨날 까먹는다)Brute Force브루트포스 알고리즘은 모든 가능한 경우의 수를 다 고려하여 문제를 해결하는 방법이다. 이 알고리즘은 매우 직관적이고 구현하기 쉽지만, 경우의 수가 많을 경우 시간 복잡도가 매우 커질 수 있다. 따라서 주로 제한이 적거나, 문제의 크기가 작은 경우에 유용하다.특징단순하고 직관적: 알고리즘이 매우 간단하고 이해하기 쉬움.시간 복잡도: 문제의 크기에 따라 O(n^2), O(n!)와 같은 높은 시간 복잡도를 가질 수 있음.모든 경우의 수를 시도: 최적화된 방법을 사용하지 않고, 가능한 모든 경우를 시도하는 방식이다..

자료구조는 데이터를 효율적으로 저장하고 관리하는 방식 또는 방법이다. 코딩 테스트에서는 각 자료 구조의 특성을 이해하고, 문제에 맞게 선택하는 것이 중요하다...는 말은 진부하고 안 까먹게 적어라도 둔다. 1. 리스트 (List)리스트는 순서가 있는 데이터를 저장하는 자료 구조로, 인덱스를 사용하여 빠르게 데이터에 접근할 수 있다. 파이썬에서 가장 많이 사용되는 자료 구조임.시간 복잡도: 인덱스 접근 O(1), 삽입/삭제 O(n) (중간에 삽입/삭제 시)사용 사례: 순차적인 데이터 저장, 인덱스 기반 접근, 리스트의 끝에 데이터를 추가하거나 제거할 때 유용# 리스트 생성arr = [1, 2, 3]# 리스트에 요소 추가arr.append(4) # O(1)# 인덱스를 통한 요소 접근print(arr[2])..

안녕하세요! 뭅즤입니다. 이번 포스팅에서는 OpenAI의 Chat API와 ChromaDB를 활용한 RAG(Retrieval-Augmented Generation)에 대해 설명드릴게요. 실습 코드도 있답니다 😊 RAG는 외부 데이터와 언어 모델을 결합해 좀 더 정확하고 맥락에 맞는 답변을 생성하는 데 도움이 돼요 🤗📌 RAG (Retrieval-Augmented Generation)RAG는 Retrieval-Augmented Generation의 약자로, 정보 검색과 생성형 AI를 결합한 방법이에요. GPT와 같은 언어 모델은 자체적으로 다양한 지식을 가지고 있지만, 최신 정보나 특정 도메인에 대한 상세한 내용을 알지 못할 때도 있어요. 이런 경우를 해결하기 위해 RAG를 사용해요.Retrieval..