본문 바로가기

💻 Programming/AI & ML16

[pytorch] Dataloader의 'collate_fn'을 사용한 이미지 패딩. 가변 사이즈의 이미지를 batch로 묶어 Dataloader에 주입하는 방법. Pytorch의 Dataloader는 인덱스에 따른 데이터를 반환해주는 dataset, 가져올 데이터의 인덱스를 컨트롤하는 sampler와 batch로 묶인 데이터를 batch로 묶을 때 필요한 함수를 정의하는 collate_fn 등의 파라미터를 가진다. 딥러닝 모델을 학습 또는 인퍼런스 하다보면 가변 사이즈의 데이터를 모델에 주입해야 할 경우가 생기는데, 이미지 데이터의 경우 일반적으로 특정 사이즈(e.g. 224x224)로 이미지를 리사이즈해서 사용하는 경우가 많다. 그래서 일반적으로 퍼블릭 데이터를 사용하는 경우 별 생각없이 transforms.Resize() 함수를 사용해서 모든 데이터를 일괄된 사이즈로 변경해서 사용하는 경우가 대부분이다. 하지만, 실제 환경에서 일괄된 이미지 리사이징을 사용하는.. 2023. 3. 3.

[HuggingFace] Swin Transformer 이미지 분류 모델 학습 튜토리얼 최근에 트랜스포머 모델을 사용할 일이 생겨 딥러닝 프레임워크인 HuggingFace 를 사용해봤다. HuggingFace의 transformers는 다양한 트랜스포머 모델을 제공하고 자체 학습/평가 API를 제공한다. 또한 허깅페이스 모델은 Pytorch, Tensorflow 학습/평가 코드에도 그대로 적용할 수 있을만큼 호환성이 좋다고 알려져 있다. 그래서 pytorch 학습 코드에 모델만 허깅페이스의 트랜스포머로 바꿔서 학습시키면 되니까 간단하겠구나 생각했지만... 생각보다 고려해야할 점들이 있어서 튜토리얼로 정리해 본다. HuggingFace Vision Model 사용 방법 데이터셋 준비 Vision Transformer(ViT) 기반의 이미지 트랜스포머 모델들은 입력 이미지를 위와 같이 패치로 .. 2023. 1. 11.

[ONNX] pytorch 모델을 ONNX로 변환하고 실행하기 ONNX (Open Neural Network eXchange) ONNX는 기계 학습 모델을 표현하기 위해 만들어진 오픈 포맷으로 ONNX 런타임은 여러 다양한 플랫폼과 하드웨어(윈도우, 리눅스, 맥을 비롯한 플랫폼 뿐만 아니라 CPU, GPU 등의 하드웨어)에서 효율적인 추론을 가능하게 한다. 때문에 다양한 프레임워크와의 연계가 필요할 때 ONNX를 사용한다. (pytorch ↔︎ tensorflow ↔︎ caffe2 ↔︎ MXNet ↔︎ ...) *참고 https://pytorch.org/docs/stable/onnx.html https://tutorials.pytorch.kr/advanced/super_resolution_with_onnxruntime.html ONNX 예제 1. Pytorch 모델.. 2022. 12. 21.

[pytorch] Mixed Precision 사용 방법 | torch.amp | torch.autocast | 모델 학습 속도를 높이고 메모리를 효율적으로 사용하는 방법 Mixed Precision 일반적인 neural network에서는 32-bit floating point(FP32) precision을 이용하여 학습을 시키는데, 최신 하드웨어에서는 lower precision(FP16) 계산이 지원되면서 속도에서 이점을 얻을 수 있다. 하지만 FP16으로 precision을 줄이면 수를 표현하는 범위가 줄어들어 학습 성능이 저하될 수 있다. Mixed Precision은 딥러닝 모델 학습 과정에서 부동소수점 연산의 정밀도를 혼합하여 사용하는 기술로, 학습 속도를 높이고 메모리 사용량을 줄이는 데 도움을 준다. Mixed Precision은 대개 FP32(32비트 부동소수점)와 FP16(16비트 부동소수점)을 조합하여 사용하며, 가중치와 그래디언트는 FP16로 저장하.. 2022. 12. 20.

[pytorch] pytorch 모델 로드 중 Missing key(s) in state_dict 에러 pytorch로 딥러닝 모델을 저장하고 불러올 때 Missing key(s) in state_dict 라는 런타임 에러가 발생하는 경우가 종종 있다. 대부분 딥러닝 모델과 불러온 모델 웨이트의 키값이 맞지 않아서 발생하는 오류인데, 모델과 모델 웨이트가 서로 짝이 아닌 경우에 발생하고 간혹 그렇지 않은 경우에도 해당 에러가 발생해서 우리를 괴롭힌다... ㅎ 그 때 아래와 같이 torch.load로 모델의 state dict를 불러오고 디버깅을 해서 state dict의 키값을 확인해보면 정확하게 문제를 파악할 수 있다. model_path = './model.pth' model_state_dict = torch.load(model_path) 위 첫 번째 캡처를 보면 모델 state dict에 모델 웨이트.. 2022. 12. 15.

[pytorch] COCO Data Format 전용 Custom Dataset 생성 Object Detection과 Segmentation 에서 흔히 사용되는 COCO dataformat 전용 Customdataset을 생성하는 방법을 소개한다. 흔히 알고 있는 COCO 데이터셋이 있고, 많은 데이터셋들이 COCO data format 을 따르는데, 이러한 데이터셋을 사용하기 위해 Customdataset을 구성하는 방법과 COCO API 인 Pycocotools 사용법을 설명한다. COCO Data Format Detection task에서는 Bounding box의 위치와 class label이 필요하고 segmentation task 에서는 segment mask 정보가 필요하다. 이러한 annotation 정보들은 json 형태로 제공되고, JSON 파일에는 Info, Licen.. 2022. 6. 4.

이전 1 2 3 다음

티스토리툴바