본문 바로가기

💻 Programming83

[Model Inference] Torch-TensorRT 사용법 | 딥러닝 모델 최적화 및 인퍼런스 가속화 Torch-TensorRT는 PyTorch와 NVIDIA의 TensorRT를 통합하여 딥러닝 모델을 최적화하고 가속화하는 데 사용되는 PyTorch/TorchScript/FX용 컴파일러이다. Torch-TensorRT는 PyTorch 익스텐션으로 동작하며 JIT(Just In Time) 런타임에 원할하게 통합되는 모듈을 컴파일한다. NVIDIA TensorRT는 NVIDIA GPU에서 모델을 더 빠르게 실행하기 위한 최적화된 런타임 엔진으로, 특히 딥 러닝 모델을 배포 환경에서 더 효율적으로 실행하고 추론(inference) 성능을 향상시키는 데 사용된다. 기존에 파이썬으로 TensorRT를 사용하기 위해서는 오픈소스 커뮤니티에서 개발한 torch2trt 패키지를 사용해서 pytorch 모델을 tenso.. 2023. 10. 2.

[Docker] (12) 깃허브로 도커 이미지 공유하기 | Packages Container Registry Docker 전체 포스팅 더보기 [Docker] (1) 도커 개념 설명 | 도커는 왜 사용하는 걸까? [Docker] (2) 도커 & 도커컴포즈 다운로드 [Docker] (3) 도커 핵심 개념 - 이미지, 컨테이너, 도커 허브 [Docker] (4) docker pull(이미지 다운로드) & docker run(컨테이너 생성/실행) & 포트포워딩(포트매핑) [Docker] (5) 도커 run 명령어 옵션, 도커 컨테이너가 종료되지 않게 하는 방법 [Docker] (6) 도커 컨테이너로 접속하기 - docker exec & docker attach [Docker] (7) 도커 volume(볼륨) 옵션 - 컨테이너 폴더와 호스트 폴더 연결하기 [Docker] (8) 도커 commit(커밋) & push(푸시.. 2023. 8. 31.

[Docker] (11) 도커 컨테이너와 vscode 연동하기 | 도커 컨테이너에서 개발 Docker 전체 포스팅 더보기 [Docker] (1) 도커 개념 설명 | 도커는 왜 사용하는 걸까? [Docker] (2) 도커 & 도커컴포즈 다운로드 [Docker] (3) 도커 핵심 개념 - 이미지, 컨테이너, 도커 허브 [Docker] (4) docker pull(이미지 다운로드) & docker run(컨테이너 생성/실행) & 포트포워딩(포트매핑) [Docker] (5) 도커 run 명령어 옵션, 도커 컨테이너가 종료되지 않게 하는 방법 [Docker] (6) 도커 컨테이너로 접속하기 - docker exec & docker attach [Docker] (7) 도커 volume(볼륨) 옵션 - 컨테이너 폴더와 호스트 폴더 연결하기 [Docker] (8) 도커 commit(커밋) & push(푸시.. 2023. 8. 25.

[Docker] (10) Dockerfile 빌드 예시 | ENTRYPOINT 와 CMD의 차이 Docker 전체 포스팅 더보기 [Docker] (1) 도커 개념 설명 | 도커는 왜 사용하는 걸까? [Docker] (2) 도커 & 도커컴포즈 다운로드 [Docker] (3) 도커 핵심 개념 - 이미지, 컨테이너, 도커 허브 [Docker] (4) docker pull(이미지 다운로드) & docker run(컨테이너 생성/실행) & 포트포워딩(포트매핑) [Docker] (5) 도커 run 명령어 옵션, 도커 컨테이너가 종료되지 않게 하는 방법 [Docker] (6) 도커 컨테이너로 접속하기 - docker exec & docker attach [Docker] (7) 도커 volume(볼륨) 옵션 - 컨테이너 폴더와 호스트 폴더 연결하기 [Docker] (8) 도커 commit(커밋) & push(푸시.. 2023. 8. 24.

[Docker] (9) Dockerfile(도커파일) - 스마트하게 도커 이미지를 빌드하는 방법 Docker 전체 포스팅 더보기 [Docker] (1) 도커 개념 설명 | 도커는 왜 사용하는 걸까? [Docker] (2) 도커 & 도커컴포즈 다운로드 [Docker] (3) 도커 핵심 개념 - 이미지, 컨테이너, 도커 허브 [Docker] (4) docker pull(이미지 다운로드) & docker run(컨테이너 생성/실행) & 포트포워딩(포트매핑) [Docker] (5) 도커 run 명령어 옵션, 도커 컨테이너가 종료되지 않게 하는 방법 [Docker] (6) 도커 컨테이너로 접속하기 - docker exec & docker attach [Docker] (7) 도커 volume(볼륨) 옵션 - 컨테이너 폴더와 호스트 폴더 연결하기 [Docker] (8) 도커 commit(커밋) & push(푸시.. 2023. 8. 21.

[Docker] (8) 도커 commit(커밋) & push(푸시) - 컨테이너를 새로운 도커 이미지로 저장하고 레퍼지토리에 업로드 Docker 전체 포스팅 더보기 [Docker] (1) 도커 개념 설명 | 도커는 왜 사용하는 걸까? [Docker] (2) 도커 & 도커컴포즈 다운로드 [Docker] (3) 도커 핵심 개념 - 이미지, 컨테이너, 도커 허브 [Docker] (4) docker pull(이미지 다운로드) & docker run(컨테이너 생성/실행) & 포트포워딩(포트매핑) [Docker] (5) 도커 run 명령어 옵션, 도커 컨테이너가 종료되지 않게 하는 방법 [Docker] (6) 도커 컨테이너로 접속하기 - docker exec & docker attach [Docker] (7) 도커 volume(볼륨) 옵션 - 컨테이너 폴더와 호스트 폴더 연결하기 [Docker] (8) 도커 commit(커밋) & push(푸시.. 2023. 8. 21.

이전 1 ··· 4 5 6 7 8 9 10 ··· 14 다음

티스토리툴바