[책 리뷰] 머신러닝 시스템 설계 | Designing Machine Learning Systems

Designing Machine Learning Systems (머신러닝 시스템 설계)

 

 

대학원에서 경험하는 딥러닝 모델 개발은 실무적인 부분보다는 아무래도 학술적인 부분에 초점이 맞춰져 있다. 지금은 직장에서 딥러닝 모델을 개발하며 여러 실무적인 경험을 하고 있지만, 조금 더 근원적인 공부를 해보면 좋지 않을까라는 생각에 칩 후옌의 "Designing Machine Learning Systems (머신러닝 시스템 설계)"라는 책을 구매했다. 딥러닝 분야의 경우 최근 몇 년간의 발전이 많았기 때문에 관련 서적을 구매할 때 초판 발행일을 보게 되는데, 이 책은 초판 1쇄 발행이 2023년 3월이라 굉장히 최근의 책이다.

 

---

 

저자 - 칩 후옌

칩 후옌은 클레이폿 AI의 공동 창립자이자 CEO이며 엔비디아, 스노클 AI, 넷플릭스에 재직하며 머신러닝 시스템을 개발해왔다. 스탠퍼드 학부생일 때는 '딥러닝 연구를 위한 텐서플로'라는 강의로 학생들을 직접 가르쳤고, 현재는 이 책의 토대가 된 'CS 329S: 머신러닝 시스템 설계(Machine Learning Systems Design)를 강의하고 있다고 한다. 이력이 아주 굵직 굵직하다...

 

 

책 간단 설명

이 책은 ML을 활용해 실제 문제를 해결하려는 사람을 위한 책이며 대규모 ML 시스템에 중점을 두고 설명한다. 책에서의 ML은 딥러닝과 고전적인 알고리즘을 모두 의미한다. 머신러닝 시스템의 개요부터 데이터 엔지니어링, 피처 엔지니어링, 모델 개발/배포, 프로덕션 환경에서의 모델 테스트, MLOps 등 굉장히 포괄적인 개념을 다룬다. 때문에 머신러닝 시스템을 전반적으로 이해하고 앞으로 내가 어떤 것을 더 공부하면 좋을지 감을 잡는 데 도움이 될만한 책이다.

 

학계에서는 주로 딥러닝 모델 자체나 학습 방법론 또는 특정 도메인(CV, NLP,...)의 알고리즘에 대한 연구가 주를 이룬다. 하지만 ML을 프로덕션 환경에 적용하기 위해서는 모델 온라인 테스트, 데이터 처리, 서버, 자원 관리, 워크 플로 등 정말 다양한 것들이 필요하다. 또한 학계에서는 주어진 데이터셋에서의 성능을 높이는 것에 초점을 맞추지만, 프로덕션 환경에서는 지속적으로 변화하는 입력 데이터에서도 성능을 유지하는 것이 중요하다. 때문에 이 책은 프로덕션 환경에서 신뢰성 있는 ML 모델을 만들기 위한 방법에 대한 설명도 포함한다.

 

 

느낀 점 

학계에서는 성능 1%를 높이기 위해 노력하는 것이 가치 있는 일이지만, 프로덕션 환경에서는 ML 성능 지표보다는 비즈니스 지표가 더 중요하다는 말이 굉장히 와닿았다. 기업에서의 ML 모델은 추천 시스템이든 내부 프로세스 자동화를 위한 딥러닝 모델이든 챗봇과 같은 생성형 모델이든 결국 특정 비즈니스 지표를 향상시키는 것이 목표이다. 때문에 학계에서는 중요한 성능 1~2% 차이가 프로덕션 환경에서는 크게 중요하지 않을 수 있다. 하지만 ML 모델을 사용해서 비즈니스 지표를 향상시키는 것은 상당히 중요한 일이다.

 

모델 개발 시에도 특정 작업마다의 SOTA(State-Of-The-Art) 모델이 가장 좋은 성능을 내지 않는다는 말도 공감이 갔다. 리더보드에서의 SOTA 모델은 해당 소규모의 데이터셋에서의 성능이 좋은 것일 뿐 모든 데이터에서 좋은 성능을 내는 것은 절대 아니다. 때문에 ML 엔지니어에게 좋은 모델을 선택하는 일이라는 것은 언제나 까다로운 일인 것 같다.

 

머신러닝 시스템을 이루는 인프라적인 내용과 MLOps 관점의 이야기도 좋은 내용이 많았다. 머신러닝 관련 업무를 수행하다 보면 느껴지는 것들을 굉장히 잘 정리한 책이라는 생각이 들어서 좋았다. 

 

하지만, 책의 페이지를 채우기 위한 챕터가 간간이 존재하긴 한다. 프루닝 등의 모델 압축 방법을 설명하거나 피처 엔지니어링 기법들을 하나하나 설명하는 부분들이 있다. 또한 주로 예측 시스템, 추천 시스템 등의 머신러닝 모델 개발에 초점이 맞춰져 있다. 때문에 컴퓨터비전이나 자연어처리 엔지니어에겐 불필요한 내용도 많으니 챕터별로 선별해서 읽어보는 게 좋을 것 같다. 

 

이 책을 다 읽는다고 머신러닝 시스템을 설계하는 방법을 터득할 수는 없다. 머신러닝 시스템 설계에 대한 개론같은 성격의 책이기 때문에, 조금 더 깊게 공부하고 싶은 주제의 방향을 찾는 용도로 생각하는 것이 좋을 것 같다.

 

 

추천 독자

초년 차 AI/ML/CV/NLP 엔지니어와 Data Scientist, AI Researcher 직군에게 추천하며 관련 엔지니어를 희망하는 학생들도 읽어보면 좋을 것 같다. 동일한 직업처럼 보여도 기업마다 엔지니어의 업무 범위가 다르지만, researcher라 부르는 직군 또한 온전히 연구에만 집중하는 경우는 흔치 않기에 이 책을 읽어보는 것이 도움이 되리라 생각한다.

 

이제 막 머신러닝을 배우고 있는 사람에게는 추천하지 않는다. 어느 정도 머신러닝에 대한 이해가 있고 모델을 개발해본 경험이 있어야 도움이 되는 내용이 많기 때문이다.