728x90 딥러닝10 [AI/ML] 경사 하강법 (Gradient Descent Algorithms): 딥러닝 모델 최적화를 위한 알고리즘 오늘은 딥러닝에서 핵심적인 최적화 알고리즘인 Gradient Descent (경사 하강법) 에 대해 알아보려고 해요. 이 알고리즘이 딥러닝 모델을 학습하고 최적화하는 데 어떻게 활용되는지 함께 살펴보겠습니다. 경사 하강법의 개념Gradient Descent는 함수의 기울기(Gradient)를 이용하여 함수의 최솟값을 찾아가는 최적화 알고리즘입니다. 딥러닝에서는 손실 함수(Loss Function)의 값을 최소화하기 위해 많이 사용됩니다. 동작 원리기본 개념:경사 하강법은 초기에 임의의 파라미터에서 시작하여, 각 단계에서 손실 함수의 그래디언트를 계산하고, 그래디언트의 반대 방향으로 파라미터를 조정하여 최적화를 수행합니다.주요 단계:초기화(Initialization): 파라미터(가중치와 편향)를 임의의 값.. 2024. 7. 11. [AI/ML] 딥러닝 핵심 개념: Back Propagation (오차 역전파)의 이해와 응용 오늘은 딥러닝에서 핵심적인 개념인 Back Propagation (오차 역전파) 에 대해 깊이 있는 설명을 해보려고 해요. 이 개념을 이해하는 것은 딥러닝 모델을 구축하고 최적화하는 데 매우 중요한 요소입니다. Back Propagation이란? Back Propagation은 딥러닝에서 신경망 모델을 학습시킬 때 사용되는 알고리즘입니다. 모델의 출력 값과 실제 값 사이의 오차를 역방향으로 전파하여 각 파라미터가 오차에 얼마나 기여했는지 계산하고, 이를 기반으로 모델의 파라미터를 업데이트합니다. 동작 원리 1. 순전파 (Forward Propagation) : 입력 데이터를 신경망에 입력하고, 각 레이어에서 가중치와 활성화 함수를 사용하여 출력을 계산하는 과정입니다. 2. 오차 계산 (Error Cal.. 2024. 7. 11. [AI/ML] 딥러닝에서의 확률 분포 : 데이터 모델링과 성능 개선을 위한 핵심 개념 오늘은 딥러닝에서 중요한 개념인 확률 분포에 대해 알아보려고 해요. 확률 분포는 데이터의 패턴을 이해하고 모델을 효과적으로 학습하는 데 매우 중요한 역할을 해요. 그럼 시작해볼까요? 확률 분포란 무엇인가요?확률 분포는 어떤 사건이 발생할 확률을 나타내는 함수입니다. 데이터 분석에서는 주어진 데이터가 어떤 분포를 따르는지 이해하는 것이 중요해요. 이를 통해 데이터의 특성을 파악하고, 모델을 구성할 때 필요한 정보를 얻을 수 있어요. 딥러닝에서의 확률 분포 활용딥러닝에서 확률 분포는 다양한 방식으로 활용됩니다. 예를 들어,확률적 경사 하강법(Stochastic Gradient Descent): 모델을 학습시킬 때 사용되며, 이 때에는 모델의 파라미터들이 특정 확률 분포를 따르게 됩니다.확률적 생성 모델(Ge.. 2023. 12. 9. [AI/ML] CNN에서 Convolutional layer의 개념과 의미 | 컨볼루션 신경망 | 합성곱 신경망 딥러닝에서 CNN (Convolutional Neural Network) 은 주로 이미지를 분석하는 데 가장 일반적으로 사용하는 ANN (Artificial Neural Network) 이다. 물론 요즘은 트랜스포머 기반의 네트워크를 많이 사용하지만 CNN 또한 여전히 많이 사용되고 트랜스포머와 CNN의 조합의 네트워크 또한 심심치 않게 볼 수 있다. 이번 포스팅에서는 CNN의 핵심 layer인 convolutional layer의 개념과 의미에 대해 설명하고자 한다. * CNN (Convolutional Neural Network)CNN은 입력 데이터에 대해 계층적으로 학습하며 입력 데이터의 특징을 추출하기 위해 Convolution, Pooling, Non-linear activation functi.. 2023. 3. 23. [연구 소개] 문서 이미지 그림자제거 / 문서 OCR 결과를 향상시키기 위해 요즘은 문서를 사진으로 찍어서 회사나 공공 기관에 제출하는 경우가 많다. 이 때 회사는 받은 문서에서 OCR 기술을 사용해서 텍스트를 디지털화시켜서 저장하게 된다. 그런데 휴대폰으로 문서 사진을 찍는 경우 그림자가 많이 생겨서 이미지의 퀄리티가 떨어지는 경우가 많고 이는 텍스트 인식 오류를 발생하게 한다. 그런데... 이미지에서 그림자를 제거하는 연구가 존재한다고 한다. 역시 세상 사람들은 참 똑똑하고 없는 게 잘 없다... Paper : BEDSR-Net A Deep Shadow Removal Network from a Single Document Image / CVPR 2020 github : https://github.com/IsHYuhi/BEDSR-Net_A_Deep_Shadow_Removal_.. 2022. 12. 20. [Tip] AI/ML & Computer Vision 직군 실제 면접 질문 모음집! 안녕하세요!! AI & Computer Vision Engineer로 있는 뭅즤입니다. 저도 취준생 시절이 있었는데요...🤗오늘은 AI/ML, computer vision 직무로 정말 다양한 기업의 면접을 보면서 받은 질문들을 공유해 보려고 해요! 면접에서 실제로 받은 질문과 물어볼 가능성이 큰 질문들을 섞어서 알려드릴게요. 이거 정말 꿀팁인거 아시죠? 📣 그리고 조만간 면접 질문 리스트를 카테고리별로 조금 더 상세하게 업데이트하려고 하니 많은 관심 부탁드려요 🔥 *참고 사항기업, 산업, 세부 직무 마다 다르지만 굉장히 기본적인 것 위주로 물어보는 곳도 있고, 아주 딥하고 어려운 질문(정답이 없는)을 하거나 당해 발표된 논문이나 기술에 대해 물어보는 곳도 있어요. 사실 석사 이상은 개인 연구와 기.. 2022. 5. 15. 이전 1 2 다음 728x90
