728x90 ๐ Theory30 ์ ํต์ ์ธ ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ: SVM, Decision Tree, Random Forest, Gradient Boosting ์ค๋์ ๋จธ์ ๋ฌ๋์์ ์ ํต์ ์ด๊ณ ๊ธฐ๋ณธ์ด ๋๋ ๋ค ๊ฐ์ง ์ฃผ์ ์๊ณ ๋ฆฌ์ฆ์ ๊ฐ๋ ์ ์ผ๋ก ์ดํด๋ณผ ๊ฑฐ์์. SVM(Support Vector Machine), Decision Tree, Random Forest, Gradient Boosting์ ๊ฐ๊ฐ ๋ ํนํ ํน์ง๊ณผ ๊ฐ๋ ฅํ ์์ธก ์ฑ๋ฅ์ ๊ฐ์ง ์๊ณ ๋ฆฌ์ฆ์ผ๋ก, ๋จธ์ ๋ฌ๋์ ๊ธฐ์ด๋ฅผ ์ด๋ฃจ๋ ์ค์ํ ๋ชจ๋ธ๋ค์ ๋๋ค.1. SVM (Support Vector Machine)1.1. ๊ฐ๋ SVM์ ์ฃผ์ด์ง ๋ฐ์ดํฐ์์ ๋ ํด๋์ค๋ฅผ ๊ฐ์ฅ ์ ๊ตฌ๋ถํ๋ ๊ฒฝ๊ณ(Decision Boundary)๋ฅผ ์ฐพ๋ ๋ฐ ์ด์ ์ด ์์ด์.์ด ๊ฒฝ๊ณ๋ฅผ Hyperplane์ด๋ผ๊ณ ๋ถ๋ฅด๋ฉฐ, ๋ฐ์ดํฐ๋ฅผ ๋ถ๋ฆฌํ๋ ์ ๋๋ ๋ฉด์ ์๋ฏธํฉ๋๋ค. SVM์ ํต์ฌ์ ์ด Hyperplane๊ณผ ๋ฐ์ดํฐ๋ฅผ ๊ตฌ๋ถํ๋ ๋ง์ง์ ์ต๋ํ์ผ๋ก ๋ํ๋ ๊ฒ์ ๋๋ค. .. 2024. 12. 9. [AI/ML] Matrix Factorization(ํ๋ ฌ ๋ถํด)์ ๋จธ์ ๋ฌ๋ ๋จธ์ ๋ฌ๋ ๊ด๋ จ ๊ณต๋ถ๋ฅผ ํ๋ค๋ณด๋ฉด ํ๋ ฌ์ ๊ดํ ์ด์ผ๊ธฐ๊ฐ ์ฐธ ๋ง์ด ๋์ค์ฃ . ์ ๋ง ์ง๊ธ์ง๊ธํ๋ฐ ๊ทธ๋ ๋ค๊ณ ๋ ๋ ์๋ฒฝํ ์ดํดํ์ง๋ ๋ชปํ๋ ๋ถ์ผ์ด๊ธฐ๋ ํด์...ใ ์ค๋์ ์๊ฐ๋ ๊น์ ํ๋ ฌ ๋ถํด์ ๋ํ ๋ด์ฉ์ ์ ๋ฆฌํด ๋ณด๋ ค ํฉ๋๋ค. ํ๋ ฌ ๋ถํด(Matrix Factorization)๋ ํ๋์ ํ๋ ฌ์ ๋ ์์ ํ๋ ฌ๋ค์ ๊ณฑ์ผ๋ก ๋ถํดํด ํํํ๋ ๋ฐฉ๋ฒ์ ๋๋ค. ์ด๋ฌํ ํ๋ ฌ ๋ถํด๋ฅผ ์ฌ์ฉํ๋ฉด, ๋ฐ์ดํฐ์ ํฌ๊ธฐ๋ฅผ ์ค์ด๋ฉด์๋ ์ค์ํ ์ ๋ณด๋ฅผ ๋ณด์กดํ ์ ์์ด์. ๋ฐ์ดํฐ๋ฅผ ๋จ์ํ ์์ถํ๋ ๋ฐ ๊ทธ์น์ง ์๊ณ , ๊ทธ ์์ ์จ๊ฒจ์ง ํจํด์ด๋ ๊ด๊ณ๋ฅผ ์ฐพ์๋ด๋ ๋ฐ๋ ์ ๋ง ์ ์ฉํ๋ต๋๋ค. ์๋ฅผ ๋ค์ด, ์ถ์ฒ ์์คํ ์์ ์ฌ์ฉ์์ ์์ดํ ๊ฐ์ ์ ํธ๋๋ฅผ ๋ํ๋ด๋ ๋๊ท๋ชจ ํ๋ ฌ์ด ์์ ๋, ์ด๋ฅผ ๋ถํดํ๋ฉด ๊ฐ ์ฌ์ฉ์์ ์์ดํ ์ ์ ์ฌ์ ์ธ ํน์ง์ ๋ฐ๊ฒฌํ ์ ์์ด์. ์ด๋ ๊ฒ ๋ฐ.. 2024. 12. 9. [๊ฐ์ฒด ๊ฒ์ถ] ์ต์ปค ๋ฐ์ค(Anchor Box)๋ ๋ฌด์์ธ๊ฐ? | ๊ฐ์ฒด ๊ฒ์ถ ๋ชจ๋ธ์์์ ์ญํ ๊ณผ ํ๊ณ ์ค๋์ ๊ฐ์ฒด ๊ฒ์ถ์ ๊ณต๋ถํ๋ค ๋ณด๋ฉด ์์ฃผ ๋ฑ์ฅํ๋ ์ต์ปค ๋ฐ์ค(Anchor Box)์ ๋ํด ์์ ๋ณด๋ ค๊ณ ํด์. ๊ฐ์ฒด ๊ฒ์ถ์ ์ดํดํ๊ธฐ ์ํด์๋ ํ์์ ์ธ ๊ฐ๋ ์ด๋ ์์๋๋ฉด ์ข๊ฒ ์ฃ !? 1. ์ต์ปค ๋ฐ์ค๋? ์ต์ปค ๋ฐ์ค(Anchor Box)๋ ๊ฐ์ฒด ๊ฒ์ถ(Object Detection) ๋ชจ๋ธ์์ ๋ฌผ์ฒด์ ์์น์ ํฌ๊ธฐ๋ฅผ ์์ธกํ๊ธฐ ์ํด ์ฌ์ฉ๋๋ ๊ณ ์ ๋ ์ฌ์ ์ ์๋ ๋ฐ์ด๋ฉ ๋ฐ์ค์์. ๋ค์ํ ํฌ๊ธฐ์ ๋น์จ์ ์ต์ปค ๋ฐ์ค๋ฅผ ์ด๋ฏธ์ง์ ๊ฐ ์์น์ ๋ฐฐ์นํด, ๊ฐ ๋ฐ์ค ์์ ๊ฐ์ฒด๊ฐ ํฌํจ๋ ๊ฐ๋ฅ์ฑ์ ๊ณ์ฐํ๋ ๋ฐฉ์์ผ๋ก ๋์ํฉ๋๋ค. 2. ์ต์ปค ๋ฐ์ค์ ์๋ฆฌ์ ์ฌ์ฉ ๋ฐฉ์์ต์ปค ๋ฐ์ค์ ์ฃผ์ ๋ชฉ์ ์ ์ด๋ฏธ์ง ๋ด ๋ค์ํ ํฌ๊ธฐ์ ๋น์จ์ ๊ฐ์ฒด๋ฅผ ํจ๊ณผ์ ์ผ๋ก ๊ฒ์ถํ๋ ๊ฒ์ธ๋ฐ์.์กฐ๊ธ ๋ ์์ธํ๊ฒ ์ดํด๋ณด๋ฉด, ์ฐ์ ์ด๋ฏธ์ง ๋ด์ ๋ชจ๋ ์์น์์ ๋ค์ํ ํฌ๊ธฐ์ ๋น์จ๋ก ์ต์ปค ๋ฐ.. 2024. 8. 10. [AI/ML] ๊ฒฝ์ฌ ํ๊ฐ๋ฒ (Gradient Descent Algorithms): ๋ฅ๋ฌ๋ ๋ชจ๋ธ ์ต์ ํ๋ฅผ ์ํ ์๊ณ ๋ฆฌ์ฆ ์ค๋์ ๋ฅ๋ฌ๋์์ ํต์ฌ์ ์ธ ์ต์ ํ ์๊ณ ๋ฆฌ์ฆ์ธ Gradient Descent (๊ฒฝ์ฌ ํ๊ฐ๋ฒ) ์ ๋ํด ์์๋ณด๋ ค๊ณ ํด์. ์ด ์๊ณ ๋ฆฌ์ฆ์ด ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ํ์ตํ๊ณ ์ต์ ํํ๋ ๋ฐ ์ด๋ป๊ฒ ํ์ฉ๋๋์ง ํจ๊ป ์ดํด๋ณด๊ฒ ์ต๋๋ค. ๊ฒฝ์ฌ ํ๊ฐ๋ฒ์ ๊ฐ๋ Gradient Descent๋ ํจ์์ ๊ธฐ์ธ๊ธฐ(Gradient)๋ฅผ ์ด์ฉํ์ฌ ํจ์์ ์ต์๊ฐ์ ์ฐพ์๊ฐ๋ ์ต์ ํ ์๊ณ ๋ฆฌ์ฆ์ ๋๋ค. ๋ฅ๋ฌ๋์์๋ ์์ค ํจ์(Loss Function)์ ๊ฐ์ ์ต์ํํ๊ธฐ ์ํด ๋ง์ด ์ฌ์ฉ๋ฉ๋๋ค. ๋์ ์๋ฆฌ๊ธฐ๋ณธ ๊ฐ๋ :๊ฒฝ์ฌ ํ๊ฐ๋ฒ์ ์ด๊ธฐ์ ์์์ ํ๋ผ๋ฏธํฐ์์ ์์ํ์ฌ, ๊ฐ ๋จ๊ณ์์ ์์ค ํจ์์ ๊ทธ๋๋์ธํธ๋ฅผ ๊ณ์ฐํ๊ณ , ๊ทธ๋๋์ธํธ์ ๋ฐ๋ ๋ฐฉํฅ์ผ๋ก ํ๋ผ๋ฏธํฐ๋ฅผ ์กฐ์ ํ์ฌ ์ต์ ํ๋ฅผ ์ํํฉ๋๋ค.์ฃผ์ ๋จ๊ณ:์ด๊ธฐํ(Initialization): ํ๋ผ๋ฏธํฐ(๊ฐ์ค์น์ ํธํฅ)๋ฅผ ์์์ ๊ฐ.. 2024. 7. 11. [AI/ML] ๋ฅ๋ฌ๋ ํต์ฌ ๊ฐ๋ : Back Propagation (์ค์ฐจ ์ญ์ ํ)์ ์ดํด์ ์์ฉ ์ค๋์ ๋ฅ๋ฌ๋์์ ํต์ฌ์ ์ธ ๊ฐ๋ ์ธ Back Propagation (์ค์ฐจ ์ญ์ ํ) ์ ๋ํด ๊น์ด ์๋ ์ค๋ช ์ ํด๋ณด๋ ค๊ณ ํด์. ์ด ๊ฐ๋ ์ ์ดํดํ๋ ๊ฒ์ ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ๊ตฌ์ถํ๊ณ ์ต์ ํํ๋ ๋ฐ ๋งค์ฐ ์ค์ํ ์์์ ๋๋ค. Back Propagation์ด๋? Back Propagation์ ๋ฅ๋ฌ๋์์ ์ ๊ฒฝ๋ง ๋ชจ๋ธ์ ํ์ต์ํฌ ๋ ์ฌ์ฉ๋๋ ์๊ณ ๋ฆฌ์ฆ์ ๋๋ค. ๋ชจ๋ธ์ ์ถ๋ ฅ ๊ฐ๊ณผ ์ค์ ๊ฐ ์ฌ์ด์ ์ค์ฐจ๋ฅผ ์ญ๋ฐฉํฅ์ผ๋ก ์ ํํ์ฌ ๊ฐ ํ๋ผ๋ฏธํฐ๊ฐ ์ค์ฐจ์ ์ผ๋ง๋ ๊ธฐ์ฌํ๋์ง ๊ณ์ฐํ๊ณ , ์ด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋ชจ๋ธ์ ํ๋ผ๋ฏธํฐ๋ฅผ ์ ๋ฐ์ดํธํฉ๋๋ค. ๋์ ์๋ฆฌ 1. ์์ ํ (Forward Propagation) : ์ ๋ ฅ ๋ฐ์ดํฐ๋ฅผ ์ ๊ฒฝ๋ง์ ์ ๋ ฅํ๊ณ , ๊ฐ ๋ ์ด์ด์์ ๊ฐ์ค์น์ ํ์ฑํ ํจ์๋ฅผ ์ฌ์ฉํ์ฌ ์ถ๋ ฅ์ ๊ณ์ฐํ๋ ๊ณผ์ ์ ๋๋ค. 2. ์ค์ฐจ ๊ณ์ฐ (Error Cal.. 2024. 7. 11. [AI/ML] ๋จธ์ ๋ฌ๋ : ์ง๋ํ์ต, ๋น์ง๋ํ์ต, ๊ฐํํ์ต ์ดํดํ๊ธฐ ๐ ๋จธ์ ๋ฌ๋์ ํต์ฌ, ์ง๋ํ์ต, ๋น์ง๋ํ์ต, ๊ฐํํ์ต์ ์์ธํ ์์๋ณด์์! ๐ค ์ง๋ํ์ต์ง๋ํ์ต์ ์ ๋ ฅ ๋ฐ์ดํฐ์ ๊ทธ์ ๋์ํ๋ ์ ๋ต ๋ฐ์ดํฐ(๋ผ๋ฒจ)์ ํจ๊ป ์ฌ์ฉํ์ฌ ๋ชจ๋ธ์ ํ์ต์ํค๋ ๋ฐฉ๋ฒ์ ๋๋ค. ์ด ๋ฐฉ๋ฒ์ ๋ฐ์ดํฐ์ ๊ฐ ์ํ์ด ์ ๋ ฅ๊ณผ ์ ๋ต์ผ๋ก ๊ตฌ์ฑ๋์ด ์์ด์ผ ํฉ๋๋ค. ์๋ฅผ ๋ค์ด, ์ด๋ฉ์ผ์ด ์คํธ์ธ์ง ์๋์ง๋ฅผ ๊ตฌ๋ถํ๋ ๋ถ๋ฅ ๋ฌธ์ ๋ ์ด๋ฏธ์ง์์ ๊ฐ์ฒด๋ฅผ ์ธ์ํ๋ ๋ฌธ์ ๋ฑ์์ ์ฌ์ฉ๋ ์ ์์ด์.์ฃผ์ ์์:๋ถ๋ฅ(Classification): ์์ธกํ๋ ค๋ ๊ฐ์ด ๋ฒ์ฃผํ ๋ฐ์ดํฐ์ธ ๊ฒฝ์ฐ ์ฌ์ฉ๋ฉ๋๋ค. ์๋ฅผ ๋ค์ด, ์ด๋ฉ์ผ์ด ์คํธ์ธ์ง ์๋์ง ๋ถ๋ฅํ๊ฑฐ๋ ๊ณ ๊ฐ์ด ํน์ ์ ํ์ ๊ตฌ๋งคํ ์ง ์์ธกํ๋ ๋ฌธ์ ๋ฑ์ด ์์ด์.ํ๊ท(Regression): ์์ธกํ๋ ค๋ ๊ฐ์ด ์ฐ์์ ์ธ ์ซ์์ธ ๊ฒฝ์ฐ ์ฌ์ฉ๋ฉ๋๋ค. ์๋ฅผ ๋ค์ด, ์ฃผ์ ๊ฐ๊ฒฉ ์์ธก์ด๋ ์ฃผํ ๊ฐ๊ฒฉ ์์ธก .. 2024. 7. 11. ์ด์ 1 2 3 4 5 ๋ค์ 728x90