728x90 ๐ Theory/AI & ML15 ์ ํต์ ์ธ ๋จธ์ ๋ฌ๋ ๋ชจ๋ธ: SVM, Decision Tree, Random Forest, Gradient Boosting ์ค๋์ ๋จธ์ ๋ฌ๋์์ ์ ํต์ ์ด๊ณ ๊ธฐ๋ณธ์ด ๋๋ ๋ค ๊ฐ์ง ์ฃผ์ ์๊ณ ๋ฆฌ์ฆ์ ๊ฐ๋ ์ ์ผ๋ก ์ดํด๋ณผ ๊ฑฐ์์. SVM(Support Vector Machine), Decision Tree, Random Forest, Gradient Boosting์ ๊ฐ๊ฐ ๋ ํนํ ํน์ง๊ณผ ๊ฐ๋ ฅํ ์์ธก ์ฑ๋ฅ์ ๊ฐ์ง ์๊ณ ๋ฆฌ์ฆ์ผ๋ก, ๋จธ์ ๋ฌ๋์ ๊ธฐ์ด๋ฅผ ์ด๋ฃจ๋ ์ค์ํ ๋ชจ๋ธ๋ค์ ๋๋ค.1. SVM (Support Vector Machine)1.1. ๊ฐ๋ SVM์ ์ฃผ์ด์ง ๋ฐ์ดํฐ์์ ๋ ํด๋์ค๋ฅผ ๊ฐ์ฅ ์ ๊ตฌ๋ถํ๋ ๊ฒฝ๊ณ(Decision Boundary)๋ฅผ ์ฐพ๋ ๋ฐ ์ด์ ์ด ์์ด์.์ด ๊ฒฝ๊ณ๋ฅผ Hyperplane์ด๋ผ๊ณ ๋ถ๋ฅด๋ฉฐ, ๋ฐ์ดํฐ๋ฅผ ๋ถ๋ฆฌํ๋ ์ ๋๋ ๋ฉด์ ์๋ฏธํฉ๋๋ค. SVM์ ํต์ฌ์ ์ด Hyperplane๊ณผ ๋ฐ์ดํฐ๋ฅผ ๊ตฌ๋ถํ๋ ๋ง์ง์ ์ต๋ํ์ผ๋ก ๋ํ๋ ๊ฒ์ ๋๋ค. .. 2024. 12. 9. [AI/ML] Matrix Factorization(ํ๋ ฌ ๋ถํด)์ ๋จธ์ ๋ฌ๋ ๋จธ์ ๋ฌ๋ ๊ด๋ จ ๊ณต๋ถ๋ฅผ ํ๋ค๋ณด๋ฉด ํ๋ ฌ์ ๊ดํ ์ด์ผ๊ธฐ๊ฐ ์ฐธ ๋ง์ด ๋์ค์ฃ . ์ ๋ง ์ง๊ธ์ง๊ธํ๋ฐ ๊ทธ๋ ๋ค๊ณ ๋ ๋ ์๋ฒฝํ ์ดํดํ์ง๋ ๋ชปํ๋ ๋ถ์ผ์ด๊ธฐ๋ ํด์...ใ ์ค๋์ ์๊ฐ๋ ๊น์ ํ๋ ฌ ๋ถํด์ ๋ํ ๋ด์ฉ์ ์ ๋ฆฌํด ๋ณด๋ ค ํฉ๋๋ค. ํ๋ ฌ ๋ถํด(Matrix Factorization)๋ ํ๋์ ํ๋ ฌ์ ๋ ์์ ํ๋ ฌ๋ค์ ๊ณฑ์ผ๋ก ๋ถํดํด ํํํ๋ ๋ฐฉ๋ฒ์ ๋๋ค. ์ด๋ฌํ ํ๋ ฌ ๋ถํด๋ฅผ ์ฌ์ฉํ๋ฉด, ๋ฐ์ดํฐ์ ํฌ๊ธฐ๋ฅผ ์ค์ด๋ฉด์๋ ์ค์ํ ์ ๋ณด๋ฅผ ๋ณด์กดํ ์ ์์ด์. ๋ฐ์ดํฐ๋ฅผ ๋จ์ํ ์์ถํ๋ ๋ฐ ๊ทธ์น์ง ์๊ณ , ๊ทธ ์์ ์จ๊ฒจ์ง ํจํด์ด๋ ๊ด๊ณ๋ฅผ ์ฐพ์๋ด๋ ๋ฐ๋ ์ ๋ง ์ ์ฉํ๋ต๋๋ค. ์๋ฅผ ๋ค์ด, ์ถ์ฒ ์์คํ ์์ ์ฌ์ฉ์์ ์์ดํ ๊ฐ์ ์ ํธ๋๋ฅผ ๋ํ๋ด๋ ๋๊ท๋ชจ ํ๋ ฌ์ด ์์ ๋, ์ด๋ฅผ ๋ถํดํ๋ฉด ๊ฐ ์ฌ์ฉ์์ ์์ดํ ์ ์ ์ฌ์ ์ธ ํน์ง์ ๋ฐ๊ฒฌํ ์ ์์ด์. ์ด๋ ๊ฒ ๋ฐ.. 2024. 12. 9. [AI/ML] ๊ฒฝ์ฌ ํ๊ฐ๋ฒ (Gradient Descent Algorithms): ๋ฅ๋ฌ๋ ๋ชจ๋ธ ์ต์ ํ๋ฅผ ์ํ ์๊ณ ๋ฆฌ์ฆ ์ค๋์ ๋ฅ๋ฌ๋์์ ํต์ฌ์ ์ธ ์ต์ ํ ์๊ณ ๋ฆฌ์ฆ์ธ Gradient Descent (๊ฒฝ์ฌ ํ๊ฐ๋ฒ) ์ ๋ํด ์์๋ณด๋ ค๊ณ ํด์. ์ด ์๊ณ ๋ฆฌ์ฆ์ด ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ํ์ตํ๊ณ ์ต์ ํํ๋ ๋ฐ ์ด๋ป๊ฒ ํ์ฉ๋๋์ง ํจ๊ป ์ดํด๋ณด๊ฒ ์ต๋๋ค. ๊ฒฝ์ฌ ํ๊ฐ๋ฒ์ ๊ฐ๋ Gradient Descent๋ ํจ์์ ๊ธฐ์ธ๊ธฐ(Gradient)๋ฅผ ์ด์ฉํ์ฌ ํจ์์ ์ต์๊ฐ์ ์ฐพ์๊ฐ๋ ์ต์ ํ ์๊ณ ๋ฆฌ์ฆ์ ๋๋ค. ๋ฅ๋ฌ๋์์๋ ์์ค ํจ์(Loss Function)์ ๊ฐ์ ์ต์ํํ๊ธฐ ์ํด ๋ง์ด ์ฌ์ฉ๋ฉ๋๋ค. ๋์ ์๋ฆฌ๊ธฐ๋ณธ ๊ฐ๋ :๊ฒฝ์ฌ ํ๊ฐ๋ฒ์ ์ด๊ธฐ์ ์์์ ํ๋ผ๋ฏธํฐ์์ ์์ํ์ฌ, ๊ฐ ๋จ๊ณ์์ ์์ค ํจ์์ ๊ทธ๋๋์ธํธ๋ฅผ ๊ณ์ฐํ๊ณ , ๊ทธ๋๋์ธํธ์ ๋ฐ๋ ๋ฐฉํฅ์ผ๋ก ํ๋ผ๋ฏธํฐ๋ฅผ ์กฐ์ ํ์ฌ ์ต์ ํ๋ฅผ ์ํํฉ๋๋ค.์ฃผ์ ๋จ๊ณ:์ด๊ธฐํ(Initialization): ํ๋ผ๋ฏธํฐ(๊ฐ์ค์น์ ํธํฅ)๋ฅผ ์์์ ๊ฐ.. 2024. 7. 11. [AI/ML] ๋ฅ๋ฌ๋ ํต์ฌ ๊ฐ๋ : Back Propagation (์ค์ฐจ ์ญ์ ํ)์ ์ดํด์ ์์ฉ ์ค๋์ ๋ฅ๋ฌ๋์์ ํต์ฌ์ ์ธ ๊ฐ๋ ์ธ Back Propagation (์ค์ฐจ ์ญ์ ํ) ์ ๋ํด ๊น์ด ์๋ ์ค๋ช ์ ํด๋ณด๋ ค๊ณ ํด์. ์ด ๊ฐ๋ ์ ์ดํดํ๋ ๊ฒ์ ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ๊ตฌ์ถํ๊ณ ์ต์ ํํ๋ ๋ฐ ๋งค์ฐ ์ค์ํ ์์์ ๋๋ค. Back Propagation์ด๋? Back Propagation์ ๋ฅ๋ฌ๋์์ ์ ๊ฒฝ๋ง ๋ชจ๋ธ์ ํ์ต์ํฌ ๋ ์ฌ์ฉ๋๋ ์๊ณ ๋ฆฌ์ฆ์ ๋๋ค. ๋ชจ๋ธ์ ์ถ๋ ฅ ๊ฐ๊ณผ ์ค์ ๊ฐ ์ฌ์ด์ ์ค์ฐจ๋ฅผ ์ญ๋ฐฉํฅ์ผ๋ก ์ ํํ์ฌ ๊ฐ ํ๋ผ๋ฏธํฐ๊ฐ ์ค์ฐจ์ ์ผ๋ง๋ ๊ธฐ์ฌํ๋์ง ๊ณ์ฐํ๊ณ , ์ด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋ชจ๋ธ์ ํ๋ผ๋ฏธํฐ๋ฅผ ์ ๋ฐ์ดํธํฉ๋๋ค. ๋์ ์๋ฆฌ 1. ์์ ํ (Forward Propagation) : ์ ๋ ฅ ๋ฐ์ดํฐ๋ฅผ ์ ๊ฒฝ๋ง์ ์ ๋ ฅํ๊ณ , ๊ฐ ๋ ์ด์ด์์ ๊ฐ์ค์น์ ํ์ฑํ ํจ์๋ฅผ ์ฌ์ฉํ์ฌ ์ถ๋ ฅ์ ๊ณ์ฐํ๋ ๊ณผ์ ์ ๋๋ค. 2. ์ค์ฐจ ๊ณ์ฐ (Error Cal.. 2024. 7. 11. [AI/ML] ๋จธ์ ๋ฌ๋ : ์ง๋ํ์ต, ๋น์ง๋ํ์ต, ๊ฐํํ์ต ์ดํดํ๊ธฐ ๐ ๋จธ์ ๋ฌ๋์ ํต์ฌ, ์ง๋ํ์ต, ๋น์ง๋ํ์ต, ๊ฐํํ์ต์ ์์ธํ ์์๋ณด์์! ๐ค ์ง๋ํ์ต์ง๋ํ์ต์ ์ ๋ ฅ ๋ฐ์ดํฐ์ ๊ทธ์ ๋์ํ๋ ์ ๋ต ๋ฐ์ดํฐ(๋ผ๋ฒจ)์ ํจ๊ป ์ฌ์ฉํ์ฌ ๋ชจ๋ธ์ ํ์ต์ํค๋ ๋ฐฉ๋ฒ์ ๋๋ค. ์ด ๋ฐฉ๋ฒ์ ๋ฐ์ดํฐ์ ๊ฐ ์ํ์ด ์ ๋ ฅ๊ณผ ์ ๋ต์ผ๋ก ๊ตฌ์ฑ๋์ด ์์ด์ผ ํฉ๋๋ค. ์๋ฅผ ๋ค์ด, ์ด๋ฉ์ผ์ด ์คํธ์ธ์ง ์๋์ง๋ฅผ ๊ตฌ๋ถํ๋ ๋ถ๋ฅ ๋ฌธ์ ๋ ์ด๋ฏธ์ง์์ ๊ฐ์ฒด๋ฅผ ์ธ์ํ๋ ๋ฌธ์ ๋ฑ์์ ์ฌ์ฉ๋ ์ ์์ด์.์ฃผ์ ์์:๋ถ๋ฅ(Classification): ์์ธกํ๋ ค๋ ๊ฐ์ด ๋ฒ์ฃผํ ๋ฐ์ดํฐ์ธ ๊ฒฝ์ฐ ์ฌ์ฉ๋ฉ๋๋ค. ์๋ฅผ ๋ค์ด, ์ด๋ฉ์ผ์ด ์คํธ์ธ์ง ์๋์ง ๋ถ๋ฅํ๊ฑฐ๋ ๊ณ ๊ฐ์ด ํน์ ์ ํ์ ๊ตฌ๋งคํ ์ง ์์ธกํ๋ ๋ฌธ์ ๋ฑ์ด ์์ด์.ํ๊ท(Regression): ์์ธกํ๋ ค๋ ๊ฐ์ด ์ฐ์์ ์ธ ์ซ์์ธ ๊ฒฝ์ฐ ์ฌ์ฉ๋ฉ๋๋ค. ์๋ฅผ ๋ค์ด, ์ฃผ์ ๊ฐ๊ฒฉ ์์ธก์ด๋ ์ฃผํ ๊ฐ๊ฒฉ ์์ธก .. 2024. 7. 11. [AI/ML] ๋จธ์ ๋ฌ๋์ ์ ์์ ๊ธฐ๋ณธ ๊ฐ๋ ๋จธ์ ๋ฌ๋์ด๋ ๋ฌด์์ผ๊น์? ๐ค๋จธ์ ๋ฌ๋์ ์ธ๊ณต์ง๋ฅ์ ํ ๋ถ์ผ๋ก, ์ปดํจํฐ๊ฐ ๋ฐ์ดํฐ๋ฅผ ํ์ตํ๊ณ ํจํด์ ์ฐพ์ ์์ ์ ์ํํ ์ ์๊ฒ ๋ง๋๋ ๊ธฐ์ ์ ๋๋ค. ์ฌ๊ธฐ์ 'ํ์ต'์ด๋ผ ํจ์ ๋ฐ์ดํฐ๋ก๋ถํฐ ๊ท์น์ด๋ ํจํด์ ์ถ์ถํ์ฌ ๋ฌธ์ ๋ฅผ ํด๊ฒฐํ๋ ๊ณผ์ ์ ๋งํด์. ๐ค ๐ ๊ธฐ๋ณธ ๊ฐ๋ ์ ์ดํด๋ณด๋ฉด, ๋จธ์ ๋ฌ๋์ ํฌ๊ฒ ์ง๋ํ์ต, ๋น์ง๋ํ์ต, ๊ฐํํ์ต์ผ๋ก ๋๋ฉ๋๋ค. - ์ง๋ํ์ต: ์ ๋ ฅ ๋ฐ์ดํฐ์ ๊ทธ์ ์์ํ๋ ์ ๋ต(๋ผ๋ฒจ)์ ์ด์ฉํด ๋ชจ๋ธ์ ํ์ต์ํค๋ ๋ฐฉ์์ ๋๋ค. ์๋ฅผ ๋ค์ด, ์ด๋ฉ์ผ์ด ์คํธ์ธ์ง ์๋์ง๋ฅผ ๊ตฌ๋ถํ๋ ๋ถ๋ฅ ๋ฌธ์ ๋ ์๊ธ์จ๋ฅผ ์ธ์ํ๋ ๋ฌธ์ ๋ฑ์ด ์ฌ๊ธฐ์ ์ํด์. - ๋น์ง๋ํ์ต: ์ ๋ต ๋ฐ์ดํฐ ์์ด ๋ฐ์ดํฐ์ ํจํด์ด๋ ๊ตฌ์กฐ๋ฅผ ๋ฐ๊ฒฌํ๋ ค๋ ํ์ต ๋ฐฉ์์ ๋๋ค. ๋ฐ์ดํฐ๋ฅผ ์ค์ค๋ก ๋ถ๋ฅํ๊ฑฐ๋ ๊ตฐ์งํํ๊ฑฐ๋ ์ฐจ์์ ์ถ์ํ๋ ๋ฐฉ๋ฒ ๋ฑ์ด ์์ด์. ์ด๋ฐ ๊ธฐ์ ์ .. 2024. 7. 11. ์ด์ 1 2 3 ๋ค์ 728x90