๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ
728x90

๐ŸŒŸ AI & ML Tech/LLM4

[LLM] RAG ์„ค๋ช… ๋ฐ ์‹ค์Šต | OpenAI ๋ชจ๋ธ๊ณผ ChromaDB๋ฅผ ์ด์šฉํ•œ RAG ์‹ค์Šต ์•ˆ๋…•ํ•˜์„ธ์š”! ๋ญ…์ฆค์ž…๋‹ˆ๋‹ค. ์ด๋ฒˆ ํฌ์ŠคํŒ…์—์„œ๋Š” OpenAI์˜ Chat API์™€ ChromaDB๋ฅผ ํ™œ์šฉํ•œ RAG(Retrieval-Augmented Generation)์— ๋Œ€ํ•ด ์„ค๋ช…๋“œ๋ฆด๊ฒŒ์š”. ์‹ค์Šต ์ฝ”๋“œ๋„ ์žˆ๋‹ต๋‹ˆ๋‹ค ๐Ÿ˜Š RAG๋Š” ์™ธ๋ถ€ ๋ฐ์ดํ„ฐ์™€ ์–ธ์–ด ๋ชจ๋ธ์„ ๊ฒฐํ•ฉํ•ด ์ข€ ๋” ์ •ํ™•ํ•˜๊ณ  ๋งฅ๋ฝ์— ๋งž๋Š” ๋‹ต๋ณ€์„ ์ƒ์„ฑํ•˜๋Š” ๋ฐ ๋„์›€์ด ๋ผ์š” ๐Ÿค—๐Ÿ“Œ RAG (Retrieval-Augmented Generation)RAG๋Š” Retrieval-Augmented Generation์˜ ์•ฝ์ž๋กœ, ์ •๋ณด ๊ฒ€์ƒ‰๊ณผ ์ƒ์„ฑํ˜• AI๋ฅผ ๊ฒฐํ•ฉํ•œ ๋ฐฉ๋ฒ•์ด์—์š”. GPT์™€ ๊ฐ™์€ ์–ธ์–ด ๋ชจ๋ธ์€ ์ž์ฒด์ ์œผ๋กœ ๋‹ค์–‘ํ•œ ์ง€์‹์„ ๊ฐ€์ง€๊ณ  ์žˆ์ง€๋งŒ, ์ตœ์‹  ์ •๋ณด๋‚˜ ํŠน์ • ๋„๋ฉ”์ธ์— ๋Œ€ํ•œ ์ƒ์„ธํ•œ ๋‚ด์šฉ์„ ์•Œ์ง€ ๋ชปํ•  ๋•Œ๋„ ์žˆ์–ด์š”. ์ด๋Ÿฐ ๊ฒฝ์šฐ๋ฅผ ํ•ด๊ฒฐํ•˜๊ธฐ ์œ„ํ•ด RAG๋ฅผ ์‚ฌ์šฉํ•ด์š”.Retrieval.. 2024. 9. 16.
[LLM] OpenAI GPT API ์‚ฌ์šฉ ๊ฐ€์ด๋“œ | ChatGPT ์ฝ”๋“œ๋กœ ์‚ฌ์šฉํ•ด๋ณด๊ธฐ ์•ˆ๋…•ํ•˜์„ธ์š” ! ์š”์ฆ˜ LLM ๊ณต๋ถ€๋ฅผ ํ•˜๋ฉด์„œ ๊ณ„์† ๊ธฐ๋ก์„ ๋‚จ๊ธฐ๊ณ  ์žˆ๋Š” ๋ญ…์ฆค์ž…๋‹ˆ๋‹ค.์˜ค๋Š˜์€ OpenAI์˜ GPT API๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์— ๋Œ€ํ•ด ์•Œ๋ ค๋“œ๋ฆด๊ฒŒ์š” ๐Ÿ”ฅ OpenAI์˜ GPT API๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด OpenAI LLM์˜ ๋‹ค์–‘ํ•œ ๊ธฐ๋Šฅ์„ ์‚ฌ์šฉํ•ด ๋ณผ ์ˆ˜ ์žˆ์–ด์š”. ๋ณต์žกํ•œ ์ฝ”๋”ฉ์ด๋‚˜ AI ๋ชจ๋ธ ํ•™์Šต ์—†์ด๋„ ์ฑ—๋ด‡, ๊ธ€์“ฐ๊ธฐ ๋„์šฐ๋ฏธ, ๋ฐ์ดํ„ฐ ๋ถ„์„, ๊ทธ๋ฆฌ๊ณ  ๋ฒˆ์—ญ ๋“ฑ ๋‹ค์–‘ํ•œ ๊ธฐ๋Šฅ์„ ์‰ฝ๊ฒŒ ๊ตฌํ˜„ํ•  ์ˆ˜ ์žˆ๋‹ต๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ API ์‚ฌ์šฉ๋ฒ•์„ ์•Œ๋ฉด ๋‹ค์–‘ํ•œ ํ”„๋กœ์ ํŠธ์— ์ง์ ‘ LLM์„ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๊ฒ ์ฃ ? ์ง€๊ธˆ๋ถ€ํ„ฐ OpenAI GPT API๋ฅผ ์‚ฌ์šฉํ•˜๊ธฐ ์œ„ํ•ด ํ•„์š”ํ•œ ๊ฒƒ๋“ค์„ ์ฐจ๊ทผ์ฐจ๊ทผ ์•Œ์•„๋ณผ๊ฒŒ์š”.๐Ÿ“Œ API ์‚ฌ์šฉ ์ค€๋น„ OpenAI ์œ ๋ฃŒ ๊ฒฐ์ œ๋ฅผ ํ•˜์…จ๋‹ค๋ฉด, OpenAI Platform์—์„œ ๋กœ๊ทธ์ธ ํ›„, API ํ‚ค๋ฅผ ๋ฐœ๊ธ‰๋ฐ›์œผ์…”์•ผ ํ•ด์š”!์ด API ํ‚ค๋Š” OpenA.. 2024. 9. 15.
[LLM] OpenAI Playground ํ™œ์šฉ ๊ฐ€์ด๋“œ | Chat, Assistant, TTS, Completions | ํŒŒ๋ผ๋ฏธํ„ฐ ํŠœ๋‹ ์•ˆ๋…•ํ•˜์„ธ์š”, ์—ฌ๋Ÿฌ๋ถ„! ์˜ค๋Š˜์€ OpenAI Playground(ํ”Œ๋ ˆ์ด๊ทธ๋ผ์šด๋“œ)์— ๋Œ€ํ•ด ์•Œ์•„๋ณด๋ ค๊ณ  ํ•ด์š”. ํ”Œ๋ ˆ์ด๊ทธ๋ผ์šด๋“œ๋Š” OpenAI์˜ ์–ธ์–ด ๋ชจ๋ธ์„ ์›น ๋ธŒ๋ผ์šฐ์ €์—์„œ ์‚ฌ์šฉํ•ด๋ณผ ์ˆ˜ ์žˆ๋Š” ์ธํ„ฐํŽ˜์ด์Šค์ธ๋ฐ์š”. ChatGPT์™€ ๋‹ฌ๋ฆฌ ๋‹ค์–‘ํ•œ ๋ชจ๋“œ(Chat, Assistant, Completions, TTS(Text-to-Speech))์™€ ํ•˜์ดํผํŒŒ๋ผ๋ฏธํ„ฐ(Temperature, Max Tokens, Top P) ์กฐ์ • ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•ด์š”! ๊ทธ๋ž˜์„œ ์กฐ๊ธˆ ๋” ์ „๋ฌธ์ ์œผ๋กœ ์–ธ์–ด ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•ด ๋ณผ ์ˆ˜ ์žˆ๋Š” ๊ฒƒ์ด์ฃ ! ๋น„๊ฐœ๋ฐœ์ž ๊ธฐํš์ž๋ถ„๋“ค๋„ ํ”Œ๋ ˆ์ด๊ทธ๋ผ์šด๋“œ๋ฅผ ํ™œ์šฉํ•˜๋ฉด LLM์œผ๋กœ ๋ฌด์—‡์„ ํ•  ์ˆ˜ ์žˆ๋Š”์ง€ ํ…Œ์ŠคํŠธํ•ด ๋ณผ ์ˆ˜ ์žˆ์–ด์š” ๐Ÿค— ๋ฌผ๋ก  ์‚ฌ์šฉ์ด ์œ ๋ฃŒ์ด๊ธด ํ•˜์ง€๋งŒ, ์–ธ์–ด ๋ชจ๋ธ์„ ์ฒ˜์Œ ๊ณต๋ถ€ํ•˜์‹ ๋‹ค๋ฉด 10๋‹ฌ๋Ÿฌ ์ •๋„๋งŒ ๊ฒฐ์ œํ•˜์‹œ๊ณ  ์‚ฌ์šฉํ•ด ๋ณด์‹œ๋ฉด ํฐ ๋„์›€์ด ๋˜์‹ค๊ฑฐ.. 2024. 9. 13.
[LLM] Ollama: ๋กœ์ปฌ์—์„œ LLM์„ ์‹คํ–‰ํ•˜๋Š” ๊ฐ€์žฅ ์‰ฌ์šด ๋ฐฉ๋ฒ• | ollama ์‚ฌ์šฉ ๋ฐฉ๋ฒ• ์š”์ฆ˜์€ ํ—ˆ๊น…ํŽ˜์ด์Šค, ๋žญ์ฒด์ธ ๋“ฑ์˜ ํ”„๋ ˆ์ž„์›Œํฌ ๋•์— LLM์„ ์‚ฌ์šฉํ•˜๋Š” ๋ฐฉ๋ฒ•์ด ์ •๋ง ๋‹ค์–‘ํ•˜๊ณ  ํŽธ๋ฆฌํ•ด์กŒ์–ด์š”. ํ•˜์ง€๋งŒ ์—ฌ์ „ํžˆ ํด๋ผ์šฐ๋“œ ๊ธฐ๋ฐ˜์˜ ๋ณต์žกํ•œ ์„ค์ •์ด๋‚˜ ๋†’์€ ๋น„์šฉ ๋•Œ๋ฌธ์— ๊ณ ๋ฏผํ•˜๋Š” ๋ถ„๋“ค๋„ ๋งŽ์ฃ . ์ด๋Ÿด ๋•Œ ๋„์›€์ด ๋˜๋Š” ํ”Œ๋žซํผ์ด ๋ฐ”๋กœ Ollama์ž…๋‹ˆ๋‹ค. Ollama๋Š” ์‚ฌ์šฉ์ž๊ฐ€ ํด๋ผ์šฐ๋“œ ์—†์ด๋„ ๋กœ์ปฌ์—์„œ ๊ฐ„ํŽธํ•˜๊ฒŒ ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ์„ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ๋„๋ก ๋„์™€์ค˜์š”. ๊ทธ๋ฆฌ๊ณ  ๋ฐ์ดํ„ฐ ํ”„๋ผ์ด๋ฒ„์‹œ๋ฅผ ์ง€ํ‚ค๋ฉด์„œ๋„ ๋›ฐ์–ด๋‚œ ์„ฑ๋Šฅ์„ ์ œ๊ณตํ•˜๋‹ˆ, AI ๊ธฐ์ˆ ์„ ๋ณด๋‹ค ์‰ฝ๊ฒŒ ์ ‘๊ทผํ•  ์ˆ˜ ์žˆ๋„๋ก ํ•ด์ค€๋‹ต๋‹ˆ๋‹ค. ๐Ÿ“Œ ์ฃผ์š” ๊ธฐ๋Šฅ๋กœ์ปฌ์—์„œ ๋ชจ๋ธ ์‹คํ–‰ : Ollama๋Š” LLM์„ ๋กœ์ปฌ ์ปดํ“จํ„ฐ์—์„œ ์ง์ ‘ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•ด์ค˜์š”. ๋•๋ถ„์— ํด๋ผ์šฐ๋“œ ์„œ๋น„์Šค๋ฅผ ์‚ฌ์šฉํ•˜์ง€ ์•Š์•„๋„ ๋˜๊ณ , ๋ฐ์ดํ„ฐ๊ฐ€ ์™ธ๋ถ€๋กœ ๋‚˜๊ฐ€์ง€ ์•Š์œผ๋‹ˆ ํ”„๋ผ์ด๋ฒ„์‹œ๋ฅผ ์ง€ํ‚ฌ ์ˆ˜ ์žˆ์–ด์š”.์‚ฌ์ „ ํ•™์Šต๋œ ๋ชจ๋ธ ์ œ๊ณต : Oll.. 2024. 9. 11.
728x90