본문 바로가기

🌟 AI & ML Tech18

[LLM] RAG 설명 및 실습 | OpenAI 모델과 ChromaDB를 이용한 RAG 실습 안녕하세요! 뭅즤입니다. 이번 포스팅에서는 OpenAI의 Chat API와 ChromaDB를 활용한 RAG(Retrieval-Augmented Generation)에 대해 설명드릴게요. 실습 코드도 있답니다 😊 RAG는 외부 데이터와 언어 모델을 결합해 좀 더 정확하고 맥락에 맞는 답변을 생성하는 데 도움이 돼요 🤗📌 RAG (Retrieval-Augmented Generation)RAG는 Retrieval-Augmented Generation의 약자로, 정보 검색과 생성형 AI를 결합한 방법이에요. GPT와 같은 언어 모델은 자체적으로 다양한 지식을 가지고 있지만, 최신 정보나 특정 도메인에 대한 상세한 내용을 알지 못할 때도 있어요. 이런 경우를 해결하기 위해 RAG를 사용해요.Retrieval.. 2024. 9. 16.

[LLM] OpenAI GPT API 사용 가이드 | ChatGPT 코드로 사용해보기 안녕하세요 ! 요즘 LLM 공부를 하면서 계속 기록을 남기고 있는 뭅즤입니다.오늘은 OpenAI의 GPT API를 사용하는 방법에 대해 알려드릴게요 🔥 OpenAI의 GPT API를 사용하면 OpenAI LLM의 다양한 기능을 사용해 볼 수 있어요. 복잡한 코딩이나 AI 모델 학습 없이도 챗봇, 글쓰기 도우미, 데이터 분석, 그리고 번역 등 다양한 기능을 쉽게 구현할 수 있답니다. 이러한 API 사용법을 알면 다양한 프로젝트에 직접 LLM을 활용할 수 있겠죠? 지금부터 OpenAI GPT API를 사용하기 위해 필요한 것들을 차근차근 알아볼게요.📌 API 사용 준비 OpenAI 유료 결제를 하셨다면, OpenAI Platform에서 로그인 후, API 키를 발급받으셔야 해요!이 API 키는 OpenA.. 2024. 9. 15.

[LLM] OpenAI Playground 활용 가이드 | Chat, Assistant, TTS, Completions | 파라미터 튜닝 안녕하세요, 여러분! 오늘은 OpenAI Playground(플레이그라운드)에 대해 알아보려고 해요. 플레이그라운드는 OpenAI의 언어 모델을 웹 브라우저에서 사용해볼 수 있는 인터페이스인데요. ChatGPT와 달리 다양한 모드(Chat, Assistant, Completions, TTS(Text-to-Speech))와 하이퍼파라미터(Temperature, Max Tokens, Top P) 조정 기능을 제공해요! 그래서 조금 더 전문적으로 언어 모델을 사용해 볼 수 있는 것이죠! 비개발자 기획자분들도 플레이그라운드를 활용하면 LLM으로 무엇을 할 수 있는지 테스트해 볼 수 있어요 🤗 물론 사용이 유료이긴 하지만, 언어 모델을 처음 공부하신다면 10달러 정도만 결제하시고 사용해 보시면 큰 도움이 되실거.. 2024. 9. 13.

[LLM] Ollama: 로컬에서 LLM을 실행하는 가장 쉬운 방법 | ollama 사용 방법 요즘은 허깅페이스, 랭체인 등의 프레임워크 덕에 LLM을 사용하는 방법이 정말 다양하고 편리해졌어요. 하지만 여전히 클라우드 기반의 복잡한 설정이나 높은 비용 때문에 고민하는 분들도 많죠. 이럴 때 도움이 되는 플랫폼이 바로 Ollama입니다. Ollama는 사용자가 클라우드 없이도 로컬에서 간편하게 대형 언어 모델을 실행할 수 있도록 도와줘요. 그리고 데이터 프라이버시를 지키면서도 뛰어난 성능을 제공하니, AI 기술을 보다 쉽게 접근할 수 있도록 해준답니다. 📌 주요 기능로컬에서 모델 실행 : Ollama는 LLM을 로컬 컴퓨터에서 직접 실행할 수 있게 해줘요. 덕분에 클라우드 서비스를 사용하지 않아도 되고, 데이터가 외부로 나가지 않으니 프라이버시를 지킬 수 있어요.사전 학습된 모델 제공 : Oll.. 2024. 9. 11.

[프롬프트 엔지니어링] (5) 프롬프트 보안 : LLM 취약점과 보완 방법 오늘은 프롬프트 엔지니어링 보안에 대해 이야기해보려고 해요. LLM을 사용할 때 발생할 수 있는 다양한 취약점들과, 이를 보완하기 위한 방법들을 다룰 것입니다. LLM의 보안을 강화하여 안전하고 신뢰할 수 있는 서비스를 제공하는 방법을 함께 살펴봅시다.LLM 취약점데이터 중독(Data Poisoning)개념: 악의적인 사용자가 모델의 학습 데이터에 유해하거나 왜곡된 데이터를 삽입하여 모델의 성능을 저하시키는 공격.예시: 학습 데이터에 특정 편향된 정보를 삽입하여 모델이 잘못된 정보를 생성하게 함.보완 방법: 데이터 검증 및 정제 프로세스를 강화하고, 신뢰할 수 있는 데이터 소스를 사용하여 모델을 학습시켜야 합니다. 프롬프트 주입(Prompt Injection)개념: 공격자가 모델의 응답을 의도적으로 왜곡.. 2024. 7. 27.

[프롬프트 엔지니어링] (4) 고급 기법 : Expert prompting, Generated knowledge prompting, RAG, Tree-of-Thought, Plan-and-solve prompting, Automatic prompt engineer 이번 포스팅에서는 프롬프트 엔지니어링의 고급 기법들에 대해 알아보려고 해요. 다양한 기술을 통해 AI 모델의 성능을 한층 더 향상시킬 수 있습니다. 특히, Expert Prompting, Generated Knowledge Prompting, RAG, Tree-of-Thought, Plan-and-Solve Prompting, Automatic Prompt Engineering과 같은 기법들을 살펴볼 거예요. 각 기법의 개념과 예시를 통해 어떻게 활용할 수 있는지 알아보겠습니다. 그럼 하나씩 살펴볼까요?1. Expert PromptingExpert Prompting은 모델에게 특정 분야의 전문적인 지식을 갖춘 것처럼 행동하도록 유도하는 프롬프트 기법입니다. 이 기법은 모델이 특정 전문가의 역할을 맡아, .. 2024. 7. 27.

이전 1 2 3 다음

티스토리툴바