🏛 Research/NLP & LLM

Transformer 모델은 인코더와 디코더라는 두 가지 핵심 부분으로 나뉘어요.오늘은 이 두 부분이 각각 어떤 역할을 하고, 어떻게 다르게 동작하는지 친근하게 설명해 볼게요!📌  인코더 (Encoder)역할: 인코더는 입력된 문장의 정보를 전체적으로 이해하려고 해요. 예를 들어, "나는 밥을 먹었다"라는 문장이 있으면, 인코더는 이 문장의 모든 단어들이 서로 어떻게 연결되고, 문장의 전체적인 의미와 맥락이 무엇인지를 파악해요.특징: 인코더는 먼저 각 단어를 벡터로 변환한 후, 각 단어들이 서로 어떻게 연결되는지 파악해요. 이렇게 여러 번의 연산을 거치면, 문장의 의미를 더 깊고 정확하게 이해할 수 있어요.구조: 인코더는 Self-Attention과 피드포워드 네트워크를 이용해요. Self-Attent..

LLM하면 transformer를 빼먹을 수 없고, 그 핵심 중 하나는 바로 어텐션 메커니즘인데요, 이 메커니즘을 이해하면 트랜스포머가 어떻게 단어들 간의 관계를 학습하고 문맥을 파악하는지 알 수 있어요. 특히, 트랜스포머에서 사용되는 Query (Q), Key (K), Value (V)는 어텐션이 어떻게 작동하는지 이해하는 데 아주 중요한 역할을 해요. 오늘은 이 세 가지 요소가 어떻게 서로 작용하는지, 그리고 트랜스포머의 인코더와 디코더에서 각각 어떻게 사용되는지에 대해 설명해 볼거예요. 📌 Q, K, V 개념 살펴보기 Transformer Attention에서의 Query (Q), Key (K), Value (V)는 단어 간의 연관성을 파악하고, 중요한 정보를 뽑아내는 역할을 해요. 각 단어는 문..

오늘은 프롬프트 엔지니어링 보안에 대해 이야기해보려고 해요. LLM을 사용할 때 발생할 수 있는 다양한 취약점들과, 이를 보완하기 위한 방법들을 다룰 것입니다. LLM의 보안을 강화하여 안전하고 신뢰할 수 있는 서비스를 제공하는 방법을 함께 살펴봅시다.LLM 취약점데이터 중독(Data Poisoning)개념: 악의적인 사용자가 모델의 학습 데이터에 유해하거나 왜곡된 데이터를 삽입하여 모델의 성능을 저하시키는 공격.예시: 학습 데이터에 특정 편향된 정보를 삽입하여 모델이 잘못된 정보를 생성하게 함.보완 방법: 데이터 검증 및 정제 프로세스를 강화하고, 신뢰할 수 있는 데이터 소스를 사용하여 모델을 학습시켜야 합니다. 프롬프트 주입(Prompt Injection)개념: 공격자가 모델의 응답을 의도적으로 왜곡..

이번 포스팅에서는 프롬프트 엔지니어링의 고급 기법들에 대해 알아보려고 해요. 다양한 기술을 통해 AI 모델의 성능을 한층 더 향상시킬 수 있습니다. 특히, Expert Prompting, Generated Knowledge Prompting, RAG, Tree-of-Thought, Plan-and-Solve Prompting, Automatic Prompt Engineering과 같은 기법들을 살펴볼 거예요. 각 기법의 개념과 예시를 통해 어떻게 활용할 수 있는지 알아보겠습니다. 그럼 하나씩 살펴볼까요?1. Expert PromptingExpert Prompting은 모델에게 특정 분야의 전문적인 지식을 갖춘 것처럼 행동하도록 유도하는 프롬프트 기법입니다. 이 기법은 모델이 특정 전문가의 역할을 맡아, ..

이번 포스팅에서는 프롬프트 엔지니어링의 고급 기법들에 대해 알아보려고 해요. 이 기법들은 AI 모델이 복잡한 작업을 더 효과적으로 수행할 수 있도록 도와주는 중요한 도구들이에요. 특히 few-shot examples, chain-of-thought, self-consistency, selection-inference, least-to-most, react, self-evaluation 같은 기법들을 다룰 거예요. 각각의 기법을 이해하고 적절히 활용하면, 더 정확하고 유용한 AI 응답을 얻을 수 있어요. 그럼, 각 기법들을 하나씩 살펴볼까요?Few-shot ExamplesFew-shot examples는 모델에게 여러 개의 예시를 제공해서, 모델이 이 예시들을 바탕으로 작업을 수행하게 하는 방법이에요. 이..

오늘은 프롬프트 엔지니어링에서 중요한 프롬프트 설계 핵신 개념들에 대해 알아보려고 해요. 프롬프트를 잘 설계하는 것은 AI 모델이 원하는 방식으로 응답하도록 유도하는 데 핵심적인 역할을 해요. 프롬프트 구성 요소를 이해하면, 더 효과적이고 정확한 프롬프트를 만들 수 있어서 모델의 성능을 최적화하는 데 큰 도움이 돼요. 그럼, 각각의 구성 요소에 대해 자세히 살펴볼까요?프롬프트 설계 핵심 개념프롬프트를 잘 설계하기 위해서는 몇 가지 주요 개념을 이해하고 적절히 사용하는 것이 중요해요. 기본적이고 핵심적인 개념에는 다음과 같은 것들이 있어요Role (역할)Policy (정책)Audience (대상)Knowledge (지식)Format (형식)Task (작업)Example (예시) 1. Role (역할)Rol..