[프롬프트 엔지니어링] (4) 고급 기법 : Expert prompting, Generated knowledge prompting, RAG, Tree-of-Thought, Plan-and-solve prompting, Automatic prompt engineer

이번 포스팅에서는 프롬프트 엔지니어링의 고급 기법들에 대해 알아보려고 해요. 다양한 기술을 통해 AI 모델의 성능을 한층 더 향상시킬 수 있습니다. 특히, Expert Prompting, Generated Knowledge Prompting, RAG, Tree-of-Thought, Plan-and-Solve Prompting, Automatic Prompt Engineering과 같은 기법들을 살펴볼 거예요. 각 기법의 개념과 예시를 통해 어떻게 활용할 수 있는지 알아보겠습니다. 그럼 하나씩 살펴볼까요?

---

1. Expert Prompting

Expert Prompting은 모델에게 특정 분야의 전문적인 지식을 갖춘 것처럼 행동하도록 유도하는 프롬프트 기법입니다. 이 기법은 모델이 특정 전문가의 역할을 맡아, 해당 분야의 문제를 더 깊이 있게 이해하고 답변할 수 있게 합니다. 또한 LLM에게 프롬프트와 관련된 특정 분야 전문가를 찾고 해당 전문가처럼 질문에 응답하도록하여 낯선 도메인의 서비스에도 전문적인 답변을 할 수 있게 해요.

 

예시
프롬프트: "당신은 데이터 과학의 전문가입니다. 다음 질문에 데이터 분석 관점에서 답변해 주세요: '어떤 방법을 사용하여 대량의 데이터를 효과적으로 분석할 수 있을까요?'"

 

2. Generated Knowledge Prompting

Generated Knowledge Prompting은 모델이 사전 지식을 바탕으로 새로운 정보를 생성하도록 하는 기법이에요. 이는 모델이 기존의 정보에 기반하여 새로운 데이터나 통찰을 만들어내는 데 유용하답니다.

 

예시
프롬프트: "현재의 인공지능 트렌드를 바탕으로, 향후 5년 내에 예상되는 주요 기술 발전에 대해 설명해 주세요."

 

3. RAG (Retrieval-Augmented Generation)

RAG Sequence Diagram

 

RAG는 Retrieval-Augmented Generation의 약자로, 모델이 외부 데이터베이스에서 정보를 검색한 후, 이를 바탕으로 텍스트를 생성하는 기법이에요. 이 기법은 모델이 추가적인 정보에 접근하여 더 정확하고 풍부한 답변을 생성할 수 있도록 합니다.

사실 RAG는 답변의 정확도를 높이기 위한 가장 좋은 방법으로, 이제는 프롬프트 엔지니어링의 필수적인 요소가 되었어요. 이에 따라 vector search 또한 매우 중요한 요소로 자리 잡았죠.

 

예시
프롬프트: "다음 질문에 대한 답변을 생성하기 전에, 관련된 최신 논문에서 정보를 검색해 주세요: '최근의 암 치료 기술은 무엇인가요?'"

 

4. Tree-of-Thought

Tree-of-Thought는 문제 해결을 위해 여러 가지 사고 경로를 분기하여, 각 경로를 탐색하고 최적의 해결책을 도출하는 기법입니다. 이 방법은 복잡한 문제를 해결하는 데 도움을 줍니다.

 

예시
프롬프트: "문제: '다음 프로젝트를 어떻게 관리할까요?' 다음 단계로는 가능한 관리 전략을 나열하고, 각 전략의 장단점을 분석해 보세요."

모델은 다양한 관리 전략을 나열하고, 각 전략의 장단점을 분석하는 방식으로 문제를 해결합니다.

 

5. Plan-and-Solve Prompting

Plan-and-Solve Prompting은 문제를 해결하기 위해 계획을 세우고, 그 계획에 따라 문제를 단계별로 해결하는 기법입니다. 이 방법은 문제 해결 과정을 구조화하여 보다 체계적으로 접근할 수 있도록 합니다. Least-to-Most가 풀어야 할 문제를 단계적으로 생성해 가며 문제를 푸는 방법이라면, 이 방법은 풀어야할 모든 문제를 생성해두고 문제를 푸는 방법이에요.

 

예시
프롬프트: "다음 문제를 해결하기 위한 계획을 세우고, 단계별로 실행해 보세요: '고객 불만을 처리하는 효과적인 시스템을 설계하세요.'"

 

6. Automatic Prompt Engineering

Automatic Prompt Engineering은 LLM을 사용하여 자동으로 프롬프트를 생성하거나 최적화하는 기법입니다. 프롬프트에 <INSERT> 라는 빈 칸을 만들고, 생성 결과를 함께 제공하여 모델이 <INSERT> 부분을 채우도록 반복하는데요. 이 때 <INSERT> 부분을 채울 여러 답변을 생성하고, 생성한 답변으로 완성한 프롬프트로 최종 결과를 생성해요. 마지막으로 최종 결과를 평가하여 가장 높은 점수를 얻은 프롬프트를 사용하게 돼요.

 

---

 

이제 소개드린 프롬프트 엔지니어링 기법들이 조금... 많아진 것 같은데요... 저도 함께 머리가 복잡해져 가네요. 하지만 너무 고통받지 맙시다. 프롬프트 엔지니어링 자체를 연구하는 사람이 아니라면 우리에겐 그저 LLM을 조금이라도 더 잘 사용하기 위한 공부를 하는 것이 중요하잖아요? 결국 프롬프트 엔지니어링은 원하는 답을 더 명확하고 일관성 있게 얻기 위한 과정일 뿐이라는 것을 염두해 두세요 !