[프롬프트 엔지니어링] (3) 고급 기법: Few-shot, Chain-of-thought, Self-consistency, Selection-inference, Least-to-most, ReAct, Self-evaluation

이번 포스팅에서는 프롬프트 엔지니어링의 고급 기법들에 대해 알아보려고 해요. 이 기법들은 AI 모델이 복잡한 작업을 더 효과적으로 수행할 수 있도록 도와주는 중요한 도구들이에요. 특히 few-shot examples, chain-of-thought, self-consistency, selection-inference, least-to-most, react, self-evaluation 같은 기법들을 다룰 거예요. 각각의 기법을 이해하고 적절히 활용하면, 더 정확하고 유용한 AI 응답을 얻을 수 있어요. 그럼, 각 기법들을 하나씩 살펴볼까요?

---

Few-shot Examples

Few-shot examples는 모델에게 여러 개의 예시를 제공해서, 모델이 이 예시들을 바탕으로 작업을 수행하게 하는 방법이에요. 이는 모델에게 더 많은 맥락을 제공해서 성능을 향상시키는 데 유용해요.

 

• Zero-shot : 예제를 제공하지 않음
• One-shot : 하나의 예제 제공
• Few-shot : 여러 예제를 제공

 

예시

• 프롬프트: "다음 문장을 영어로 번역해줘. 예시: '안녕하세요' -> 'Hello', '저는 학생이에요' -> 'I am a student', '오늘 날씨가 좋네요' -> 'The weather is nice today', '커피 한 잔 주세요' ->"
• 모델의 응답: "'Please give me a cup of coffee.'"

 

• 프롬프트
  • 정말 멋지네요! -> 부정
  • 이건 나쁘다! -> 긍정
  • 와우 그 영화 정말 멋졌어요! -> 긍정
  • 정말 끔찍한 쇼였어! ->
• 모델의 응답 : 부정

 

Chain-of-Thought (CoT)

Chain-of-thought 기법은 복잡한 문제를 해결할 때 유용한 접근 방식이에요. 이는 모델이 문제를 단계별로 해결할 수 있도록 프롬프트를 구성하는 방법이에요. 단순히 질문을 던지기 보다 단계를 나누어 질문을 하는 방식.

 

예시

• 프롬프트: "아래 문제를 단계별로 해결해봐: 문제: '만약 사과가 5개 있고, 3개를 더 산다면 총 몇 개의 사과가 있나요?', 1단계: '현재 사과의 개수를 세어보자.', 2단계: '새로 산 사과의 개수를 더하자.', 3단계: '총 사과의 개수를 계산하자.'"
• 모델의 응답: "현재 사과는 5개에요. 새로 산 사과는 3개에요. 총 사과의 개수는 5 + 3 = 8개에요."

 

Self-Consistency

Self-consistency는 모델의 응답 일관성을 유지하도록 하는 기법이에요. 이는 동일한 질문에 대해 여러 번 답변을 생성하고, 가장 일관된 답변을 선택하는 방법이에요. 물론 다양한 추론 결과를 제공해야 하므로 토큰수를 많이 사용한다는 단점과 결과 취합을 위한 후처리가 필요하다는 단점이 있어요.

 

예시

• 프롬프트: "다음 질문에 답변해줘: '지구의 둘레는 얼마인가요?'"
• 모델의 응답: 여러 번의 실행 결과 각각 "40,075 km", "40,075 km", "40,075 km"

 

이 경우 모델의 일관된 답변인 "40,075 km"를 선택해 신뢰도를 높일 수 있어요.

 

Selection-Inference

Selection-Inference는 복잡한 문제를 해결하기 위해 여러 추론 단계를 거쳐 최종 답을 도출하는 기법이에요. 이 과정에서는 각 단계에서 가능한 여러 후보 답변 중에서 최적의 답변을 선택하고, 다음 단계의 추론을 이어가는 방식으로 진행돼요. 이를 통해 모델이 문제를 체계적으로 접근하고, 보다 정확한 결과를 얻을 수 있게 돼요.

 

예시

문제: "A씨는 지갑을 잃어버렸어요. 그는 마지막으로 카페에서 지갑을 사용했어요. 지갑은 어디에 있을 가능성이 가장 높을까요?"

Selection-Inference 기법을 적용해 볼게요.

 

단계 1: 정보 수집

• A씨가 지갑을 사용한 마지막 장소는 어디인가요?
• 답변 후보
  • 카페
  • 집
  • 회사
• 선택된 답변: 카페

 

단계 2: 추가 정보 수집

• A씨가 카페에서 무엇을 했는지 알아봅시다.
• 답변 후보
  • 커피를 마셨다
  • 친구를 만났다
  • 신용카드로 결제했다
• 선택된 답변: 신용카드로 결제했다

 

단계 3: 최종 추론

• A씨가 신용카드로 결제한 후 지갑을 어디에 두었을 가능성이 가장 높을까요?
• 답변 후보
  • 테이블 위
  • 계산대
  • 주머니 속
• 선택된 답변: 계산대

최종적으로, Selection-Inference 기법을 통해 A씨의 지갑이 계산대에 있을 가능성이 가장 높다는 결론에 도달했어요.

 

Least-to-Most

Least-to-most 기법은 문제를 작은 부분으로 나누어 단계적으로 해결하는 방법이에요. 이는 모델이 복잡한 문제를 더 쉽게 해결할 수 있도록 돕는 접근 방식이에요. 여러 하위 작업들은 한번에 하나씩 해결하고, 이전에 생성한 답을 다음 문제를 해결하는데 사용.

 

예시

• 프롬프트: "다음 문제를 단계별로 해결해봐: '한 상자에 12개의 사과가 들어있고, 5개의 상자가 있다면 총 몇 개의 사과가 있나요?' 1단계: '한 상자에 몇 개의 사과가 있는지 확인해보자.' 2단계: '상자의 수를 확인해보자.' 3단계: '총 사과의 개수를 계산하자.'"
• 모델의 응답: "한 상자에 12개의 사과가 있어요. 5개의 상자가 있어요. 총 사과의 개수는 12 * 5 = 60개에요."

 

이 기법은 문제를 단계별로 나누어 해결함으로써 모델이 더 정확하게 작업을 수행할 수 있게 해줘요.

 

ReAct (Reason and Act)

 

ReAct는 모델이 특정 문제에 대해 사고하고 행동하는 과정을 통해 문제를 해결하도록 유도하는 기법이에요. 이는 모델이 문제를 해결하는 논리적 단계를 거치도록 도와줘요. 이를 통해 시스템은 행동에 대한 계획을 생성, 유지, 조정하는 동시에 외부 환경(e.g. 위키디피아)과 상호 작용을 통해 추론에 추가 정보를 통합 할 수 있어요. 필요한 정보를 외부 환경에서 검색해와서 문제 해결에 도움을 받는 것이죠.

 

예시

• 프롬프트: "아래 문제를 해결하기 위한 논리적 단계를 생각하고 답변해줘: '만약 한 사람이 하루에 2리터의 물을 마신다면, 일주일 동안 몇 리터의 물을 마실까요?' 1단계: '하루에 마시는 물의 양을 확인해보자.' 2단계: '일주일 동안의 일수를 계산해보자.' 3단계: '총 물의 양을 계산하자.'"
• 모델의 응답: "하루에 2리터의 물을 마셔요. 일주일은 7일이에요. 총 물의 양은 2 * 7 = 14리터에요."

 

이 기법은 모델이 문제를 해결하는 과정에서 논리적 단계를 고려하도록 유도해요.

 

Self-Evaluation

Self-evaluation은 모델이 스스로 자신의 응답을 평가하고 개선할 수 있도록 하는 기법이에요. 이는 모델이 자신이 제공한 답변의 정확성을 검토하고, 필요한 경우 수정하도록 유도해요.

 

예시

• 프롬프트: "다음 질문에 대한 답변을 제공하고, 스스로 평가해봐: '지구의 자전 주기는 얼마인가요?'"
• 모델의 응답: "지구의 자전 주기는 약 24시간이에요. (검토: 정확해요. 하루는 24시간이니까.)"

 

이 기법은 모델이 자신의 응답을 검토하고 개선함으로써 더 정확한 결과를 도출할 수 있게 해줘요.

---

 

이제 프롬프트 엔지니어링의 고급 기법들을 이해했으니, 이를 어떻게 활용할 수 있을지에 대해 생각해볼게요. 중요한 것은 상황에 맞게 각 기법들을 적절히 조합해서 사용하는 거예요. 예를 들어, 복잡한 문제를 해결할 때는 chain-of-thought과 least-to-most 기법을 결합하고, 모델의 응답 일관성을 높이기 위해 self-consistency 기법을 추가할 수 있어요.

 

각 기법들을 적절히 활용하면 AI 모델의 응답을 더욱 정교하게 조절할 수 있겠죠? 프롬프트 엔지니어링의 이점은 다양한 상황에서 모델의 성능을 최적화할 수 있다는 점이에요. 계속해서 프롬프트를 실험하고 조정하면서 자신만의 노하우를 쌓아가세요!