[LLM] OpenAI Playground 활용 가이드 | Chat, Assistant, TTS, Completions | 파라미터 튜닝

안녕하세요, 여러분! 오늘은 OpenAI Playground(플레이그라운드)에 대해 알아보려고 해요.
플레이그라운드는 OpenAI의 언어 모델을 웹 브라우저에서 사용해볼 수 있는 인터페이스인데요. ChatGPT와 달리 다양한 모드(Chat, Assistant, Completions, TTS(Text-to-Speech))와 하이퍼파라미터(Temperature, Max Tokens, Top P) 조정 기능을 제공해요! 그래서 조금 더 전문적으로 언어 모델을 사용해 볼 수 있는 것이죠!
 
비개발자 기획자분들도 플레이그라운드를 활용하면 LLM으로 무엇을 할 수 있는지 테스트해 볼 수 있어요 🤗
 
물론 사용이 유료이긴 하지만, 언어 모델을 처음 공부하신다면 10달러 정도만 결제하시고 사용해 보시면 큰 도움이 되실거예요!

---

📌 OpenAI Playground 시작하기

1. Playground 접속

*openai playgroud : https://platform.openai.com/playground

 
OpenAI playground 페이지에 들어가서 로그인을 하면 위와 같은 화면을 볼 수 있어요. ChatGPT 인터페이스 보다는 뭔가 조금씩 더 있죠? ㅎㅎ 좌측에는 Chat, Assistant, TTS 등의 모드를 선택할 수 있고, 우측에서는 Temperature, Maximum Tokens와 같은 하이퍼파라미터를 조정할 수 있어요.
 

2. 계정 생성 및 결제

 
Playground를 사용해 보시려면 결제를 해야 하는데요 😭
우측 상단의 설정(setting) 아이콘 ➡️ 좌측 Billing 으로 들어가면 결제 수단을 등록해서 결제할 수 있어요. 저는 우선 10달러를 결제해 봤어요 ㅎㅎ.
 
그리고 중요한 점은 결제 시 꼭 자동 추가 결제를 OFF를 해주셔야 결제한 금액 이상으로 사용했을 때 과금되는 걸 방지할 수 있어요!
 

3. 모드 및 모델 설정

 
좌측 상단을 보시면 Chat, Assistants, TTS, Completions 총 4가지의 모드를 선택할 수 있어요. 각 모드별로 다른 기능을 제공해요. 그리고 바로 옆에서 사용할 모델도 선택할 수 있답니다. 
 
모드 별 사용법은 아래에서 조금 더 상세하게 설명해 드릴게요 🤗
 

3. 하이퍼파라미터 조정

우측 패널에서는 Temperature, Maximum Tokens, ToP 와 같은 하이퍼파라미터를 조정할 수 있어요. 적절한 답변을 얻기 위한 여러가지 시도를 해볼 수 있겠죠? 
 

4. 프롬프트 입력

여기 까지 보셨으면 이제 대화를 시작해 보시면 되는데요.
"Enter user message..." 라고 되어있는 부분에 질문이나 요청을 입력해 보세요.

---

📌 Playground 모드 설명

1. Chat 모드

Chat 모드 사용 예시

 
Chat 모드는 가장 기본적인 모드로 사용자와 모델이 대화를 주고받을 수 있어요. 
ChatGPT와 다른 점은 SYSTEM 입력을 사용할 수 있다는 것인데요. 이는 모델에게 대화의 전반적인 지침이나 컨텍스트를 제공하는 역할을 해요. 이를 통해 모델이 어떤 역할을 수행해야 하는지, 어떤 스타일로 응답해야 하는지를 지정할 수 있답니다.

• 사용 방법: Chat 모드에서 대화창 상단에 SYSTEM이라고 표시된 입력란에 원하는 지침을 입력
• 예시

당신을 개발자를 대상으로 하는 인공지능을 교육하는 강사입니다.

 

위와 같은 SYSTEM을 입력해두면 인공지능 교육에 특화된 답변을 받을 수 있겠죠?
 

2. Assistant 모드

Assistant 모드는 특정 역할이나 성격을 가진 어시스턴트를 시뮬레이션할 수 있어요. 예를 들어, 친절한 선생님이나 전문 상담사로 설정할 수 있답니다.
 
Chat 모드에서도 SYSTEM 입력으로 지침을 사용할 수 있는데 무엇이 다르냐고요?
 
Assistant 모드는 Chat 모드보다 조금 더 많은 설정을 제공해요. Name, Instructions, Model 등의 설정을 통해 어시스턴트의 페르소나를 더욱 자세하게 지정할 수 있으며, File Search 기능으로 어시스턴트의 지식 기반을 확장할 수도 있어요.
 

- Name

• 어시스턴트의 이름을 지정할 수 있어요.
• 대화 중에 어시스턴트가 자신의 이름을 인식하고, 사용자에게 더욱 친근하게 다가갈 수 있어요.

- Instructions

• 어시스턴트에게 역할, 성격, 행동 지침 등을 상세히 기술할 수 있어요.
• 어시스턴트가 응답할 때 이 지침을 따르게 되어, 원하는 페르소나를 정확하게 구현할 수 있어요.

- Model

• 사용할 언어 모델을 선택할 수 있어요.
• 모델의 종류에 따라 응답의 스타일이나 능력이 달라지므로, 프로젝트에 맞는 모델을 선택할 수 있어요.

- File Search

• 어시스턴트가 특정 파일이나 문서를 참조하도록 설정할 수 있어요.
• 어시스턴트가 지정한 자료를 기반으로 더욱 정확하고 전문적인 답변을 제공할 수 있어요.

 

Assistant 모드 사용 예시

 

• Name : 'AI 선생님'
• Instruction : '넌 개발자를 대상으로 한 인공지능 교육자야. 이론과 실무 관련 질문에 친절하게 단계별로 설명하면돼. 개발, 인공지능과 관련되지 않은 질문에는 답변할 수 없어."로 지정한
• 위 지침을 적용한 후 'Multi modal 모델의 최근 연구에 대해 알려줘'라는 질문에 잘 대답해주고 있는 것을 확인할 수 있어요.

 

• Instruction에서 인공지능, 개발과 관련 없는 질문에는 답변할 수 없다는 지침을 주면
• 위와 같이 관련 없는 질문은 답변할 수 없다는 응답을 하는 것을 볼 수 있죠!

 

3. TTS (Text-to-Speech)

 
TTS 모드에서는 텍스트를 음성으로 들어볼 수 있어요. 구체적으론 아래와 같은 기능을 제공하며, 음성 인터페이스나 접근성 테스트에 활용할 수 있어요. 음... 하지만 전 아직 크게 활용해 본적은 없네요 ㅎㅎ
 
 

• 텍스트를 음성으로 변환: 사용자가 입력한 텍스트를 음성으로 변환하여 들려줍니다. 이 기능은 OpenAI의 고급 음성 합성 기술을 사용해 자연스럽고 명확한 발음으로 텍스트를 읽어줍니다.
• 다양한 음성 옵션: OpenAI Playground의 TTS 모드는 다양한 목소리 옵션을 제공할 수 있습니다. 성별, 나이, 억양 등을 선택하여 사용자 취향에 맞는 음성을 설정할 수 있습니다.
• 언어 지원: 영어뿐만 아니라 여러 언어를 지원하여 글로벌 사용자들이 다양한 언어로 음성 출력을 즐길 수 있습니다.
• 속도와 톤 조절: 음성 출력의 속도나 톤을 사용자 정의할 수 있어, 특정 목적이나 상황에 맞게 조정이 가능합니다.

 

 

4. Completions 모드

Completions 모드 사용 예시

 
Completions 모드는 입력한 텍스트를 기반으로 모델이 이어서 문장을 완성하는 기능을 제공해요.
 

• 사용 방법
  1. 프롬프트 입력: 모델이 이어서 완성하길 원하는 텍스트를 입력
  2. 설정 조정: 우측 패널에서 하이퍼파라미터를 설정
  3. 응답 생성: "Submit" 버튼을 눌러 모델이 텍스트를 이어서 생성하도록 진행
• 활용 예시
  • 글쓰기 보조: 소설이나 에세이의 다음 문장을 생성
  • 아이디어 확장: 주제에 대한 추가 내용을 브레인스토밍
  • 코드 완성: 코드 스니펫을 입력하고 이어서 코드를 완성

---

📌 모델 하이퍼파라미터 조정

1. Temperature

• Temperature는 모델의 창의성을 조절해요.
• 값이 높을수록 더 다양한 결과를, 낮을수록 예측 가능한 결과를 얻을 수 있어요.
• 때문에 정확하고 일관성있는 답변을 얻기 위해선 값을 낮게, 창의성있는 답변을 원할 때는 값을 높게 지정하면 돼요

2. Maximum Tokens

• Maximum Tokens는 모델이 생성할 응답의 최대 길이를 지정해요.
• 응답 길이를 관리하고 싶을 때 유용하겠죠?

3. Top P

• Top P는 모델이 다음 단어를 선택할 때 고려할 토큰의 누적 확률 분포를 의미해요.
• 값이 낮을수록 선택 범위가 좁아져 더 일관된 결과를 얻을 수 있어요.
• Top P와 temperature는 둘 중 하나만 조절해서 사용하는 것을 추천해요!

4. Frequency Penalty

• Frequency Penalty는 모델이 동일한 단어나 구문을 반복하는 것을 억제해요.
• 값이 높을수록 반복이 줄어들어요.

5. Presence Penalty

• Presence Penalty는 이미 언급된 주제나 단어를 다시 언급하는 것을 방지해요.
• 창의적인 응답을 원할 때 사용해 보세요.

---

LLM 공부를 시작하고 싶거나, LLM 사용한 서비스를 기획하고 싶다면 OpenAI Playground를 사용해 보는 건 좋은 선택이 될 수 있으니 적극 활용해 보세요!😃