[백엔드][Django][장고 채널스] Section1. openAI API 살펴보기

• 프롬프트: 사용자가 API에게 전달하는 입력으로서, 사용자의 질문이나 지시

• 토큰: 자연어 처리 모델의 입력 및 출력을 구성하는 단위

  글자 수가 아닌 토큰 수로 Open API 사용량을 추적하고 과금

• 역할: Open AI Chat Completions API에서 사용되는 개념, 3개의 role(system, user, assistant)
  • <System>
  • 조력자와 사용자 간의 대화를 제어하고 조절하는 역할
  • 페르소나를 부여하여, 특정인물/브랜드와 상호작용하는 것처럼 행동하도록 설계 가능
  • 예) ‘You are helpful assistant’

  ---

  • <user>
  • API와 대화를 나누는 주체로서, API에게 질문을 하거나 지시를 내릴 수 있음
  • 예) “Let’s habe a conversation in English.”

  ---

  • <assistant>
  • 실제로 대화를 생성하고 응답을 생성하는 주체. API는 사용자의 입력에 기반하여 응답을 생성하며, 언어 이해, 추론, 생성 기술을 이용하여 다양한 작업을 수행
  • 예) “Welcome to Starbucks, what kind of coffee would u likt to order today?”

Uploaded by Notion2Tistory v1.1.0