- 프롬프트: 사용자가 API에게 전달하는 입력으로서, 사용자의 질문이나 지시
- 토큰: 자연어 처리 모델의 입력 및 출력을 구성하는 단위
글자 수가 아닌 토큰 수로 Open API 사용량을 추적하고 과금
- 역할: Open AI Chat Completions API에서 사용되는 개념, 3개의 role(system, user, assistant)
- <System>
- 조력자와 사용자 간의 대화를 제어하고 조절하는 역할
- 페르소나를 부여하여, 특정인물/브랜드와 상호작용하는 것처럼 행동하도록 설계 가능
- 예) ‘You are helpful assistant’
- <user>
- API와 대화를 나누는 주체로서, API에게 질문을 하거나 지시를 내릴 수 있음
- 예) “Let’s habe a conversation in English.”
- <assistant>
- 실제로 대화를 생성하고 응답을 생성하는 주체. API는 사용자의 입력에 기반하여 응답을 생성하며, 언어 이해, 추론, 생성 기술을 이용하여 다양한 작업을 수행
- 예) “Welcome to Starbucks, what kind of coffee would u likt to order today?”
Uploaded by Notion2Tistory v1.1.0