텍스트 응답 생성

UI 소개

데이터플로우

항목명	항목소개	비고
사용 모델 선택	프롬프트를 완성할 모델 선택	지원모델 확인 [공식문서]
메세지 내용 입력	대화 내용을 구성하는 메시지 목록	상세내역 하단 참조
Max Tokens	반환할 최대 완성 토큰 수 (선택)	허용 범위 : 모델의 컨텍스트 윈도우 토큰 제한을 초과하지 않는 범위
Frequency penalty	텍스트의 반복을 줄이는 페널티 (선택)	허용 범위 : 0보다 큰 값(기본값 : 0)
Presence penalty	새로운 주제에 대한 대화 가능성을 높이는 페널티 (선택)	허용 범위 : -2.0에서 2.0 사이
검색 결과 시간 간격 제한 설정	검색 결과의 시간 간격 제한 (선택)	허용 범위 : "month", "week", "day", "hour"
Temperature	응답의 무작위성 정도 (선택)	허용 범위 : 0 이상 2 미만
Top K	최상위 k 필터링을 위해 유지할 토큰 수 (선택)	허용 범위 : 0에서 2048 사이 (포함)
Top P	핵 샘플링 임계값 (선택)	허용 범위: 0에서 1 사이 (포함)

메세지 내용 구성

메세지 내용은 메세지의 배열 형태로 구성되어 있으며 메세지의 구조는 다음과 같습니다.

항목명	항목소개	비고
content	메세지 내용
role	메세지의 주체 또는 역할	system: AI 모델의 전반적인 행동과 응답 스타일을 설정하는 지침을 제공합니다. 이는 대화의 맥락을 설정하고 AI의 역할을 정의합니다. user: 사용자가 AI에게 보내는 메시지나 질문을 나타냅니다. 이는 AI가 응답해야 할 실제 입력 내용입니다. assistant: AI 모델이 생성한 응답을 나타냅니다. 이는 user의 입력에 대한 AI의 답변입니다.

메세지 내용 예시

[
    {
      "role": "system",     // AI의 역할과 행동 방식을 설정  
      "content": "당신은 친절하고 도움이 되는 AI 어시스턴트입니다. 한국어로 응답해주세요."
    },
    {
      "role": "user",       // 사용자의 질문 
      "content": "안녕하세요, 오늘 날씨가 어떤가요?"
    },
    {
      "role": "assistant",  // AI의 응답을 보여줌 
      "content": "안녕하세요! 죄송하지만 저는 실시간 날씨 정보에 접근할 수 없어서 정확한 날씨를 알려드릴 수 없습니다. 하지만 날씨에 관심이 있으시다면, 창밖을 보시거나 일기 예보 앱을 확인해보시는 것은 어떨까요? 오늘 하루 즐겁게 보내세요!"
    },
    {
      "role": "user",
      "content": "그렇군요. 그럼 맛있는 음식점을 추천해주세요."
    }
]

실행 결과

데이터 값	데이터 내용
id	응답 생성 ID
model	사용 모델
object	응답 객체 형태 : chat.completion 고정값
created	생성일시 타임스탬프
citations[]	생성 답변에 대한 인용 링크 목록
choices[]	요청 프롬프트에 따른 응답 선택 목록
choices[].index	응답 선택 위치
choices[].finish_reason	텍스트 생성 중단 사유 - stop : 생성 완료 - length : Max Length 초과
choices[].message	메세지 내용
choices[].message.role	메세지 역할 : system, user, assistant
choices[].message.content	메세지 내용
choices[].delta	스트리밍 응답시 반환 객체
choices[].delta.role	메세지 역할 : system, user, assistant
choices[].delta.content	메세지 내용
usage	토큰 사용량 정보
usage.promp_tokens	요청 메세지 토큰 수
usage.completion_tokens	응답 메세지 토큰 수
usage.total_tokens	요청, 응답을 포함한 메세지 토큰 수 총합