텍스트 응답 생성

UI 소개

항목명
항목소개
비고

사용 모델 선택

메세지를 생성할 모델 선택

지원모델 확인 [공식문서]

메세지 내용 입력

메세지 대화 내용

상세내역 하단 참조

Max Tokens

생성할 최대 토큰 수

모델별 최대 토큰 수 확인

메타데이터

요청에 대한 추가 정보 (선택)

상세내역 하단 참조

생성 중지 시퀀스 키워드

메세지 생성을 중지하는 키워드 (선택)

상세내역 하단 참조

시스템 프롬프트

모델의 역할 지정 (선택)

Temperature

응답의 창의성 조절 (선택)

허용범위 : 0 ~ 1

사용자 지정 도구 설정

프롬프트 명령에 제공할 수 있는 도구 정의 (선택)

상세내역 하단 참조

사용할 사용자 지정 도구 지정

도구 사용 방식 지정 (선택)

상세내역 하단 참조

Top K

각 토큰 생성 시 상위 K개 옵션만 고려합니다 (선택)

0 이상의 정수

Top P

확률 순으로 누적 분포를 계산하여 top_p 확률에 도달하면 중단 (선택)

허용범위 : 0 ~ 1 Temperature 값과 혼용 사용될 수 없음

메세지 내용 구성

메세지 내용은 메세지의 배열 형태로 구성되어 있으며 메세지의 구조는 다음과 같습니다.

항목명
항목소개
비고

content

메세지 내용

role

메세지의 주체 또는 역할

  • user: 사용자가 AI에게 보내는 메시지나 질문을 나타냅니다. 이는 AI가 응답해야 할 실제 입력 내용입니다.

  • assistant: AI 모델이 생성한 응답을 나타냅니다. 이는 user의 입력에 대한 AI의 답변입니다.

메세지 내용 예시

[
  { 
    "role": "user",              // 사용자의 질문 
    "content": "안녕하세요"
  },
  {
    "role": "assistant",         // AI의 응답 예시
    "content": "반갑습니다 무엇을 도와드릴까요?"
  },
  {
    "role": "user", 
    "content": "자동화 워크플로우에 대한 설명을 영어로 설명해줄래요?"
  },
]

메타데이터

요청에 대한 메타데이터를 설명하는 객체입니다

항목명
항목소개
비고

user_id

요청과 연관된 사용자의 외부 식별자

이 식별자는 uuid, 해시 값 또는 기타 불투명 식별자여야 합니다

ID를 사용하여 남용을 감지할 수 있습니다. 이름, 이메일 주소 또는 전화번호와 같은 식별 정보 포함은 권장하지 않습니다

데이터 형태는 문자열(String) 또는 값 없음(null) 최대값 : 256자

메타데이터 예시

{
  "user_id": "c2453689-9888-4222-b870-fb36cbd8fa93" // 불투명 식별자로 구분 
}

생성 중지 키워드

특정 키워드가 생성되면 즉시 메세지 생성을 중단합니다.

키워드 설정 예시

["결과", "응답", "중지"] // 문자열로 구성된 배열 형태로 입력합니다.

도구 지정 및 선택

도구 지정

항목명
항목소개
비고

name

도구명 지정

description

도구에 대한 설명 (선택)

input_schema

JSON 형태로 구성되며 모델에서는 tool_use 컨텐츠 블록을 통해 반환

도구 지정 예시

[
  {
    "name": "날씨 예보",  // 도구명
    "description": "특정 지역에 대해 날씨 예보를 알려줌", // 도구 설명 
    "input_schema": {   // 스키마 지정
      "type": "object",
      "properties": {
        "city": {
          "type": "string",        // 속성 데이터형태 
          "description": "도시 이름" // 속성 설명 
        },
        "days": {
          "type": "number",
          "description": "예보 일수"
        }
      },
      "required": ["city"]        // 필수 속성 이름 
    }
  }
]

도구 선택

모델이 제공된 도구들을 어떻게 사용할지 결정하는 파라미터입니다.

항목명
항목소개
비고

auto

모델이 상황에 맞게 자동 선택

any

제공된 도구 중 자유롭게 선택

tool

특정 도구만 사용하도록 강제

도구 선택 예시

// auto 또는 any 선택시 
{
   "type": "auto" // 또는 any 
}

// 특정 도구만 사용하려면 
// 도구 지정에서 get_stock_price 란 도구를 지정했을 때 
{
  "type": "tool",
  "tool": {
    "name": "get_stock_price" // get_stock_price 도구만 사용
  }
}

실행 결과

데이터 값
데이터 내용

content[]

응답 메세지 목록

content[].text

응답 메세지 내용

content[].type

응답 메세지 형태 ( text: 문자열)

id

응답 고유 ID

model

사용 모델

role

메세지 생성 주체 : assistant 고정

stop_reason

메세지 생성 중단 사유 - end_turn : 메세지 생성 종료 - max_token: 최대 토큰수 초과 - stop_sequence: 생성 중단 키워드 발견 - tool_use : 하나 이상의 도구 호출

stop_sequence

중단 시퀀스 생성

type

객체 형태 : message 고정값

usage

토큰 사용량 객체

usage.input_tokens

메세지 요청시 사용된 토큰 수

usage.output_tokens

메세지 생성시 사용한 토큰 수

Last updated

Was this helpful?