문장 검사

UI 소개

항목명
항목소개
비고

모델

모델 선택

moderation 모델 한정

프롬프트

명령 프롬프트 내용

입력 데이터 선택

문장을 검사할 형태 선택

문자열 : 단일 문자열 검사 문자열 배열 : 다중 문자열 검사

검사 문자열 입력

문장을 검사할 단일 문자열 입력

문자열 배열 입력

검사할 문장들을 JSON Array 형태로 입력

예시) ["검사문장 1", "검사문장2", "검사문장3" ]

실행 결과

id

요청에 대한 고유 식별자

model

사용된 모델

results[]

문장 검사 결과 목록 다중 요청시에는 먼저 지정한 문자열 순대로 결과값 반환

results[].flagged

전체적으로 부적절한 콘텐츠 여부

results[].categories

감지된 부적절한 콘텐츠 유형

results[].categories.harassment

괴롭힘

results[].categories.harassment/threatening

위협적 괴롭힘

results[].categories.sexual

성적인 내용

results[].categories.hate

증오 발언

results[].categories.hate/threatening

위협적 증오 발언

results[].categories.illicit

불법적인 내용

results[].categories.illicit/violent

폭력적인 불법 행위

results[].categories.self-harm/intent

자해 의도

results[].categories.self-harm/instructions

자해 방법 안내

results[].categories.self-harm

자해 관련 내용

results[].categories.sexual/minors

미성년자 대상 성적 내용

results[].categories.violence

폭력성

results[].categories.violence/graphic

잔혹한 폭력

results[].category_scores

각 카테고리별 신뢰도 점수 (0~1 사이)

results[].category_applied_input_types

각 카테고리에 적용된 입력 유형 (text, image)

Last updated

Was this helpful?