Magisterium AI

개발자
공유:

안전 설정

Magisterium AI API는 API에 대한 들어오는 요청을 조절하기 위해 사용자 맞춤형 안전 설정을 제공합니다. 이 조정은 현재 출력이 아닌 입력에만 제한됩니다.

안전 설정 작동 방식

안전 설정 중 하나가 활성화되면 응답은 다음 중 하나가 됩니다:

  • 응답 설정이 안전 설정에서 true로 설정된 경우(기본값은 true), 대체 응답을 포함합니다. 또는
  • finish_reason을 content_filter로 설정하고 빈 텍스트를 출력합니다.

예시

요청에 safety_settings를 포함하세요:

json
{
  "model": "magisterium-1",
  "messages": [
    // your messages here
  ],
  "safety_settings": {
    "CATEGORY_NON_CATHOLIC": {
      "threshold": "BLOCK_ALL",
      "response": true
    },
  },
  // other fields ...
}

카테고리 및 임계값

다음 안전 카테고리 및 임계값이 지원됩니다:

카테고리설명임계값기본값
CATEGORY_NON_CATHOLIC가톨릭, 종교, 신앙 및 도덕과 전혀 관련이 없는 쿼리.BLOCK_ALL, OFFBLOCK_ALL