Magisterium AI

개발자
공유:

안전 설정

Magisterium AI API는 API에 대한 들어오는 요청을 조절하기 위해 사용자 맞춤형 안전 설정을 제공합니다. 이 조정은 현재 출력이 아닌 입력에만 제한됩니다.

안전 설정 작동 방식

안전 설정 중 하나가 활성화되면 응답은 다음 중 하나가 됩니다:

  • 응답 설정이 안전 설정에서 true로 설정된 경우(기본값은 true), 대체 응답을 포함합니다. 또는
  • finish_reason을 content_filter로 설정하고 빈 텍스트를 출력합니다.

예시

요청에 safety_settings를 포함하세요:

json
{
  "model": "magisterium-1",
  "messages": [
    // your messages here
  ],
  "safety_settings": {
    "CATEGORY_NON_CATHOLIC": {
      "threshold": "BLOCK_ALL",
      "response": true
    }
  },
  // other fields ...
}

카테고리 및 임계값

주의: CATEGORY_NON_CATHOLIC은 더 이상 사용되지 않으며 API 수준의 콘텐츠 필터로 적용되지 않습니다. 대신 시스템 프롬프트가 어시스턴트에게 가톨릭, 종교, 신앙 또는 도덕의 범위를 벗어난 모든 질문을 거부하도록 지시합니다. 이 동작은 설정된 임계값과 관계없이 적용되므로 OFF로 설정해도 거부가 비활성화되지 않습니다.

다음 안전 카테고리 및 임계값이 지원됩니다:

카테고리설명임계값기본값
CATEGORY_NON_CATHOLIC가톨릭, 종교, 신앙 및 도덕과 전혀 관련이 없는 쿼리.BLOCK_ALL, OFFBLOCK_ALL