Magisterium AI

Розробники
Поділитися:

Налаштування безпеки

API Magisterium AI пропонує налаштування безпеки, що персоналізуються користувачем, для модерації вхідних запитів до API. Ця модерація наразі обмежується лише вхідними даними, а не вихідними.

Поведінка налаштувань безпеки

Якщо одне з налаштувань безпеки спрацьовує, відповідь буде або:

  • містити запасну відповідь, якщо відповідь встановлена в true у налаштуваннях безпеки (за замовчуванням true), або
  • встановити finish_reason в content_filter та виводити порожній текст.

Приклад

Додайте safety_settings у свій запит:

json
{
  "model": "magisterium-1",
  "messages": [
    // your messages here
  ],
  "safety_settings": {
    "CATEGORY_NON_CATHOLIC": {
      "threshold": "BLOCK_ALL",
      "response": true
    }
  },
  // other fields ...
}

Категорії та пороги

Увага: CATEGORY_NON_CATHOLIC застаріла й більше не застосовується як фільтр вмісту на рівні API. Натомість системний промпт наказує асистентові відхиляти всі запити поза межами католицизму, релігії, віри чи моралі. Така поведінка діє незалежно від налаштованого порога, тому значення OFF не вимикає відмову.

Наступні категорії безпеки та пороги підтримуються:

КатегоріяОписПорогиЗначення за замовчуванням
CATEGORY_NON_CATHOLICЗапити, що зовсім не стосуються католицизму, релігії, віри та моралі.BLOCK_ALL, OFFBLOCK_ALL