A Magisterium AI API lehetővé teszi a felhasználók által testreszabható biztonsági beállításokat az API-ba érkező kérelmek moderálására. Ez a moderálás jelenleg csak a bemenetre vonatkozik, nem a kimenetre.

Biztonsági Beállítások Viselkedése

Ha az egyik biztonsági beállítás aktiválódik, a válasz vagy:

• tartalmaz egy visszafogó választ, ha a válasz beállítva van igazra a biztonsági beállításokban (alapértelmezett érték: igaz), vagy
• a finish_reason-t content_filter-re állítja, és üres szöveget ad vissza.

Példa

Tartalmazza a safety_settings-et a kérésében:

{
  "model": "magisterium-1",
  "messages": [
    // your messages here
  ],
  "safety_settings": {
    "CATEGORY_NON_CATHOLIC": {
      "threshold": "BLOCK_ALL",
      "response": true
    },
  },
  // other fields ...
}

Kategóriák és Küszöbértékek

Az alábbi biztonsági kategóriák és küszöbértékek támogatottak: