A Magisterium AI API lehetővé teszi a felhasználók által testreszabható biztonsági beállításokat az API-ba érkező kérelmek moderálására. Ez a moderálás jelenleg csak a bemenetre vonatkozik, nem a kimenetre.

Biztonsági Beállítások Viselkedése

Ha az egyik biztonsági beállítás aktiválódik, a válasz vagy:

• tartalmaz egy visszafogó választ, ha a válasz beállítva van igazra a biztonsági beállításokban (alapértelmezett érték: igaz), vagy
• a finish_reason-t content_filter-re állítja, és üres szöveget ad vissza.

Példa

Tartalmazza a safety_settings-et a kérésében:

{
  "model": "magisterium-1",
  "messages": [
    // your messages here
  ],
  "safety_settings": {
    "CATEGORY_NON_CATHOLIC": {
      "threshold": "BLOCK_ALL",
      "response": true
    }
  },
  // other fields ...
}

Kategóriák és Küszöbértékek

Figyelmeztetés: A CATEGORY_NON_CATHOLIC elavult, és már nem API-szintű tartalomszűrőként érvényesül. Ehelyett a rendszerprompt arra utasítja az asszisztenst, hogy utasítson el minden, a katolicizmus, a vallás, a hit vagy az erkölcs témakörén kívül eső lekérdezést. Ez a viselkedés a beállított küszöbértéktől függetlenül érvényes, ezért az OFF beállítás nem kapcsolja ki az elutasítást.

Az alábbi biztonsági kategóriák és küszöbértékek támogatottak: