Magisterium AI

Vývojáři
Sdílet:

Nastavení bezpečnosti

Magisterium AI API nabízí uživatelsky přizpůsobitelné bezpečnostní nastavení pro moderování příchozích požadavků na API. Tato moderace je v současnosti omezena na vstup, nikoliv na výstup.

Chování bezpečnostních nastavení

Pokud dojde k vyvolání jednoho z bezpečnostních nastavení, odpověď bude buď:

  • obsahovat záložní odpověď, pokud je odpověď nastavena na true v bezpečnostních nastaveních (standardně nastavena na true), nebo
  • nastavit finish_reason na content_filter a zobrazit prázdný text.

Příklad

Zahrňte safety_settings do svého požadavku:

json
{
  "model": "magisterium-1",
  "messages": [
    // your messages here
  ],
  "safety_settings": {
    "CATEGORY_NON_CATHOLIC": {
      "threshold": "BLOCK_ALL",
      "response": true
    }
  },
  // other fields ...
}

Kategorie a Prahy

Upozornění: CATEGORY_NON_CATHOLIC je zastaralá a již se nevynucuje jako filtr obsahu na úrovni API. Místo toho systémová výzva instruuje asistenta, aby odmítal všechny dotazy mimo oblast katolicismu, náboženství, víry nebo morálky. Toto chování platí bez ohledu na nastavený práh, takže hodnota OFF odmítání nevypne.

Následující kategorie a prahy bezpečnosti jsou podporovány:

KategoriePopisPrahyVýchozí
CATEGORY_NON_CATHOLICDotazy zcela nesouvisející s katolicismem, náboženstvím, vírou a morálkou.BLOCK_ALL, OFFBLOCK_ALL