Das Magisterium AI API bietet benutzeranpassbare Sicherheitseinstellungen, um eingehende Anfragen an das API zu moderieren. Diese Moderation ist derzeit auf die Eingabe und nicht auf die Ausgabe beschränkt.

Verhalten von Sicherheitseinstellungen

Wenn eine der Sicherheitseinstellungen ausgelöst wird, enthält die Antwort entweder:

• eine Rückfallbackantwort, wenn die Antwort in den Sicherheitseinstellungen auf true gesetzt ist (Standard ist true), oder
• setzt finish_reason auf content_filter und gibt einen leeren Text aus.

Beispiel

Fügen Sie safety_settings in Ihre Anfrage ein:

{
  "model": "magisterium-1",
  "messages": [
    // Ihre Nachrichten hier
  ],
  "safety_settings": {
    "CATEGORY_NON_CATHOLIC": {
      "threshold": "BLOCK_ALL",
      "response": true
    }
  },
  // andere Felder ...
}

Kategorien und Schwellenwerte

Hinweis: CATEGORY_NON_CATHOLIC ist veraltet und wird nicht mehr als Inhaltsfilter auf API-Ebene durchgesetzt. Stattdessen weist der System-Prompt den Assistenten an, alle Anfragen außerhalb von Katholizismus, Religion, Glauben oder Moral abzulehnen. Dieses Verhalten gilt unabhängig vom konfigurierten Schwellenwert; die Einstellung OFF deaktiviert die Ablehnung daher nicht.

Die folgenden Sicherheitskategorien und Schwellenwerte werden unterstützt: