Sicherheitseinstellungen
Das Magisterium AI API bietet benutzeranpassbare Sicherheitseinstellungen, um eingehende Anfragen an das API zu moderieren. Diese Moderation ist derzeit auf die Eingabe und nicht auf die Ausgabe beschränkt.
Verhalten von Sicherheitseinstellungen
Wenn eine der Sicherheitseinstellungen ausgelöst wird, enthält die Antwort entweder:
- eine Rückfallbackantwort, wenn die Antwort in den Sicherheitseinstellungen auf true gesetzt ist (Standard ist true), oder
- setzt finish_reason auf content_filter und gibt einen leeren Text aus.
Beispiel
Fügen Sie safety_settings in Ihre Anfrage ein:
json
{
"model": "magisterium-1",
"messages": [
// Ihre Nachrichten hier
],
"safety_settings": {
"CATEGORY_NON_CATHOLIC": {
"threshold": "BLOCK_ALL",
"response": true
},
},
// andere Felder ...
}Kategorien und Schwellenwerte
Die folgenden Sicherheitskategorien und Schwellenwerte werden unterstützt:
| Kategorie | Beschreibung | Schwellenwerte | Standard |
|---|---|---|---|
CATEGORY_NON_CATHOLIC | Abfragen, die vollständig nichts mit Katholizismus, Religion, Glauben und Moral zu tun haben. | BLOCK_ALL, OFF | BLOCK_ALL |