Цэнаўтварэнне складаецца з трох кампанентаў:

1. Пытанне/запыт карыстальніка: Пачатковае пытанне, адпраўленае праз API-запыт. Яно ўлічваецца ва ўваходным спажыванні токенаў.
2. Сістэмныя працэсы: Пасля атрымання запыту Magisterium AI выкарыстоўвае розныя механізмы для інтэлектуальнай апрацоўкі пытання, уключаючы класіфікацыю, даследаванне баз даных і дадатковыя інструменты для забеспячэння дакладнага адказу. Гэтыя аперацыі задзейнічаюць сістэмныя токены, колькасць якіх залежыць ад складанасці запыту і глыбіні неабходнага адказу.
3. Адказ, згенераваны штучным інтэлектам: Канчатковы вынік, які змяшчаецца ў адказе API, уключаючы адказ, згенераваны штучным інтэлектам, улічваецца ў выхадным спажыванні токенаў.

Старонка спажывання ў кансолі API дазваляе адсочваць дакладную колькасць уваходных і выхадных токенаў, якія спажываюцца сістэмнымі працэсамі, у дадатак да больш простых выдаткаў на ўваходныя дадзеныя і генерацыю адказу. Кошт уваходных і выхадных токенаў, спажытых сістэмнымі працэсамі, такі ж, як і стандартны кошт.

Наведайце Playground , каб паэксперыментаваць са спажываннем токенаў.