トークンの監視
すべてのトークンを重要なものにします
エージェント、ワークスペース、ユーザー、プロバイダー、モデルごとの属性。トークンだけでなくドルでも。
アラートは願望のためにあります。サーキットブレーカーは実際にオーバーランを止めます。
80% で警告します。 100%でブロックします。サイクルがリセットされるまで。
5 つの次元での帰属
エージェント、ワークスペース、ユーザー、プロバイダー、モデル、すべての実行が属性付き。
厳しい予算制限
ワークスペース、エージェント、またはチームごとにハード キャップを設定し、ランタイムにそれらを強制させます。
経時的な比較
7 日、30 日、90 日の期間と、残りのサイクルの予測を比較します。
お金が実際にどこに行くのか
Yaju Insights ダッシュボードは、実際に行動できるようにするための支出を分析します。
プロバイダーの合計請求額ではなく、各エージェントの実行にかかるコストを正確に確認します。
ワークスペースごとにグループ支出を行うため、各チームが独自の予算を所有します。
実行をトリガーした人に使用を帰属させます。
Anthropic、OpenAI、その他のプロバイダー間で支出を分割します。
プロバイダーの支出を、その背後にある個々のモデルにまで細分化します。
Bedrock 経由で呼び出されたクロードは依然として Anthropic としてカウントされるため、合計は一致します。
トークンモニタリングの今日の内容
今日は Anthropic と OpenAI について取り上げます。 Bedrock、Cursor、Gemini は近日公開予定です。
プロバイダー間で正規化される
使用量はプロバイダー間で正規化されるため、同じモデルはどこでも同じようにカウントされます。
サーキットブレーカーの予算
サイクルがリセットされるまで、80% で警告し、100% でブロックします。この制限は強制されるものであり、推奨されるものではありません。
予測
最後に請求サイクルを見つけるのではなく、現在の使用量から残りの請求サイクルを予測します。
報道については正直
カバレッジはその制限について正直です。上記のリスト以外のプロバイダーはまだ帰属されていません。
何から何まで
トークンモニタリングは、私が何に費やしているのかを答えます。 Insights の答えと、それに対して何をすべきか。
- 見てください: 重要な 5 つの側面に分類された数値を参照してください。
- やめてください: 後で読むのではなく、オーバーランを 100% で停止します。
- 比較してください: 7、30、90 日の期間を比較し、残りを予測します
- 修正してください: 結果をオプティマイザーに渡し、品質を損なうことなくコストを削減します。
実際のエージェントの支出を確認する準備はできましたか?
デモを予約して、エージェント、ユーザー、プロバイダー、モデルごとに実際のエージェント費用の内訳を確認してください。
- 原因となったエージェントに帰属する支出
- ワークスペースおよびチームごとにサーキット ブレーカーの予算を設定する
- 驚く前に残りのサイクルを予測しましょう