エージェントと記録システム

記録システムに接続されていないエージェントは、会話ツールです。エージェントが無制限にアクセスできる場合、誰も承認しないリスクがあります。有用な設計のほとんどは、これら 2 つの位置の間に存在します。

読み取りと書き込みは同じ決定ではありません

組織は、エージェントに読み取りアクセスをすぐに許可し、書き込みアクセスを渋々許可しますが、その直感は単に慎重であるというよりも正しいものです。

間違ったレコードを返す読み取りは間違った答えを生成し、人はそれをキャッチする可能性があります。間違ったレコードにアクセスする書き込みはビジネスに変化をもたらし、顧客によって発見される可能性があります。

したがって、有用なデフォルトは、広範で適切に装備された読み取りアクセスと、プロンプトで要求されるのではなく、明示的に列挙され、アクションの時点で強制される狭い書き込みアクセスです。

プロンプトがこの境界に対して間違った場所である理由

プロンプトはモデルへの指示です。モデルには説得力があり、計画に従ったエージェントは、指示によって思いとどまったものの阻止できなかった行動にたどり着く可能性があります。

強制は行動が行われる場所に属します。エージェントが請求テーブルに決して書き込んではいけない場合、その制約は接続時に存続するため、「これが起こった可能性があるかどうか」に対する答えは決定的です。これは監査を意味のあるものにするものでもあります。記録は何が試行されたかを示し、境界は何が可能であったかを示します。

陳腐化とは誰も計画していない失敗のことです

エージェントの作業中に記録システムが変更されます。実行の開始時に構築された計画は、30 秒後に移動されたレコードに基づいて動作する可能性があります。

これにより、特定の種類の損害が発生します。つまり、内部的には一貫しているが、外部的には間違っている作業であり、その作業を行っていない人がその作業を選択解除する必要があります。 Oran 3.6 の状況認識は、実行中に何が起こったのか、その下で何が変更されたのかを追跡するために存在します。これにより、ステップが繰り返されたり、移動したレコードに適用されたりすることはありません。

アクセスよりもアイデンティティが重要

共有サービス アカウントを使用して動作するエージェントは、追跡可能性が最も重要な場所では追跡できません。 6 か月後、「どのエージェントがこれを変更したか」には答えがありません。

実行時に組織レベルのコンテナーから資格情報を解決し、エージェントごとにスコープを設定すると、この問題がルートで修正されます。エージェントは平文で秘密を保持することはなく、失効は 1 つのアクションであり、監査証跡内のすべての書き込みには、それを作成した ID が含まれます。

承認境界線

書き込みによっては、人なしでは続行できないものもあります。すべてではありませんが、エージェントが目安箱であるわけではありませんが、間違っていると高額な費用がかかるか、取り消すのが難しいものです。

これを包括的なレビューではなく、特定のアクションのプロパティとして扱うことで、意味が保たれます。すべてを承認する人は何も承認しません。なぜなら、注意力は繰り返しに耐えられないからです。

賢明な順序

取得が非常に難しいシステムに対して読み取り専用で開始します。エージェントが何を読み取って何を生成するかを計測します。実際の事例から評価基準を書きます。その後、小規模な書き込みセットを列挙し、接続時にそれらを強制し、高価な書き込みは承認の対象外にします。

これは、すべてを接続して何が起こるかを確認するよりも時間がかかります。これは、何も選択を解除する必要がないバージョンでもあります。

次へ

エージェント オーケストレーション システムのページでは、ポリシーの適用、資格情報ボールト、および監査証跡について説明します。開発者向けドキュメントでは、接続メカニズムについて説明しています。