AI ガバナンスに対する Yaju アプローチ

AI ガバナンスには、ポリシー、トレーニング モジュール、年次レビューで構成されるバージョンがあります。これは監査人に見せることができる文書を作成しますが、組織内のエージェントが先週の火曜日に実際に行ったこととはほとんど関係がありません。

私たちは政策を否定しているわけではありません。エージェントは PDF を読めず拒否することができないため、メカニズムのないポリシーは無視されます。

行動時のガバナンス

エージェント オーケストレーション システムの基本原則は、アクションが発生する場所で強制されないルールはルールではないということです。

エージェントが運用データベースに決して書き込んではいけない場合、その制約は書き込みを行わないように要求するプロンプトではなく、書き込みが行われる時点で存続します。プロンプトはモデルへの指示であり、モデルは説得可能です。強制はシステムの特性です。

実際的な結果は、「これが起こった可能性があるかどうか」に対する答えは確率的ではなく決定的なものになるということです。境界がそれを許可したか、許可しなかったかのどちらかです。

ガバナンスが答えなければならない 4 つのこと

• このエージェントの所有者は誰ですか。名目上どのチームかではなく、どの人物か。所有者のいないエージェントは孤児となり、孤児が蓄積されます。
• 何が許されるのかというと。記述された動作ではなく、強制可能な境界として表現されます。
• 費用はいくらかかりましたか。管理されていないコストは管理されていないシステムであるため、エージェントごとに帰属され、通貨で報告されます。
• 実際に何が起こったのか。エクスポート可能な完全な監査証跡。サンプルではなくすべてのアクションをカバーします。

実行中のエージェントごとにこれら 4 つに答えることができる組織が統治されます。それができない人は希望することだ。

アイデンティティと資格情報

エージェントの展開で繰り返される失敗は、資格情報のスプロールです。設定ファイル、リポジトリ、シェル履歴内のキーが、当時は便利だったためにエージェント間で共有されます。

私たちの立場は、エージェントは決して平文で秘密を保持すべきではないというものです。認証情報は実行時に組織レベルのコンテナーから解決され、認証情報を必要とするエージェントに範囲が限定されるため、アクセスの取り消しは調査ではなく 1 回のアクションで済みます。

これにより、監査証跡も意味のあるものになります。すべてのアクションが解決されたアイデンティティに関連付けられている場合、「どのエージェントがこれを実行したか」がわかります。

人間の承認が必要な場合

一部のアクションは、人なしでは進めるべきではありません。すべてやシステムが無意味というわけではありませんが、間違っていると高額な費用がかかるか、取り返しがつかないものがあります。

これをすべての出力の包括的なレビューとして扱うのではなく、特定のアクションのプロパティとして扱います。危険な行為は承認のために一時停止されます。日常的なものはそうではありません。一日に 40 項目を承認する人は、10 番目までに読むのをやめるからです。

私たちがやらないこと

私たちは顧客データに基づいたトレーニングは行いません。データがお客様が選択したリージョンから離れる必要はありません。データがお客様のインフラストラクチャからまったく離れることができない場合、同じシステムが同一のガバナンスでセルフホストまたは完全にエアギャップで実行されます。

また、ガバナンスによってエージェントが絶対的な意味で安全になるとは主張しません。それは彼らに説明責任を課すものであり、これはより小規模でより正直な主張です。何か問題が起こったときに、何が起こったのか、誰がそれを所有し、それにどれだけの費用がかかったのかを明らかにすることができます。

次へ

AI ガバナンスのページでは施行について説明し、トラスト センターではコンプライアンス、サブプロセッサ、セキュリティ問題の提起方法について説明します。質問は contact@capconsultor.eu までお寄せください。