退屈な末端から始めるクラウド運用のエージェント

クラウド運用は自動化を目指して作られているように見えます。膨大な量のイベント、反復的な調査、少数の担当者に集中した専門知識、そして誰も到達できない改善の未処理分です。

本能的には、エージェントにアラート ストリームを向けて、エージェントに決定させようとします。これは、他の何よりも先に述べておく価値のある理由により、最も失敗する可能性が高いアプリケーションです。

自動化された意思決定がまずここで失敗する理由

アラートの意味は、上流で何が起こったのか、何がデプロイされているのか、どのようなメンテナンスがスケジュールされているのか、そしてこのパターンが前四半期に何も起こらなかったものに似ているかどうかによって異なります。

そのコンテキストのほとんどはアラートには含まれていません。それは他のシステムやエンジニアの頭の中にあります。エージェントがそれを無視して決定を下した場合、それは確信を持って間違っていることになり、確信を持って 2 回間違いを犯すだけで、プロジェクトを可能にした信頼に終止符を打つのに十分です。

また、自然なレビュー手順もありません。決定が検討されるまでに、その決定はすでに結果をもたらしています。

どこで機能するか

人間が決定する前のコンテキストの組み立て。影響を受けるパスの最近の変更、関連する過去のインシデント、現在の展開状態、関連する Runbook セクション。これにより、すべての実際の診断に先立って、すべてのインシデントで行われる 10 分間の調査作業が永久に不要になります。

インシデント後のタイムライン。複数のシステムにまたがって存在し、遅れて不適切に書かれます。

コストと容量のレビュー。これは機械的かつ継続的かつ永続的に優先順位が下げられます。

ポリシーおよび過去のインシデントに対する変更の検証。ブロックではなくフラグを立てます。

アクセス境界

インフラストラクチャの状態を読み取ることができても、それを変更できないエージェントは、両方を実行できるエージェントとは根本的に異なるリスクになります。その境界は、プロンプト内ではなく、アクションが発生するポイントに属します。

認証情報は実行時に組織ボルトから解決されるため、エージェントの設定内にインフラストラクチャ認証情報は存在せず、取り消しは 1 回のアクションで済みます。

他のすべてを計測するのと同じようにエージェントを計測する

通常、クラウド チームはこれが得意ですが、それをエージェント自体に適用することを忘れています。エージェントごとに発生するコスト。エージェントの実行は大きく偏っているため、平均ではなくレイテンシのパーセンタイルが使用されます。再試行は同じ作業で 2 回請求されるため、成功とは別にカウントされます。

関心のある障害は徐々に現れるものであるため、定期的な監査ではなく実行ごとに評価します。

開始形状

1 つのクラスのインシデントに関するコンテキストの組み立て。運用側の指名所有者。前四半期の実際のインシデントに基づいて構築された評価基準。もともと読み取り専用であり、ブロックされる予算があります。

デモが印象的である場合ではなく、スコアが退屈な場合に幅を広げます。

次へ

AI 可観測性とトークン監視のページでは、インストルメンテーションについて説明します。エージェント オーケストレーション システムのページでは、ポリシー、認証情報、評価について説明します。