AI 거버넌스에 대한 Yaju 접근 방식

정책, 교육 모듈 및 연간 검토로 구성된 AI 거버넌스 버전이 있습니다. 이는 감사자에게 보여줄 수 있는 문서를 생성하며 조직의 에이전트가 지난 화요일에 실제로 수행한 작업과 거의 관련이 없습니다.

우리는 정책을 무시하지 않습니다. 상담원이 PDF를 읽을 수 없고 거부할 수 없기 때문에 메커니즘이 없는 정책은 무시됩니다.

실행 순간의 거버넌스

에이전트 오케스트레이션 시스템의 기본 원칙은 작업이 발생하는 곳에 적용되지 않는 규칙은 규칙이 아니라는 것입니다.

에이전트가 프로덕션 데이터베이스에 쓰지 말아야 하는 경우 해당 제약 조건은 쓰기를 요청하는 프롬프트가 아니라 쓰기가 발생하는 지점에 적용됩니다. 프롬프트는 모델에 대한 지침이며 모델을 설득할 수 있습니다. 시행은 시스템의 속성입니다.

실질적인 결과는 "이런 일이 일어날 수 있었는가"에 대한 대답이 확률적이기보다는 결정적이라는 것입니다. 경계가 그것을 허용했거나 허용하지 않았거나 둘 중 하나입니다.

거버넌스가 대답해야 할 네 가지 사항

• 이 에이전트의 소유자는 누구입니까? 명목상 어느 팀이 아니라, 어느 사람인가. 소유자가 없는 에이전트는 고아가 되고, 고아는 축적됩니다.
• 무엇을 할 수 있습니까? 행동을 설명하기보다는 시행 가능한 경계로 표현합니다.
• 비용은 얼마입니까? 관리되지 않는 비용은 관리되지 않는 시스템이기 때문에 에이전트별로 귀속되고 통화로 보고됩니다.
• 실제로 무엇을 했습니까? 샘플이 아닌 모든 작업을 포괄하는 완전한 감사 추적으로 내보낼 수 있습니다.

실행 중인 에이전트마다 이 네 가지에 답할 수 있는 조직이 운영된다. 할 수 없는 것은 희망하는 것입니다.

신원 및 자격 증명

에이전트 배포에서 반복되는 실패는 자격 증명 확장입니다. 구성 파일, 저장소, 셸 기록의 키는 당시 편리했기 때문에 에이전트 간에 공유됩니다.

우리의 입장은 에이전트가 일반 텍스트로 비밀을 유지해서는 안 된다는 것입니다. 자격 증명은 필요한 에이전트로 범위가 지정된 조직 수준 저장소에서 런타임 시 확인되므로 액세스 권한 취소는 조사가 아닌 단일 작업입니다.

이는 또한 감사 추적을 의미 있게 만듭니다. 모든 행동이 확인된 신원과 연결되면 "어떤 에이전트가 이 일을 했는지"에 대한 답이 있습니다.

그것이 속한 곳에서 인간의 승인

일부 작업은 사람 없이 진행되어서는 안 됩니다. 모든 것이 없거나 시스템이 무의미한 것은 아니지만 잘못된 것에는 비용이 많이 들거나 되돌릴 수 없습니다.

이를 모든 출력에 대한 포괄적인 검토로 처리하는 대신 특정 작업의 속성으로 처리합니다. 위험한 작업은 승인을 위해 일시 ​​중지됩니다. 일상적인 것들은 그렇지 않습니다. 하루에 40가지를 승인하는 사람은 10일이 되면 읽기를 중단하기 때문에 검토를 의미 있게 유지합니다.

우리가 하지 않는 것

우리는 고객 데이터에 대해 교육하지 않습니다. 선택한 지역을 떠나기 위해 데이터가 필요하지 않으며 인프라를 전혀 떠날 수 없는 경우 동일한 시스템이 동일한 거버넌스로 자체 호스팅되거나 완전히 에어갭으로 실행됩니다.

또한 우리는 거버넌스가 절대적 의미에서 에이전트를 안전하게 만든다고 주장하지 않습니다. 이는 더 작고 더 정직한 주장으로, 책임을 지게 합니다. 문제가 발생하면 무슨 일이 일어났는지, 누가 소유했는지, 비용은 얼마인지 확인할 수 있습니다.

다음

AI 거버넌스 페이지에서는 시행을 다루고, 보안 센터에서는 규정 준수, 하위 프로세서 및 보안 문제 제기 방법을 다룹니다. 질문은 contact@capconsultor.eu로 문의하세요.