El enfoque Yaju para la gobernanza de la IA

Existe una versión de gobernanza de la IA que consta de una política, un módulo de formación y una revisión anual. Produce un documento que se puede mostrar a un auditor y casi no tiene relación con lo que realmente hicieron los agentes de la organización el martes pasado.

No desdeñamos la política. Despreciamos la política que no tiene mecanismo, porque un agente no puede leer un PDF y rechazarlo.

Gobernanza en el momento de la acción

El principio subyacente del sistema de orquestación de agentes es que una regla que no se aplica donde ocurre la acción no es una regla.

Si un agente nunca debe escribir en una base de datos de producción, esa restricción reside en el punto donde se produciría la escritura, no en el mensaje que le solicita que no lo haga. Las indicaciones son instrucciones para un modelo, y los modelos son persuadibles. La aplicación de la ley es una propiedad del sistema.

La consecuencia práctica es que la respuesta a "¿podría haber sucedido esto?" es determinada y no probabilística. O la frontera lo permitía o no.

Cuatro cosas que la gobernanza debe responder

• ¿A quién pertenece este agente? No qué equipo nominalmente, sino qué persona. Los agentes sin dueño quedan huérfanos y los huérfanos se acumulan.
• ¿Qué está permitido hacer? Expresado como límites ejecutables en lugar de comportamiento descrito.
• ¿Cuánto costó? Atribuido por agente y reportado en moneda, porque un costo no gobernado es un sistema no gobernado.
• ¿Qué hizo realmente? Una pista de auditoría completa, exportable, que cubre cada acción en lugar de una muestra.

Se gobierna una organización que pueda responder a estos cuatro por cada agente en funcionamiento. El que no puede es la esperanza.

Identidad y credenciales

Una falla recurrente en las implementaciones de agentes es la dispersión de credenciales: claves en archivos de configuración, en repositorios, en el historial del shell, compartidas entre agentes porque era conveniente en ese momento.

Nuestra posición es que un agente nunca debe guardar un secreto en texto claro. Las credenciales se resuelven en tiempo de ejecución desde una bóveda a nivel de organización, con alcance para el agente que las necesita, por lo que revocar el acceso es una acción única en lugar de una investigación.

Esto también hace que la pista de auditoría sea significativa. Cuando cada acción está ligada a una identidad resuelta, "qué agente hizo esto" tiene una respuesta.

Aprobación humana donde pertenece

Algunas acciones no deberían realizarse sin una persona. No todo, o el sistema no sirve para nada, pero sí aquellos en los que equivocarse es caro o irreversible.

En lugar de tratar esto como una revisión general de todos los resultados, lo tratamos como una propiedad de acciones específicas. Las acciones arriesgadas se detienen para su aprobación; los de rutina no lo hacen. Eso mantiene la revisión significativa, porque una persona que aprueba cuarenta cosas al día deja de leer al décimo.

lo que no hacemos

No nos formamos con los datos de los clientes. No requerimos que los datos abandonen la región que elija y, cuando no pueden salir de su infraestructura en absoluto, el mismo sistema se ejecuta de forma autohospedada o completamente aislada con una gobernanza idéntica.

Tampoco afirmamos que la gobernanza haga que los agentes estén seguros en algún sentido absoluto. Los hace responsables, lo cual es un reclamo más pequeño y honesto: cuando algo sale mal, puedes establecer qué sucedió, quién era el propietario y cuánto costó.

Siguiente

Las páginas de Gobernanza de IA cubren el cumplimiento y el Centro de confianza cubre el cumplimiento, los subprocesadores y cómo plantear un problema de seguridad. Las preguntas pueden dirigirse a contact@capconsultor.eu.