L'approche Yaju de la gouvernance de l'IA

Il existe une version de gouvernance de l’IA qui se compose d’une politique, d’un module de formation et d’un bilan annuel. Il produit un document qui peut être montré à un auditeur et qui n'a presque aucun rapport avec ce que les agents de l'organisation ont réellement fait mardi dernier.

Nous ne rejetons pas la politique. Nous rejetons toute politique dépourvue de mécanisme, car un agent ne peut pas lire un PDF et refuser.

La gouvernance au moment de l’action

Le principe qui sous-tend le système d'orchestration d'agents est qu'une règle qui n'est pas appliquée là où l'action se produit n'est pas une règle.

Si un agent ne doit jamais écrire dans une base de données de production, cette contrainte réside au point où l'écriture aurait lieu, et non dans l'invite qui lui a demandé de ne pas le faire. Les invites sont des instructions destinées à un modèle, et les modèles sont persuasifs. L'application est une propriété du système.

La conséquence pratique est que la réponse à la question « est-ce que cela aurait pu arriver » est déterminée plutôt que probabiliste. Soit la frontière le permettait, soit elle ne le permettait pas.

Quatre questions auxquelles la gouvernance doit répondre

• À qui appartient cet agent. Pas quelle équipe nominalement, mais quelle personne. Les agents sans propriétaire deviennent orphelins et les orphelins s'accumulent.
• Qu'est-il permis de faire. Exprimé sous forme de limites exécutoires plutôt que de comportement décrit.
• Qu'est-ce que ça a coûté. Attribué par agent et déclaré en devise, car un coût non gouverné est un système non gouverné.
• Qu’est-ce que cela a réellement fait. Une piste d'audit complète, exportable, couvrant chaque action plutôt qu'un échantillon.

Une organisation qui peut répondre à ces quatre pour chaque agent en cours d'exécution est gouvernée. Celui qui ne le peut pas, c'est l'espoir.

Identité et informations d'identification

Un échec récurrent dans les déploiements d'agents est la prolifération des informations d'identification : clés dans les fichiers de configuration, dans les référentiels, dans l'historique du shell, partagées entre les agents parce que cela était pratique à l'époque.

Notre position est qu’un agent ne devrait jamais détenir un secret en texte clair. Les informations d'identification sont résolues au moment de l'exécution à partir d'un coffre-fort au niveau de l'organisation, limitées à l'agent qui en a besoin. La révocation de l'accès est donc une action unique plutôt qu'une enquête.

Cela donne également du sens à la piste d’audit. Lorsque chaque action est liée à une identité résolue, « quel agent a fait cela » a une réponse.

L’approbation humaine à sa place

Certaines actions ne devraient pas se dérouler sans une personne. Tout ou le système n’est pas inutile, mais ceux où se tromper coûte cher ou est irréversible.

Plutôt que de traiter cela comme un examen global de tous les résultats, nous le traitons comme une propriété d'actions spécifiques. Les actions risquées sont suspendues pour approbation ; les routines ne le font pas. Cela donne un sens à la révision, car une personne qui approuve quarante choses par jour arrête de lire au dixième.

Ce que nous ne faisons pas

Nous ne formons pas sur les données clients. Nous n'exigeons pas que les données quittent la région que vous choisissez, et là où elles ne peuvent pas du tout quitter votre infrastructure, le même système fonctionne de manière auto-hébergé ou entièrement isolé avec une gouvernance identique.

Nous ne prétendons pas non plus que la gouvernance assure la sécurité des agents dans un sens absolu. Cela les rend responsables, ce qui est une revendication plus modeste et plus honnête : lorsque quelque chose ne va pas, vous pouvez établir ce qui s'est passé, à qui appartient l'événement et combien cela a coûté.

Suivant

Les pages de gouvernance de l'IA couvrent l'application, et le Trust Center couvre la conformité, les sous-traitants ultérieurs et la manière de soulever un problème de sécurité. Les questions peuvent être adressées à contact@capconsultor.eu.