Der Yaju-Ansatz zur KI-Governance

Es gibt eine Version der KI-Governance, die aus einer Richtlinie, einem Schulungsmodul und einer jährlichen Überprüfung besteht. Es entsteht ein Dokument, das einem Prüfer vorgelegt werden kann und fast keinen Bezug zu dem hat, was die Agenten in der Organisation letzten Dienstag tatsächlich getan haben.

Wir lehnen die Politik nicht ab. Wir lehnen Richtlinien ab, die über keinen Mechanismus verfügen, da ein Agent ein PDF nicht lesen und ablehnen kann.

Governance im Moment des Handelns

Das Prinzip des Agent Orchestration Systems besteht darin, dass eine Regel, die dort, wo die Aktion stattfindet, nicht durchgesetzt wird, keine Regel ist.

Wenn ein Agent niemals in eine Produktionsdatenbank schreiben sollte, bleibt diese Einschränkung an der Stelle bestehen, an der der Schreibvorgang stattfinden würde, und nicht in der Eingabeaufforderung, die ihn dazu auffordert, dies nicht zu tun. Aufforderungen sind Anweisungen an ein Modell, und Modelle sind überredbar. Durchsetzung ist eine Eigenschaft des Systems.

Die praktische Konsequenz ist, dass die Antwort auf die Frage „Könnte das passiert sein?“ eher deterministisch als probabilistisch ist. Entweder erlaubte die Grenze es oder nicht.

Vier Dinge muss die Governance beantworten

• Wem gehört dieser Agent? Nicht welches Team nominell, sondern welche Person. Agenten ohne Eigentümer werden zu Waisen, und es gibt immer mehr Waisen.
• Was ist erlaubt? Wird eher als durchsetzbare Grenzen als als beschriebenes Verhalten ausgedrückt.
• Was hat es gekostet. Wird jedem Agenten zugeordnet und in der Währung ausgewiesen, da es sich bei unkontrollierten Kosten um ein unkontrolliertes System handelt.
• Was hat es eigentlich bewirkt? Ein vollständiger Prüfpfad, exportierbar, der jede Aktion abdeckt und nicht nur eine Stichprobe.

Eine Organisation, die diese vier für jeden laufenden Agenten beantworten kann, wird regiert. Einer, der es nicht kann, ist das Hoffen.

Identität und Anmeldeinformationen

Ein wiederkehrender Fehler bei Agent-Bereitstellungen ist die Ausbreitung von Anmeldeinformationen: Schlüssel in Konfigurationsdateien, in Repositorys, im Shell-Verlauf, die von Agenten gemeinsam genutzt werden, weil es zu diesem Zeitpunkt praktisch war.

Unser Standpunkt ist, dass ein Agent niemals ein Geheimnis im Klartext für sich behalten sollte. Anmeldeinformationen werden zur Laufzeit aus einem Tresor auf Organisationsebene aufgelöst und auf den Agenten beschränkt, der sie benötigt. Daher ist das Widerrufen des Zugriffs eine einzelne Aktion und keine Untersuchung.

Dadurch wird auch der Audit Trail aussagekräftig. Wenn jede Aktion an eine geklärte Identität gebunden ist, gibt es eine Antwort auf die Frage „Welcher Agent hat dies getan?“.

Menschliche Zustimmung, wo sie hingehört

Manche Aktionen sollten nicht ohne eine Person durchgeführt werden. Nicht alles oder das System ist sinnlos, aber diejenigen, bei denen es teuer oder irreversibel ist, falsch zu liegen.

Anstatt dies als eine pauschale Überprüfung aller Ergebnisse zu betrachten, betrachten wir es als eine Eigenschaft spezifischer Aktionen. Riskante Aktionen warten auf Genehmigung; Routinemäßige tun dies nicht. Das sorgt dafür, dass die Rezension sinnvoll bleibt, denn jemand, der vierzig Dinge pro Tag gutheißt, hört beim zehnten auf zu lesen.

Was wir nicht tun

Wir schulen nicht anhand von Kundendaten. Wir verlangen nicht, dass Daten die von Ihnen gewählte Region verlassen, und wo sie Ihre Infrastruktur überhaupt nicht verlassen können, läuft dasselbe System selbst gehostet oder vollständig Air Gap mit identischer Governance.

Wir behaupten auch nicht, dass Governance Agenten im absoluten Sinne sicher macht. Dadurch werden sie zur Rechenschaft gezogen, was eine kleinere und ehrlichere Behauptung ist: Wenn etwas schief geht, können Sie feststellen, was passiert ist, wem es gehört und was es gekostet hat.

Als nächstes

Auf den AI-Governance-Seiten geht es um die Durchsetzung, und im Trust Center geht es um Compliance, Unterauftragsverarbeiter und die Frage, wie ein Sicherheitsproblem gemeldet werden kann. Fragen können an contact@capconsultor.eu gestellt werden.