Eine KI-generierte Antwort und eine Geschäftsaktion sind unterschiedliche Ereignisse. Ein Modell kann vorschlagen, einen Datensatz zu ändern, während eine Anwendung entscheidet, ob ein Tool aufgerufen werden soll, das die Änderung vornehmen kann. Das Verständnis dieser Übergabe ist entscheidend für die Zuweisung von Verantwortung.
Akteure abbilden
Identifizieren Sie die Person oder das System, das die Arbeit angefordert hat, den ihr zugewiesenen Agenten, den Dienst, der den Workflow hostet, und das Tool, das die Aktion empfängt. Diese Akteure können unterschiedliche Eigentümer und Berechtigungen haben. Ein generisches Dienstleistungszertifikat kann diese Unterscheidungen verbergen, wenn die Anwendung keinen zusätzlichen Identitätskontext liefert.
Maschinenidentität gibt einem Team eine Möglichkeit, Agenten zu unterscheiden. Das empfangende Tool muss die Anfrage weiterhin authentifizieren und die für seinen eigenen Betrieb relevanten Berechtigungen durchsetzen.
Empfehlung und Ausführung trennen
Betrachten Sie einen juristischen Forschungsassistenten, der eine Zusammenfassung entwirft. Die Erstellung des Entwurfs ist ein Ereignis. Ein Fachmann, der ihn überprüft, ist ein anderes. Die Freigabe des Dokuments an einen Klienten ist ein drittes. Ein Workflow sollte diese Grenzen bewahren, anstatt alle drei als etwas zu beschreiben, das „die KI abgeschlossen hat“.
Die Beispiel für rechtliche KI-Überprüfung verwendet Agentenidentität, Quellreferenzen, einen Ausgabe-Fingerabdruck und ein menschliches Überprüfungsereignis, um diesen Übergang überprüfbar zu machen.
Genügend Kontext aufzeichnen, um eine Übergabe zu erklären
- Zu welcher Aufgabe oder Geschäftsanfrage die Aktion gehört.
- Welche Identität die Aktion gemeldet hat.
- Der zulässige Umfang und das empfangende Tool.
- Relevante Eingabe- und Ausgabereferenzen.
- Die darauf folgende Genehmigung, Ablehnung oder Eskalation.
Sammeln Sie nicht standardmäßig jede verfügbare Aufforderung oder jedes Dokument. Wählen Sie Felder, die den Prüfern helfen, den Prozess zu verstehen und die für die beteiligten Informationen angemessen sind.
Testen Sie die Grenzen
Versuchen Sie eine Anfrage außerhalb des zulässigen Bereichs, eine fehlende Überprüfung, eine abgelaufene Sitzung und einen Tool-Fehler. Überprüfen Sie, ob die Schnittstelle jeden Fall ehrlich darstellt und dass die nachgeschaltete Aktion wie beabsichtigt funktioniert. Eine protokollierte Ablehnung ist nur nützlich, wenn das geschützte Tool die Aktion tatsächlich abgelehnt hat.
Verwenden Workflow-Orchestrierung, Maschinenidentitäten, und Belege zusammen, um die Identitäten und Ereignisse zu verbinden, die Ihre spezifische Anwendung benötigt.
