LE CONTRÔLE AVANT L’AUTONOMIE
Comment gouverner un agent IA métier ?
Gérez un agent IA métier comme un processus de travail dont vous conservez la configuration et les changements, pas seulement comme une conversation. Nommez un responsable, limitez son identité et ses outils, exigez une validation pour les effets importants, journalisez chaque action externe, définissez qui peut arrêter le système et revenir à l’état sûr, puis réévaluez à date fixe le modèle, les instructions, les données, les permissions et les règles réellement utilisés.
Repères : A0 à A4 décrivent le droit d’agir du système. R0 à R3 décrivent l’impact possible. Les lettres A à E, lorsqu’elles qualifient une source, décrivent seulement la solidité de la preuve.
À retenir
À retenir
- 01
Une personne nommée reste responsable du résultat d’exploitation.
- 02
Les permissions doivent être plus étroites que les capacités techniques de l’agent.
- 03
La production reste réversible et liée à une version évaluée.
Les couches minimales de contrôle
| Couche | Question | Preuve requise | Responsable |
|---|---|---|---|
| Mandat | Que peut faire l’agent ? | Périmètre et effets interdits | Responsable métier |
| Identité | Quelles données et quels systèmes ? | Comptes et carte des permissions | Responsable système |
| Décision | Quels effets exigent une validation ? | Journal des validations et conditions bloquantes | Validateur |
| Exploitation | L’effet peut-il être contenu et annulé ? | Test d’incident et de retour arrière | Opérateur |
Gouvernez l’effet, pas seulement la réponse
Rédiger un prix, engager un prix, envoyer un prix et enregistrer un contrat sont des effets différents. Chacun exige une permission, une règle de validation et une trace distinctes. Par exemple, approuver une réponse client doit permettre de voir le destinataire exact et le texte. Conservez la version du système pour savoir si un changement ultérieur demande un nouveau test.
La validation humaine doit montrer le destinataire, le montant, l’objet et la modification prévue. Un bouton de confirmation générique n’est pas un contrôle suffisant.
Réévaluez après chaque changement important
Un nouveau modèle, prompt, source documentaire, connecteur, régime de mémoire, niveau de permission ou règle métier peut invalider les preuves précédentes. Versionnez la configuration exploitée et revenez à l’étape d’évaluation appropriée lorsqu’elle change.
CAS D’ÉCOLE
Un retour arrière en cinq étapes
Désactivez les écritures, révoquez l’identité de l’agent, conservez la trace, restaurez le dernier état sûr et redirigez le travail vers le processus manuel. Le retour arrière n’est crédible que s’il a été testé avant la production et peut être exécuté par une personne nommée.
- Autorité d’arrêt nommée
- Permissions versionnées
- Solution manuelle de repli testée
Sources et limites
Sources et limites
Ces sources bornent la réponse. Elles ne transforment pas un cas publié en promesse pour votre organisation.
- 01NIST AI Risk Management Framework ↗
Cadre de cycle de vie pour gouverner et mesurer le risque IA.
- 02Portail officiel de l’AI Act ↗
Orientation réglementaire et ressources actuelles de mise en œuvre.
- 03MITRE ATLAS ↗
Base de menaces, techniques et mitigations pour les systèmes IA.