LE CONTRÔLE AVANT L’AUTONOMIE
Comment gouverner un agent IA métier ?
Gouvernez un agent IA métier comme un système d’exploitation versionné, pas comme un chatbot. Nommez un responsable, limitez son identité et ses outils, exigez une validation pour les effets importants, journalisez chaque action externe, définissez qui peut arrêter le système et revenir à l’état sûr, puis réévaluez à date fixe le modèle, les instructions, les données, les permissions et les règles réellement utilisés.
À retenir
Comment gouverner un agent IA métier ?
- 01
Une personne nommée reste responsable du résultat d’exploitation.
- 02
Les permissions doivent être plus étroites que les capacités techniques de l’agent.
- 03
La production reste réversible et liée à une version évaluée.
Les couches minimales de contrôle
| Couche | Question | Preuve requise | Responsable |
|---|---|---|---|
| Mandat | Que peut faire l’agent ? | Périmètre et effets interdits | Responsable métier |
| Identité | Quelles données et quels systèmes ? | Comptes et carte des permissions | Responsable système |
| Décision | Quels effets exigent une validation ? | Journal des validations et vetos | Validateur |
| Exploitation | L’effet peut-il être contenu et annulé ? | Test d’incident et de rollback | Opérateur |
Gouvernez l’effet, pas seulement la réponse
Rédiger un prix, engager un prix, envoyer un prix et enregistrer un contrat sont des effets différents. Chacun exige une permission, une règle de validation et une trace distinctes.
La validation humaine doit montrer le destinataire, le montant, l’objet et la modification prévue. Un bouton de confirmation générique n’est pas un contrôle suffisant.
Réévaluez après chaque changement important
Un nouveau modèle, prompt, source documentaire, connecteur, régime de mémoire, niveau de permission ou règle métier peut invalider les preuves précédentes. Versionnez la configuration exploitée et revenez à l’étape d’évaluation appropriée lorsqu’elle change.
CAS D’ÉCOLE
Un rollback en cinq étapes
Désactivez les écritures, révoquez l’identité de l’agent, conservez la trace, restaurez le dernier état sûr et redirigez le travail vers le processus manuel. Le rollback n’est crédible que s’il a été testé avant la production et peut être exécuté par une personne nommée.
- Autorité d’arrêt nommée
- Permissions versionnées
- Fallback manuel testé
Sources et limites
Sources et limites
Ces sources bornent la réponse. Elles ne transforment pas un cas publié en promesse pour votre organisation.
- 01NIST AI Risk Management Framework ↗
Cadre de cycle de vie pour gouverner et mesurer le risque IA.
- 02Portail officiel de l’AI Act ↗
Orientation réglementaire et ressources actuelles de mise en œuvre.
- 03MITRE ATLAS ↗
Base de menaces, techniques et mitigations pour les systèmes IA.