Méthodes et protocoles
Classification risque × autonomie
Cette matrice sert au triage interne. Elle ne remplace ni une analyse juridique, ni une analyse de sécurité, ni une évaluation d’impact.
Axe 1 — Impact du cas d’usage
| Niveau | Description | Exemples indicatifs |
|---|---|---|
| R0 | Interne, public, facilement vérifiable, sans conséquence sur une personne | Résumé d’un texte public, idéation |
| R1 | Assistance métier avec validation, erreurs récupérables | Brouillon, recherche documentaire, classement interne |
| R2 | Données personnelles, communication externe ou modification d’un système | Réponse client, mise à jour CRM, recommandation opérationnelle |
| R3 | Droits, santé, emploi, crédit, prestations, surveillance, autorité publique ou infrastructure critique | Éligibilité, diagnostic, allocation, contrôle, décision réglementée |
Un cas passe au niveau supérieur dès qu’une caractéristique supérieure est présente. La fréquence et l’échelle peuvent également augmenter le niveau.
Le triage interactif applique cette règle mécaniquement : une information ou un conseil A0 à faible impact relève de R0 ; la même situation avec une assistance A1 ou supérieure relève de R1 ; un impact significatif, des données personnelles ou sensibles, ou une interaction externe directe imposent au moins R2 ; un impact élevé ou une décision automatisée sur une personne impose R3.
Axe 2 — Autonomie technique
| Niveau | Capacité |
|---|---|
| A0 | Information ou conseil uniquement |
| A1 | Recherche, extraction, classement ou brouillon |
| A2 | Action seulement après approbation humaine explicite et informée |
| A3 | Actions autonomes bornées par permissions, budget, durée et destinations |
| A4 | Autonomie large, multi-systèmes ou auto-extension — désactivée par défaut |
Contrôle minimal par combinaison
| Combinaison | Contrôle minimal |
|---|---|
| R0–R1 / A0–A1 | Propriétaire, règles de données, tests métier, journal des changements |
| R1–R2 / A2 | Approbation qualifiée, validation des sorties, journal complet, retour testé |
| R2 / A3 | Modèle de menace, moindre privilège, limites, surveillance, tests adversariaux |
| R3 / tout niveau | Qualification juridique, évaluation d’impact, gouvernance formelle, audit et recours humain |
| Tout risque / A4 | Exception de direction documentée, preuve qu’A3 est insuffisant, confinement renforcé et audit indépendant |
Le tableau donne des repères minimaux, pas chaque paire possible. Pour une combinaison qui n’apparaît pas mot pour mot, appliquez toutes les lignes qui correspondent à l’un des deux axes et conservez le contrôle le plus strict. Par exemple, R2/A1 garde les protections R2 ; R1/A3 garde le modèle de menace, le moindre privilège, la surveillance et les tests adversariaux d’A3.
Questions de triage
- Une erreur peut-elle affecter un droit, une prestation, un emploi, une santé ou une sécurité ?
- Le système traite-t-il des données personnelles, sensibles, confidentielles ou protégées par un secret ?
- Une personne sait-elle qu’elle interagit avec un système IA lorsque cela est requis ?
- Le système peut-il écrire, envoyer, acheter, publier, supprimer ou modifier ?
- L’action est-elle réversible ? Dans quel délai ?
- Une approbation humaine est-elle réelle, informée et possible dans le temps disponible ?
- Le système peut-il lire du contenu non fiable puis appeler des outils ?
- Les erreurs peuvent-elles se multiplier à grande échelle avant détection ?
Documenter la réponse et la preuve dans le modèle d’évaluation du risque.
Pour imprimer ou enregistrer en PDF : Ctrl+P (⌘P sur Mac).
Source et historique · GitHub