Méthodes et protocoles
Classification risque × autonomie
Choisir une limite d’action sans la confondre avec le risque ou les capacités.
Construire mon parcoursCette matrice sert au triage interne. Elle ne remplace ni une analyse juridique, ni une analyse de sécurité, ni une évaluation d’impact.
Axe 1 — Impact du cas d’usage
| Niveau | Description | Exemples indicatifs |
|---|---|---|
| R0 | Interne, public, facilement vérifiable, sans conséquence sur une personne | Résumé d’un texte public, idéation |
| R1 | Assistance métier avec validation, erreurs récupérables | Brouillon, recherche documentaire, classement interne |
| R2 | Données personnelles, communication externe ou modification d’un système | Réponse client, mise à jour CRM, recommandation opérationnelle |
| R3 | Droits, santé, emploi, crédit, prestations, surveillance, autorité publique ou infrastructure critique | Éligibilité, diagnostic, allocation, contrôle, décision réglementée |
Un cas passe au niveau supérieur dès qu’une caractéristique supérieure est présente. La fréquence et l’échelle peuvent également augmenter le niveau.
Le triage interactif applique cette règle mécaniquement : une information ou un conseil A0 à faible impact relève de R0 ; la même situation avec une assistance A1 ou supérieure relève de R1 ; un impact significatif, des données personnelles ou sensibles, ou une interaction externe directe imposent au moins R2 ; un impact élevé ou une décision automatisée sur une personne impose R3.
Axe 2 — Autonomie technique
| Niveau | Capacité |
|---|---|
| A0 | Information ou conseil uniquement |
| A1 | Recherche, extraction, classement ou brouillon |
| A2 | Action seulement après approbation humaine explicite et informée |
| A3 | Actions autonomes bornées par permissions, budget, durée et destinations |
| A4 | Autonomie large, multi-systèmes ou auto-extension — désactivée par défaut |
Contrôle minimal par combinaison
| Combinaison | Contrôle minimal |
|---|---|
| R0–R1 / A0–A1 | Propriétaire, règles de données, tests métier, journal des changements |
| R1–R2 / A2 | Approbation qualifiée, validation des sorties, journal complet, retour testé |
| R2 / A3 | Modèle de menace, moindre privilège, limites, surveillance, tests adversariaux |
| R3 / tout niveau | Qualification juridique, évaluation d’impact, gouvernance formelle, audit et recours humain |
| Tout risque / A4 | Exception de direction documentée, preuve qu’A3 est insuffisant, confinement renforcé et audit indépendant |
Le tableau donne des repères minimaux, pas chaque paire possible. Pour une combinaison qui n’apparaît pas mot pour mot, appliquez toutes les lignes qui correspondent à l’un des deux axes et conservez le contrôle le plus strict. Par exemple, R2/A1 garde les protections R2 ; R1/A3 garde le modèle de menace, le moindre privilège, la surveillance et les tests adversariaux d’A3.
Questions de triage
- Une erreur peut-elle affecter un droit, une prestation, un emploi, une santé ou une sécurité ?
- Le système traite-t-il des données personnelles, sensibles, confidentielles ou protégées par un secret ?
- Une personne sait-elle qu’elle interagit avec un système IA lorsque cela est requis ?
- Le système peut-il écrire, envoyer, acheter, publier, supprimer ou modifier ?
- L’action est-elle réversible ? Dans quel délai ?
- Une approbation humaine est-elle réelle, informée et possible dans le temps disponible ?
- Le système peut-il lire du contenu non fiable puis appeler des outils ?
- Les erreurs peuvent-elles se multiplier à grande échelle avant détection ?
Documenter la réponse et la preuve dans le modèle d’évaluation du risque.
Pour imprimer ou enregistrer en PDF : Ctrl+P (⌘P sur Mac).
Source et historique · GitHub