Parcours service public — gates formels

Principe

Un gain d’efficacité ne suffit pas à légitimer un système public. Le mandat légal, la proportionnalité, les droits fondamentaux, la transparence, l’accessibilité, le recours et l’archivage font partie du résultat.

Le cas synthétique Ville de Mont-Rive applique ces gates à un agent A2 de contrôle administratif des dossiers d’urbanisme. Il conserve le guichet et le courrier, rend le cas bas économiquement non viable, et maintient 100 % des décisions publiques chez des collaborateurs qualifiés.

Gate P0 — Opportunité publique

Exiger :

• problème de service public et population concernée ;
• mandat et compétence de l’autorité ;
• options non-IA examinées ;
• baseline de qualité, délai, coût, accès et erreurs ;
• propriétaire administratif et autorité de décision.

Gate P1 — Légalité et impacts

• qualifier finalité, données, décisions et personnes affectées ;
• déterminer les analyses d’impact nécessaires ;
• examiner non-discrimination, accessibilité, langue et exclusion numérique ;
• définir information, explication, contestation et recours humain ;
• associer protection des données, juridique, sécurité, archives et métier.

Gate P2 — Achat et architecture

• exigences auditables dans le marché et le contrat ;
• accès aux journaux, documentation et preuves ;
• sous-traitants, régions, transferts, rétention et entraînement ;
• notification des changements de modèle et incidents ;
• propriété, export, suppression, continuité et sortie ;
• interdiction qu’un secret fournisseur empêche le contrôle légal ;
• tests d’accessibilité et d’interopérabilité.

Les clauses contractuelles types européennes pour l’achat public de systèmes IA sont une ressource d’orientation, à adapter au droit applicable.

Gate P3 — Évaluation indépendante

• jeu de tests représentatif de la population et des cas rares ;
• résultats par segment et gravité ;
• tests de sécurité, abus, dérive et indisponibilité ;
• examen indépendant des seuils et preuves ;
• documentation des limites et incertitudes ;
• aucun pouvoir d’action supérieur à ce qui a été testé.

Gate P4 — Pilote contrôlé

• shadow mode avant toute influence ;
• population, durée, données et agents habilités délimités ;
• supervision humaine dotée du temps et de l’autorité nécessaires ;
• canal de plainte et arrêt immédiat ;
• comparaison publique/interne avec la baseline selon les obligations.

Gate P5 — Production et redevabilité

• décision formelle et risques résiduels acceptés par l’autorité compétente ;
• registre du système et information appropriée ;
• journalisation, archivage, surveillance et audits ;
• recours humain opérationnel ;
• continuité du service sans IA ;
• réévaluation après changement significatif ;
• date et conditions de retrait.

Conditions d’arrêt

Arrêter ou revenir au processus sûr en cas d’effet juridique non autorisé, discrimination grave, atteinte aux données, perte de traçabilité, impossibilité de recours, changement fournisseur non évalué ou dépassement des pouvoirs accordés.