Réponse · FRIA · classification
Quels usages publics de l’IA relèvent du haut risque (annexe III) ?
Pour une administration ou une entité assurant un service public : l’accès aux services publics essentiels et aux prestations sociales ; l’emploi et la gestion des ressources humaines ; l’éducation et la formation professionnelle ; les services d’urgence et leur priorisation ; l’application de la loi et la migration ; l’administration de la justice et les processus démocratiques. Les systèmes du point 2 (infrastructures critiques) sont à haut risque mais exclus de l’obligation de FRIA.
Accès aux services publics et prestations sociales
- Instruction assistée des demandes d’aide sociale, de logement social, d’aide alimentaire ou de bourses ; détection de fraude aux prestations ; priorisation ou tri des dossiers ; évaluation d’éligibilité.
- C’est la catégorie la plus fréquente en collectivité, et celle dont les effets sur les personnes sont les plus directs.
Emploi, éducation, urgence, sécurité
- Emploi : tri automatisé de candidatures, présélection, aide à la décision sur les promotions ou affectations. La CNIL a indiqué qu’elle exercerait les attributions d’autorité de surveillance pour le champ « travail ».
- Éducation : orientation, affectation des élèves, évaluation automatisée. Attention — la reconnaissance des émotions en contexte éducatif relève des pratiques interdites de l’article 5, pas du haut risque.
- Services d’urgence : triage et priorisation des appels, allocation des moyens d’intervention.
- Application de la loi : dispositifs assistés par IA en police municipale, analyse de flux vidéo. Plusieurs usages voisins relèvent de l’article 5.
La couche invisible
- Les fonctions d’IA ajoutées par mise à jour dans des progiciels d’action sociale, des systèmes de vidéoprotection ou des outils de GRH. Le système n’a pas été acheté comme un système d’IA ; il en est devenu un, sans décision explicite.
La démarche
- Pour chaque système inventorié : tester d’abord contre l’article 5, puis contre l’annexe III en précisant le point retenu, puis contre l’article 50. Documenter le raisonnement, y compris pour les systèmes écartés du haut risque.
Le guide complet : méthode en 6 étapes, mesures supplémentaires, plan de repli.
Lire le guideVoir aussi : Toutes les réponses · Checklist transferts IA · Comparatif des mécanismes