Alias
Contrôle humain, human oversight.
Définition
La personne doit disposer d'informations suffisantes, de temps et d'un moyen effectif d'intervenir. Un bouton « valider » n'est pas un contrôle utile si le dossier n'est pas accessible ou si la validation devient automatique par habitude.
Le moment du contrôle dépend de l'usage : avant une action importante, pendant son exécution ou lors d'une revue des résultats. Il doit être défini, pas laissé implicite.
Exemple
Exemple pédagogique : le comité reçoit une synthèse avec les passages sources et les incertitudes. Il peut demander une pièce complémentaire ou refuser l'arbitrage préparé.
Si le système publie la décision avant cette lecture, le contrôle arrive trop tard. Préparer une décision et l'approuver doivent rester deux états distincts du parcours.
À ne pas confondre avec
La présence d'une personne dans la boucle ne garantit pas l'efficacité du contrôle. La confiance excessive dans un résultat automatisé peut conduire à accepter une erreur malgré l'existence d'une étape de validation.
Voir aussi
Évaluation IA, Traçabilité IA, Appel d'outil.
Sources
CNIL — Utiliser un système d'IA en production (nouvel onglet). Application au travail de projet et exemple pédagogique originaux, sans résultat d'essai revendiqué.