Encadrer une décision avant de l’automatiser.
Une organisation du secteur bancaire et financier en Afrique de l’Ouest s’apprêtait à automatiser une décision opérationnelle à partir de modèles d’intelligence artificielle.
Le périmètre des données utilisées, les responsabilités de validation et les garde-fous de supervision n’étaient pas formalisés. Une décision pouvait donc être automatisée sans traçabilité ni droit de regard humain clairement défini.
L’enjeu est de poser ce cadre avant la mise en production : savoir quelles données le modèle mobilise, qui valide quoi selon le niveau de risque, et comment le modèle est suivi une fois en service.
Un cadre de gouvernance validé avant la mise en production.
Box Africa a cadré le dispositif avant toute mise en production, en distinguant ce qui relève des données de ce qui relève de la décision automatisée.
Les données
Gouvernance des données
Cartographier les sources et leur sensibilité, documenter le périmètre utilisé par le modèle et ses règles de qualité.
La décision
Gouvernance du modèle
Définir les rôles de validation humaine selon le niveau de risque de la décision et les indicateurs de supervision une fois en service.
L’automatisation n’est activée qu’une fois le cadre validé. Les parties prenantes métier et conformité valident le périmètre de données, les rôles de validation et les indicateurs de supervision avant la mise en service.
Du cadrage à la supervision
Si la décision présente un risque élevé, une validation humaine est requise avant toute action : le modèle éclaire, un responsable identifié tranche.
Si le risque est maîtrisé, le modèle décide dans une enveloppe définie, avec un journal des décisions et une revue périodique.
Dans ce dispositif proposé, des indicateurs suivent la qualité des données et le comportement du modèle ; un écart déclenche une revue. Ces modalités illustrent le cadre sans constituer un engagement contractuel publié.
Mesurer la maîtrise de la décision automatisée.
- 01
100 % des sources du périmètre documentées avant la mise en service
48 sources décrites sur 48 avant l’activation, contre 19 sur 48, soit 40 %, lors de l’état des lieux initial.
- 02
0 décision à risque élevé exécutée sans validation humaine
Sur 312 décisions classées à risque élevé pendant les six mois suivant la mise en service, toutes ont reçu une validation humaine avant exécution.
- 03
−38 % d’écarts de qualité des données détectés en production
De 42 à 26 écarts mensuels en moyenne entre le premier et le second trimestre de supervision : (42 − 26) ÷ 42 = 38 %.
Méthode fictive : état des lieux initial, puis deux trimestres de supervision sur le même périmètre de données et les mêmes règles de classement du risque. Ces chiffres sont inventés pour montrer une restitution possible. Ils ne décrivent pas des résultats réels du client.
BUILD · Smart AI & Decision