Box Africa intègre une IA utile et gouvernée dans les parcours métier et les plateformes.
Gouvernée veut dire que quatre choses sont posées avant le premier usage : le niveau de risque de chaque cas, les données autorisées et interdites, la manière dont on évalue les sorties, et les points où une personne tranche.
L’intervention humaine se conçoit avec le parcours
Elle n’est pas un filet de sécurité ajouté après coup : elle se place aux endroits où une erreur aurait une conséquence. Ailleurs, elle ralentit sans protéger.
La surveillance se prévoit avec le reste
Un usage qui dérive se voit dans les données d’exploitation, pas dans la démonstration initiale.
À retenir avant le premier usage
Fixer le niveau de risque, les données autorisées, l’évaluation des sorties et les points de décision humaine. Placer l’intervention humaine là où une erreur compte. Prévoir la surveillance dès la conception.
