Les banques indiennes devront équiper leurs IA de coupe-circuit

Afin de limiter les risques inhérents aux nouvelles technologies, la Banque de réserve de l’Inde a publié, fin juin, un nouveau cadre de gestion du risque de modèle qui prévoit la désignation de responsables chargés du suivi des décisions prises par l’IA, ainsi que la mise en place de boutons d’arrêt d’urgence.

Le texte demande aux banques de créer une gouvernance couvrant tout le cycle de vie des modèles, de leur conception à leur déploiement. Elles devront aussi assurer la traçabilité des projets, des équipes impliquées et des analyses réalisées. Ces exigences s’appliqueront aux solutions fournies par des prestataires externes, dont elles resteront responsables.

Le cadre introduit enfin des contrôles pour limiter les risques spécifiques liés notamment aux biais algorithmiques, aux erreurs de données ou aux failles de cybersécurité. Le texte doit encore être adopté après la période de consultation.