Finance : comment garantir une gestion éthique par intelligence artificielle

Que ce soit une institution financière traditionnelle ou une fintech, il est important de garantir une intelligence artificielle (IA) à la fois équitable, éthique et transparente. Une chronique de Sophie Kuijt, responsable des données, de l’IA et de l’éthique chez IBM Benelux.

La pandémie fut un déclic pour les organisations qui pensaient investir dans l’IA et qui ont finalement franchi le pas.
La pandémie fut un déclic pour les organisations qui pensaient investir dans l’IA et qui ont finalement franchi le pas. ©Shutterstock
Contribution externe

L'intelligence artificielle (IA) n'est pas une nouveauté pour le secteur des services financiers. De l'identification de la fraude et de la lutte contre la criminalité financière au développement de nouvelles expériences numériques, l'IA est parvenue à démontrer son importance au fil des années. Cependant, le passage à un véritable processus de machine learning (apprentissage automatique) a engendré un nouveau défi dans le cadre de son utilisation par les institutions financières.

La pandémie fut un déclic pour les organisations qui envisageaient d’investir dans l’IA et qui ont finalement décidé de franchir le pas. Certaines d’entre elles ont été convaincues par les avantages que l’IA apporte en termes d’efficacité, ou par le rôle qu’elle joue dans le travail à distance. Cependant, de nombreuses organisations n’ont pas tenu compte des implications éthiques.

Au cœur du défi de l'IA se trouve "l'explicabilité" de la prise de décision avec les modèles de machine learning, un problème souvent appelé la "boîte noire" de l'IA. De nombreuses organisations sont tombées, sans le savoir, dans ce piège consistant à se fier à des modèles d'IA sans pouvoir expliquer les erreurs commises et leur provenance. Elles sont également confrontées à un autre défi : la garantie d'une IA juste et impartiale.

Les institutions financières sont aujourd’hui à la croisée des chemins. Elles sont poussées à adopter de nouvelles technologies favorisant leur efficacité opérationnelle afin de rester compétitives et ont donc plus que jamais intérêt à surmonter le problème de la "boîte noire". En plus de cela, elles doivent garantir des résultats équitables ainsi qu’instaurer une confiance en leurs mécanismes décisionnels de l’IA.

Améliorer la confiance en l’IA

Avant d’intégrer l’IA au sein de leurs opérations, les institutions financières doivent comprendre qu’une IA éthique commence par la mise en place de principes directeurs et de garde-fous en amont. Elles doivent être capables d’établir une définition de l’équité correspondant à leur secteur et d’établir la façon dont celle-ci peut être contrôlée.

Elles peuvent ensuite commencer à examiner les cas d’utilisation spécifiques qui emploient des modèles d’IA. Par exemple, la manière dont un modèle d’intelligence artificielle pourrait réagir dans divers scénarios de risque lié au crédit. Quels seront les paramètres qui influenceront la prise de décision ? Établira-t-elle une corrélation injuste entre le risque et les données démographiques ?

Tous ces éléments doivent être pris en compte tout au long de l’utilisation de l’IA, depuis la création et la vérification des modèles jusqu’à leur déploiement, leur utilisation et leur suivi. Les organisations ont aujourd’hui accès à des plateformes guidant ce processus, tout en veillant à ce que les modèles soient justes et impartiaux, avec les capacités de visualiser et d’expliquer les résultats. Avec une plus grande confiance en leur IA, les institutions financières pourraient passer moins de temps sur des tâches laborieuses afin de garantir leur fiabilité et se concentrer sur des tâches à plus haute valeur ajoutée.

Taille différente, mêmes principes

Que ce soit une institution financière traditionnelle ou une fintech, il est important de garantir une IA à la fois équitable, éthique et transparente. Les institutions traditionnelles disposent souvent déjà d’une méthodologie dans la gestion du risque de leurs modèles mais sont moins agiles dans l’optique d’un changement d’approche. Les fintech n’ont peut-être pas d’investissement existant mais elles ont plus de liberté pour choisir les meilleures plateformes de développement qui disposent de fortes capacités intégrées et d’un cadre éthique.

Prochaines étapes

Les organisations devront être plus vigilantes que jamais afin de s’assurer que leur technologie fonctionne de façon éthique, plutôt que de contribuer à un parti pris systématique. Les prochaines réglementations gouvernementales continueront d’ailleurs de se focaliser sur une utilisation responsable de cette technologie. Il n’existe pas de chemin rapide et facile pour établir une confiance en un modèle d’IA. Cependant, la mise en place continue de garde-fous, l’élimination de préjugés et l’amélioration de "l’explicabilité" restent les meilleurs points de départ.

Sur le même sujet