L’Intelligence Artificielle, notre dernier espoir pour une société plus équitable?

Les biais, source principale du problème?

Pourtant nombre d’arguments plaident en faveur d’une société plus équitable, de pratiques plus inclusives et d’équipes plus diversifiées: augmentation de l’innovation, de la créativité, de la cohésion sociale; réduction de la précarité, du chômage et de l’exclusion sociale. Nous avons instauré des quotas, créé des départements Diversité & Inclusion, appointé des ministres et échevins à l’égalité des chances; mis en place des stratégies, formé les équipes, … Rien n’y fait. Aucune solution empêche ou corrige les sources d’inégalités de manière efficace. La raison est simple: nous discriminons tous sans connaître l’étendue de nos biais et des ravages qu’ils causent. Nous pensons être en contrôle de nos pensées et de prendre des décisions justes et objectives alors que notre inconscient a son propre terrain de jeu où il manipule nos pensées avec agilité. Alors que la notion de biais implique une connotation passive, l'impartialité implique une décision active. Nous ne pouvons donc pas simplement nous décharger de nos responsabilités en blâmant lâchement les biais. Discriminer est un choix conscient et la seule manière de ne plus aboutir à ce choix là est de s’éduquer pour que la pensée inconsciente se transforme en un acte conscient.

L’IA comme lanceur d’alerte, mais pas que!

Et si l’IA permettait de jouer un rôle de neutralisateur de biais et d’apporter l’objectivité qui manque à l’Homme ? Les sceptiques la voient comme un risque de reproduire - voir d’augmenter - les biais humains. Les convaincus, comme une opportunité de révéler les biais humains, de comprendre leur impact sur les décisions, et de mesurer le risque. Il est évident que l’IA n’est pas un remède miracle pour guérir des inégalités mais elle n’est pas non plus une source de biais supplémentaire. C’est un outil pour mieux identifier et comprendre les données qui, elles, sont sources de biais. Une préparation méticuleuse des données permettrait donc de développer un algorithme qui tirerait la sonnette d’alarme lorsque des biais sont repérés. Néanmoins, pour identifier toutes les données susceptibles de discriminer, il est nécessaire d’avoir une équipe composée d’un maximum de profils différents du point de vue démographique, cognitif et empirique, qui apporteront chacun leur réalité et leur grille de lecture. Puisque l’IA est basée sur la connaissance du monde qui l’entoure et est le reflet du vécu de ses développeurs, une équipe n’ayant qu’une grille de lecture unique court un risque important de passer au-dessus de données biaisées. Mais repérer les biais n’est pas le seul avantage de l’IA. Elle permet notamment de rendre le marché de l’emploi plus accessible en comblant l’écart entre l’offre et la demande de compétences. Elle aide les entreprises à mieux comprendre l’évolution des métiers et à identifier les compétences dont elles ont besoin pour encourager l’innovation. De même, elle amène plus de précision sur l’expertise de chaque individu et met à leur disposition un coach de carrière personnalisé. L'accès à l’éducation ou aux soins de santé en sont d'autres exemples. Bien que la question d’éthique soit centrale pour garantir des pratiques bienveillantes, l’IA est peut-être notre dernier espoir pour implémenter des changements qui réduisent efficacement et de manière durable les disparités sociales et économiques dans notre société.

Mesurer, c’est savoir.

Encourager l’utilisation de l’IA sans adapter les lois qui la régulent ne fera pas avancer le combat. Pour parler d’égalité des chances et de traitement sur le marché de l’emploi, il faut pouvoir mesurer les données liées à l’identité d’un individu sur base desquelles il peut être discriminé et renforcer l’efficacité des politiques de lutte contre les discriminations. Actuellement, la Belgique interdit la collecte et le traitement de données à caractère personnel qui révéleraient l’origine raciale ou ethnique des individus. Seuls les nom, prénom, nationalité, lieu de naissance et adresse du candidat à l’emploi ou de l’employé sont utilisables à des fins statistiques. Or, de nombreuses victimes de discrimination à l’embauche sont de nationalité belge, d’origine étrangère. Si les causes de discriminations ne peuvent pas être identifiées, analysées et prévenues, qu’en est-il du suivi des performances de l’entreprise en termes de diversité et d’inclusion?

Outre les données, les outils jouent un rôle important dans le suivi de performance et maintes solutions proposent un état des lieux qui permettent à l’entreprise de prédire les efforts qui devront être fournis et mesurer les résultats attendus.

Dès lors, si l’on pense qu’il est primordial d’intégrer les minorités dans le monde professionnel d’aujourd’hui et de demain, nous devons mettre en place des stratégies de diversité et d’inclusion mesurées grâce à des indicateurs de performance et amenant des résultats efficaces pour créer des entreprises à l’image de la société, riche de toute sa diversité.